Chatbot im Bürgerrat: Wie KI beim Diskutieren helfen kann
mit Emilia Blank, Politikwissenschaftlerin an der Bergischen Universität Wuppertal
Darum geht's in dieser Folge
Wer mitdiskutieren will, braucht Informationen. In einem Bürgerrat kommen 50 ausgeloste Menschen zusammen, hören Vorträge zu einem Thema und sollen am Ende eine gemeinsame Empfehlung formulieren. Doch nicht jeder versteht auf Anhieb alles, nicht jeder möchte vor der gesamten Gruppe nachfragen und nicht jede Information ist später noch präsent. Kann KI hier helfen?
Ein Forschungsprojekt der Bergischen Universität Wuppertal hat genau das getestet. Ein eigens entwickelter Chatbot kannte ausschließlich die Vorträge des Verfahrens. Er sollte keine zusätzlichen Argumente liefern und erst recht keine Meinung vertreten. Seine Aufgabe war wesentlich bescheidener: vorhandenes Wissen zugänglich machen.
Gerade darin liegt eine Erkenntnis des Experiments, die sich auch auf andere Situationen übertragen lässt: KI muss nicht mitdiskutieren, um eine Diskussion besser zu machen. Sie kann einfach dabei helfen, dass Menschen auf einer gemeinsamen Informationsgrundlage miteinander sprechen.
Diese Sonderausgabe erscheint zum Internationalen Tag der Demokratie. Unter dem Motto „Demokratie braucht viele Stimmen“ setzen journalistische Medien in Deutschland dazu im Rahmen einer Aktionswoche gemeinsam ein Zeichen.
Dahinter steht die Überzeugung, dass vielfältige und verlässliche Informationen die Grundlage sind, damit Menschen sich eine eigene Meinung bilden können. Auch wir beteiligen uns mit KAI an dieser Aktion.
Emilia Blank ist Politikwissenschaftlerin an der Bergischen Universität Wuppertal. Sie forscht dazu, welche Rolle künstliche Intelligenz in Beteiligungsprozessen spielen kann, und arbeitet im Projekt „Künstliche Intelligenz und Bürgerräte“, gefördert vom Bundesministerium für Forschung, Technologie und Raumfahrt (BMFTR). Ihr Institut begleitet Bürgerräte wissenschaftlich und betreibt eine Datenbank, die alle Verfahren in Deutschland seit 2017 erfasst. Beteiligt war sie unter anderem an der Evaluation des Bundestags-Bürgerrats „Ernährung im Wandel“.
Das lernen Sie in dieser Folge
- Warum ein KI-Assistent nicht möglichst viel wissen muss, sondern für bestimmte Aufgaben von einer bewusst begrenzten Wissensbasis profitieren kann
- Wie sich die Rolle einer KI so definieren lässt, dass sie Informationen bereitstellt, ohne selbst zum Meinungsmacher zu werden
- Warum der Einsatz eines Chatbots die persönliche Diskussion nicht zwangsläufig verdrängt
Sie möchten die wichtigsten Erkenntnisse regelmäßig kompakt aufbereitet erhalten? In unserem Newsletter fassen wir die zentralen Learnings aus den Podcastgesprächen zusammen und ordnen sie für die Praxis ein.
Die Überraschung
Der Chatbot saß mit am Tisch und blieb trotzdem Nebendarsteller
Die Ausgangsfrage des Forschungsprojekts war durchaus grundsätzlicher Natur: Kann KI eine Diskussion unterstützen, an der alle beteiligt sein sollen und an deren Ende ein gemeinsamer Konsens steht? Vor Beginn des Experiments beschäftigte das Forschungsteam allerdings auch eine andere Möglichkeit. Was passiert, wenn ein Chatbot plötzlich mit am Tisch sitzt? Könnten die Teilnehmenden anfangen, mit ihm statt miteinander zu reden?
Diese Sorge bestätigte sich nicht. „Den Menschen war die Face-to-Face-Interaktion deutlich wichtiger, als mit einer technologischen Instanz zu interagieren. Sie haben sich lieber gegenseitig gefragt, ob etwas verstanden wurde, als sich auf die KI zu verlassen“, berichtet die Politikwissenschaftlerin Emilia Blank. Das ist ein bemerkenswertes Ergebnis. Der Chatbot wurde damit nicht zum zusätzlichen Diskussionsteilnehmer, sondern blieb ein Werkzeug innerhalb einer weiterhin menschlichen Diskussion.
Der Rahmen dafür war ein Bürgerrat. 50 Menschen werden aus dem Einwohnermelderegister ausgelost, wobei Kriterien wie Alter, Geschlecht oder Bildungsgrad berücksichtigt werden können, um eine möglichst diverse Gruppe zusammenzubringen. Vier Tage lang beschäftigen sie sich mit einem Thema. Zu einzelnen Fragestellungen hören sie unterschiedliche Perspektiven und diskutieren anschließend in kleinen Gruppen. Dafür geben sich die Teilnehmenden gemeinsame Gesprächsregeln. Am Ende steht keine klassische Mehrheitsentscheidung, sondern eine Empfehlung, mit der alle leben können. Dieses Bürgergutachten geht anschließend an das politische Gremium, das den Bürgerrat eingesetzt hat. Bindend ist die Empfehlung nicht.
Fakten statt Meinung
Warum die KI bewusst nicht alles wissen durfte
Eine Voraussetzung für eine gute Diskussion ist, dass alle Beteiligten die notwendigen Informationen verstehen und bei Bedarf wiederfinden können. Genau an diesem Punkt setzte der Chatbot an. Wenn jemand nach einem Vortrag etwas nicht verstanden hatte und nicht vor der gesamten Gruppe nachfragen wollte, konnte er oder sie die KI fragen. Entscheidend war dabei, was der Chatbot wusste und was nicht.
Seine Wissensbasis bestand ausschließlich aus den Vorträgen der Expert*innen. Das System sollte also gerade nicht das gesamte Wissen des Internets in die Diskussion tragen. Die Begrenzung war Teil des Konzepts: Die Teilnehmenden sollten weiterhin ihr eigenes Alltagswissen und ihre eigenen Erfahrungen einbringen und in ihrer Meinungsbildung möglichst nicht von der KI beeinflusst werden.
Als Modell nutzte das Forschungsteam Llama 2 von Meta, das lokal an der Universität gehostet wurde. Zusätzlich bekam die KI klare Vorgaben. „Die KI wurde in einem Metaprompt dazu aufgefordert, nur Fakten und keine Meinung wiederzugeben, beziehungsweise Meinungen nur differenziert mit der Gegenposition. Und man kann das Kreativitätslevel auf das Niedrigstmögliche schrauben, damit die Gefahr von Halluzinationen verringert wird“, erklärt Blank.
Das System war trotzdem nicht fehlerfrei. Der eingesetzte Chatbot war eine Vorstufe eines Prototyps und hatte zwischenzeitlich technische Probleme. Auch grundsätzliche Risiken wie Bias verschwinden durch eine begrenzte Wissensbasis nicht. Stereotype oder Vorurteile können über Daten oder das Modell in Ergebnisse einfließen. Blank: „Dieser Bias ist in allen Daten, die man verwendet, drin – genauso wie er auch in allen Menschen drin ist.“
Gerade deshalb liefert das Experiment einen interessanten Hinweis für andere KI-Anwendungen: Nicht immer ist die leistungsfähigste KI diejenige, die möglichst viele Quellen und Möglichkeiten besitzt. Für eine klar umrissene Aufgabe kann gerade die Begrenzung Teil des Konzepts sein.
Die Nutzung
Aus einem technischen Werkzeug wurde ein gemeinsames Hilfsmittel
In jeder Kleingruppe lag ein Laptop mit dem Chatbot auf dem Tisch. Die Nutzung war freiwillig. Wer wollte, konnte fragen; wer keinen Bedarf sah, ließ es bleiben. Interessant war, wie sich die Gruppen das Werkzeug aneignete. Häufig wurde der Chatbot nicht individuell genutzt. Stattdessen bildeten sich spontan Rollen heraus: Eine Person tippte eine Frage ein, während die anderen über die Schulter schauten. Die KI wurde damit selbst zum Gegenstand gemeinsamer Interaktion.
Allerdings brauchte das Angebot Zeit. Von Tag eins bis Tag vier nahm die Zahl der Anfragen kontinuierlich zu. Das hatte auch mit dem Ablauf zu tun: Am letzten Tag mussten die Teilnehmenden ihre Empfehlungen formulieren und benötigten dafür Informationen aus den Vorträgen der vorherigen Tage.
Auch das Alter spielte eine Rolle. In Interviews nach dem Experiment zeigte sich, dass ältere Teilnehmende teilweise weniger technikaffin waren. Für überflüssig hielten sie den Chatbot deshalb nicht unbedingt. Emilia Blank fasst eine Haltung so zusammen: „Wenn es nicht für mich ist, vielleicht ist es ja für jemand anders.“
Natürlich gab es auch kritische Situationen. Einzelne Teilnehmende wandten sich zeitweise vom Gespräch ab und dem Laptop zu. Manche nutzten zusätzlich eigene KI-Chatbots auf ihren Smartphones. Für Blank gehört auch das zur Gruppendynamik. Entscheidend ist deshalb nicht allein, ob KI vorhanden ist, sondern wie sie in einen sozialen Prozess eingebettet wird.
Der Mensch bleibt entscheidend
Was einen guten KI-Assistenten ausmacht
Das Forschungsprojekt läuft noch. Ein endgültiges Urteil wäre deshalb verfrüht. Trotzdem lässt sich aus dem Experiment bereits eine grundsätzliche Beobachtung ableiten. Beim Einsatz von KI wird häufig zuerst über technische Möglichkeiten gesprochen: Welches Modell ist das leistungsfähigste? Auf welche Daten kann es zugreifen? Was kann es zusätzlich übernehmen?
Der Bürgerrat legt eine andere Perspektive nahe. Die bessere Ausgangsfrage könnte lauten: Welche konkrete Aufgabe soll die KI hier eigentlich erfüllen? In diesem Fall war die Antwort bewusst eng gefasst. Der Chatbot sollte keine Entscheidungen treffen, keinen Konsens herstellen und niemanden überzeugen. Er sollte Informationen aus einer definierten Wissensbasis verfügbar machen. Diskutieren, Argumente abwägen und zu einer gemeinsamen Empfehlung kommen, mussten weiterhin die Menschen.
Was man daraus lernen kann
Damit reicht der Blick über Bürgerräte hinaus. Auch in Workshops, Besprechungen oder anderen Situationen, in denen Menschen gemeinsam Informationen verarbeiten und Entscheidungen vorbereiten, stellt sich dieselbe Frage: Soll die KI selbst mitreden oder soll sie den Menschen helfen, besser miteinander reden zu können?
Das Experiment aus Wuppertal spricht zumindest dafür, die zweite Möglichkeit ernst zu nehmen. Vielleicht liegt ein besonders sinnvoller Einsatz von KI nicht darin, ihr möglichst viel Verantwortung zu übertragen. Sondern darin, sehr genau zu bestimmen, wo sie unterstützen kann und wo der Mensch die Hauptrolle behalten soll.