Das Massachusetts Institute of Technology (MIT) veranstaltete im Zuge des letztwöchigen Ars Electronica Festivals dezidiert Workshops, die sich "Large-Language-Modellen" (LLMs) widmen – jener Technologie, die auch hinter Sprachprogrammen wie dem vieldiskutierten ChatGPT steckt. DER STANDARD traf auf dem Event Deb Roy, Professor am MIT und Leiter des Zentrums für Konstruktive Kommunikation. Der langjährige Beobachter der KI-Forschung sieht Potenzial in Anwendungen, die Demokratie fördern.

STANDARD: Was ist Ihr Fachgebiet, womit beschäftigen Sie sich in Ihrer Forschung?

Roy: Die letzten 15 Jahre verbrachte ich im Grunde damit, soziale Medien zu analysieren, insbesondere ihren Informationsfluss und ihre Struktur. Seit fünf bis sechs Jahren veränderte ich meinen praktischen und theoretischen Fokus dahin, Alternativen zu sozialen Medien zu entwickeln.

STANDARD: Wenn wir über soziale Medien sprechen, geht es viel um Vertrauen. Woran liegt es, dass das Vertrauen in Institutionen, Journalismus und Wissenschaft in den letzten Jahren so stark abgenommen hat?

Roy: Ich glaube, dafür gibt es mehrere Gründe. Es beginnt bei der Einkommensungleichheit und der politischen Polarisierung – dafür gibt es in vielen Teilen der Welt auch historische Gründe. Womit ich mich aber hauptsächlich beschäftige, ist die Frage: Wie kommunizieren wir? Wir haben nur mit ein paar wenigen Menschen regelmäßigen und direkten Kontakt, vielleicht wenige Hundert.

STANDARD: Oft spricht man von 150 Personen, mit denen ein Einzelner Kontakt halten kann.

Roy: Kommen dazu noch Bekanntschaften und flüchtigere Konversationen, wird die Gruppe wahrscheinlich etwas größer. Aber es ist sicher eine begrenzte Zahl. Wir vernetzten uns aber eher mit Menschen, die uns in ihren Meinungen ähnlich sind. Das hat sich mit Social Media nicht geändert. Und das ist einer der Faktoren, die dazu geführt haben, dass unser Vertrauen in die Institutionen und in die Menschen untereinander schwindet. Wenn man sich anschaut, was in unserem öffentlichen Raum passiert, wenn wir versuchen, Veränderungen herbeizuführen – diese öffentlichen Räume werden oft von extremen, lauten, und wütenden Stimmen dominiert.

STANDARD: Woran liegt das?

Roy: Der Grund dafür ist, dass soziale Medien ständig versuchen, ihre Reichweite zu vergrößern. Es gibt inzwischen wissenschaftliche Belege dafür, dass daraus systematische Verzerrungen entstehen. Man nennt das ein soziales Prisma. Wie fällen soziale Institutionen ihre Entscheidungen? Viele stützen sich hauptsächlich auf Fokusgruppen und Umfragen. Dafür sammeln sie Meinungen, die aber davon geprägt sind, was wir in den Medien hören und sehen. Das sind nur einige der Faktoren, die meiner Meinung nach zu einem eingeschränkten Verständnis untereinander führen. Öffentliche Debatten in den sozialen Medien sind oft von den realen Perspektiven und Erfahrungen der Menschen abgekoppelt.

STANDARD: Wie genau veränderten sich Social-Media-Plattformen?

Roy: Social-Media-Plattformen waren in ihren Anfangsjahren soziale Netzwerke – es ging darum, sich zu vernetzen. Nach und nach wurden diese Netzwerke zu sozialen Medien – die Logik der klassischen Medien wurde eingeführt: Es ging plötzlich darum, eine möglichst große Reichweite zu haben. Aber die meisten Menschen möchten nicht unbedingt ein Publikum aufbauen oder immer Teil eines Publikums sein. Es gäbe auch andere Kommunikationsformen. Aber die Plattformen haben ein Modell übernommen, das eine Dynamik der Performance fördert. Die Frage ist dann eher, in welchem Ausmaß ein Mensch reiner Konsument anstatt ein kreativer, aktiver Teilnehmer am Geschehen ist. Dieses Gleichgewicht ist gestört.

STANDARD: Und das beeinflusst auch die Politik?

Roy: Wenn alles zur Performance wird, ist das reines Gift für die Demokratie. Man weiß nicht mehr, was tatsächlich in den Köpfen der Menschen vorgeht. Wenn Sie in den USA hinter verschlossenen Türen mit Politikern reden, wird klar, dass sie einige gute Ideen haben. Treten die Politiker aber zurück ins Auge der Öffentlichkeit, müssen sie eine Performance abliefern, und dabei extremere Positionen vertreten. Weil sie die Logik der Medien erfüllen müssen.

DER STANDARD: Ihre aktuelle Arbeit am MIT beschäftigt sich mit Technologien, die an einer demokratischeren Gegenwart und Zukunft arbeiten. Was kann man sich darunter vorstellen?

Roy: Das Bürgerforum ist ein Beispiel für eine neuere Arbeit. Wir haben uns überlegt, wie wir eine Technik entwickeln können, die das Zuhören und den Dialog fördern. Wenn ich Sie als Bürger frage: "Welche persönlichen Erfahrungen haben Sie gemacht, die mit einer Hoffnung oder einer Sorge verbunden sind?", dann werden Sie auch eher persönliche Details und Geschichten teilen. Diese Erfahrungen sind aber meist nicht Teil der öffentlichen Debatten.

STANDARD: Wie werden die Teilnehmerinnen und Teilnehmer ausgewählt?

Roy: Bürgerforen funktionieren ähnlich wie das Demokratiemodell im alten Griechenland. Mittels Losverfahren werden Menschen gefragt, ob sie teilnehmen möchten. Einige werden zusagen, andere nicht. Um möglichst viele Meinungen zu vertreten, wird das Losverfahren so oft wiederholt, bis genug Personen aus unterschiedlichsten Gesellschaftsschichten Teil der Versammlung sind. Dann berät man sich gemeinsam zu einem Thema, und im Idealfall findet sich am Ende ein Konsens. Wir arbeiten bereits mit einer Vielzahl an Organisationen, lokalen Behörden, Gemeinden und Städten zusammen, um Bürgerforen in Zukunft mit unserer Plattform zu verbessern. Es gibt da eine große Nachfrage.

STANDARD: Mit welchen Städten gab es schon Kooperationen?

Roy: Wir haben mit New York City, Portland, Wisconsin, und vielen anderen in mehr als 40 US-Bundesstaaten zusammengearbeitet. Unsere Plattform wurde in der Bürgerbeteiligung genutzt, um sich gegenseitig besser zuzuhören.

STANDARD: Wozu braucht man KI in einem Bürgerforum?

Roy: Zur Skalierung. Mit einer KI können die Geschichten von tausenden oder hunderttausenden Menschen analysiert und verknüpft werden. So können wir Anknüpfungspunkte finden, anstatt ständig mit polarisierenden Meinungen zu arbeiten. Mit der Zustimmung der Teilnehmenden kann man die Dialoge aufnehmen und Teile davon weitergeben. Eine Gruppe an Menschen, die niemals mit einer anderen Gruppe sprechen würde, kann diese Geschichten dann nachhören.

STANDARD: Was ist das Ziel dabei?

Roy: Letztlich sprechen wir hoffentlich produktiver miteinander. Wenn die Menschen aber keine Entscheidungen mehr respektieren, nur weil sie nicht in ihrem Interesse sind: Das ist das Ende der Demokratie. Wir alle müssen bereit sein, Dinge zu akzeptieren, die unseren persönlichen Vorstellungen widerstreben.

STANDARD: Wie kann man sicherstellen, dass die Entscheidungen im Bürgerforum Wirkung zeigen?

Roy: In den USA wie auch in manchen europäischen Ländern werden Schöffen, also Laienrichter eingesetzt. Sie haben eine große Verantwortung und daher auch eine hohe Entscheidungskraft im Rechtssystem. Bei den Bürgerforen ist es ein wenig anders. In den vergangenen Jahren gab es aber bereits einige Bürgerversammlungen, die Wirkung zeigten. In Irland konnte mit dem Prozess der Bürgerversammlung eine neue Gesetzgebung ins Leben gerufen werden. Dabei ging es um Abtreibung, ein sehr polarisierendes Thema. Mithilfe des Bürgerforums konnte aber ein Konsens gefunden werden.

STANDARD: Glauben Sie, dass wir durch die Weiterentwicklung der KI ein tieferes Verständnis dafür gewinnen, wie menschliche Intelligenz funktioniert?

Roy: Absolut. Es gab in den vergangenen Jahren eine Transformation in den Kognitions- und Sozialwissenschaften. Das Feld "Computational Social Science" hat sich gerade deswegen entwickelt, weil wir so viele Daten zur Verfügung haben. Dafür braucht es natürlich die Zustimmung der Menschen. Mit der Analyse und der Ermittlung von Sinnzusammenhängen haben wir aber wichtige Instrumente, um uns selbst zu verstehen.

STANDARD: Von 2013 bis 2017 waren Sie der leitende Medienwissenschafter von Twitter. Spulen wir ins Jahr 2023 vor: Hat Twitter noch eine Zukunft?

Roy: (lacht) Natürlich hat es eine Zukunft, aber die sieht ganz anders aus als seine Vergangenheit. Ich hoffe, das war ein Weckruf, um über Macht nachzudenken. Elon Musk kaufte als Privatperson eine Plattform für öffentliche Debatten. Das zeigt die Zerbrechlichkeit öffentlicher Räume. Auch jenseits von Twitter wird sichtbar, wie eine sehr kleine Anzahl von Unternehmen und Einzelpersonen öffentliche Räume gestalten. Ich glaube aber nicht, dass Twitter verschwinden wird, das ist unwahrscheinlich.

STANDARD: Brauchen wir also soziale Medien ohne Gewinnabsicht?

Roy: Selbst wenn die Gründer eines sozialen Netzwerks eine gute Sache im Sinn haben: Der Kapitalismus und der Ruf nach Profit verlagern unweigerlich den Fokus. Und ich weiß nicht, wie man dem entkommen kann, ohne eine Non-Profit-Organisation aufzubauen. Das Problem ist aber nicht nur, dass Social-Media Unternehmen Gewinn machen müssen, sondern dass sich vieles um Entertainment dreht. Es gibt praktikable Alternativen zu gewinnorientierten Plattformen. Internationale Organisationen brauchen für ihre Arbeit öffentliche Mittel. Ein gutes Beispiel ist das Rote Kreuz, da fließt eine Menge Geld rein.

STANDARD: Ist das hilfreich für die Demokratie?

Roy: Wenn Sie eine Bewegung starten wollen wie die Me-Too-Bewegung oder eine politische Debatte, kann Social Media dafür durchaus ein gutes Tool sein. Aber es gibt so viele andere Kommunikationsbedürfnisse in einer funktionierenden Demokratie, für die die Medien und Rundfunkmodelle nicht geeignet sind. Ich glaube nicht, dass es unsere Aufgabe ist, die sozialen Medien zu reparieren oder zu adaptieren. Wir sollten vielmehr über eine andere Form der Kommunikation nachdenken. Die Frage, die uns (am MIT, Anm.) motiviert, ist: Wo ist das soziale Netzwerk für Bürger und Demokratie? Wir bauen ein soziales Netzwerk auf, das auf Zuhören und Dialog ausgerichtet ist.

STANDARD: Eine Frage, die man sich für etliche Bereiche des öffentlichen Lebens stellt: Was erwartet uns in den nächsten fünf bis zehn Jahren?

Roy: Kulturell erleben wir bereits heute eine große Polarisierung. Wir befinden uns mitten in einer technologischen Revolution, weil wir es mit großen Sprachmodellen und generativer KI zu tun haben. Das wird vieles in unserem Leben verändern. Jeder, der mir sagt, er könne die Zukunft vorhersehen, macht mich misstrauisch. Denn in der Geschwindigkeit, mit der die Menschheit die Technologie vorantreibt, ist nur eines klar: Die Veränderung wird kommen. Wer aber der Meinung ist, die Welt sei nicht perfekt, der kann diese Veränderungen auch als Chance sehen. (Sebastian Lang, 14.9.2023)