Seit vielen Jahren wird Dirk Helbing nicht müde, klar anzusprechen, wohin die Transformation zu einer digitalisierten Gesellschaft führen kann, wenn man sie den Marktmächten überlässt. Der renommierte Soziologe und Physiker von der ETH Zürich ist aber kein Technologiepessimist, er hat auch eine ganze Reihe von Lösungen für ein digitales Upgrade der Demokratie parat. Im Interview spricht er über den unsichtbaren "Krieg um unsere Köpfe" und darüber, wie Bürgerinnen und Bürger sich in Zukunft auf demokratischen Plattformen selbst organisieren könnten.
STANDARD: Die einst verheißungsvolle digitale Revolution scheint gerade in eine Sackgasse zu geraten: Wir sind umgeben von Deepfakes und ferngesteuerten Bot-Kampagnen, die Wahlen beeinflussen, erleben eine starke Polarisierung in den sozialen Medien, und aus allen Ecken schießen KI-Systeme hervor, deren Potenziale sich noch kaum abschätzen lassen. Was bedeutet das für die Demokratie?
Helbing: Ich war immer ein Befürworter der Digitalisierung. Aber wir haben auf dem Weg ein paar Abzweigungen verpasst, sind in die falsche Richtung gefahren, und jetzt müssen wir das ausbaden. Eine Entwicklung, welche die Demokratie viel fundamentaler unterminiert, als den meisten bewusst ist, ist die Kombination von Profiling, Scoring und Targeting (Technologien, die persönliche Nutzerprofile bewerten und einteilen, um gezielt Werbung ausspielen zu können, Anm.). Das hat insbesondere drei der Grundpfeiler der Demokratie erschüttert, um nicht zu sagen zerstört. Und zwar die freie Wahl, die geheime Wahl und das Prinzip "eine Person, eine Stimme". Die geheime Wahl wird ausgehebelt, weil man mithilfe der Daten, die über eine Person gesammelt werden, letzten Endes erraten kann, was sie wählen wird. Selbst wenn Pseudonyme verwendet werden, was der Datenschutz verlangt, ist es trotzdem möglich, anhand von Eigenschaften und Vorlieben der Personen Microtargeting zu betreiben und sie so zu manipulieren. Das heißt, auch die freie Wahl ist infrage gestellt. Das macht es letztlich auch möglich, dass diejenigen, die am meisten Geld investieren in die Meinungsbildung, fast so etwas wie Stimmenkauf betreiben können. Es gilt dann nicht mehr "eine Person, eine Stimme", sondern: Wer mehr Geld investiert, bekommt mehr Stimmen. So war die Demokratie nicht gedacht.
STANDARD: Können Maßnahmen wie die kürzlich durch die EU eingeführten Transparenzregeln für politische Werbung, die Microtargeting sichtbarer machen sollen, etwas gegen diese Entwicklungen ausrichten?
Helbing: Wir haben jetzt schon Wahlmanipulation in großem Stil. Es hilft meiner Meinung nach nicht viel, wenn man jetzt mehr Transparenz schafft oder Microtargeting für Parteien verbietet, weil Meinungsbildung ja auch außerhalb der Parteienlandschaft stattfindet. Wenn man etwa Stimmung gegen Zugewanderte schürt, weiß man ja, welche Parteien davon profitieren. Diese Manipulationsmethoden sind zum Teil sehr mächtig. Je mehr man weiß über die Menschen, desto gezielter kann man versuchen, sie in bestimmte Richtungen zu lenken in ihrem Denken, Fühlen und Handeln. Im Grunde genommen ist Targeting nichts anderes als eine moderne Waffe im Informationskrieg. Wir werden aber nicht nur von einer Seite bearbeitet, sondern es gibt einen Krieg um unsere Köpfe, das heißt Werbefirmen, IT-Unternehmen und verschiedene Supermächte rund um die Welt – sie alle wollen uns in ihrem Sinn beeinflussen. Es ist so, als würden gleichzeitig mehrere Leute die ganze Zeit auf uns einreden, was wir jetzt tun sollen. Das kann nicht im Sinne einer selbstbestimmten, aufgeklärten Entscheidungsfindung sein. Es führt zudem zu kriegsartigen Begleiterscheinungen wie Hate-Speech, Fake News und zu einer Desinformationspandemie, wie wir sie derzeit haben.
STANDARD: Von welchem Umfang an Wahlmanipulationen können wir ausgehen?
Helbing: Einer der ersten öffentlich bekannten Manipulationsfälle dieser Art war der Cambridge-Analytica-Skandal, bei dem Millionen von Facebook-Nutzerdaten für den US-Wahlkampf 2016 und die Brexit-Kampagne missbraucht wurden. Allerdings sind im letzten Jahrzehnt mehr als 60 Demokratien mit solchen Methoden unterminiert worden. Das ist nach wie vor zu wenig bekannt. Wenn es möglich ist, Regierungsbildungen auf diese Art und Weise zu beeinflussen, können über die Zeit Gesellschaften umgebaut werden. Die Schutzmechanismen der EU sind offensichtlich nicht ausreichend, und in anderen Weltregionen gibt es noch weniger.
STANDARD: Befinden wir uns also schon mitten in einem Umbruch, in dem die Digitalisierung demokratiezersetzend wirkt? Was ist schiefgelaufen?
Helbing: Man hat hier die Chancen der Digitalisierung nicht richtig genutzt. Eigentlich waren wir auf einem guten Weg. Es gab viele neue Ideen und Ansätze: Open Data, Open Source, Open Innovation, Open Access, Fablabs, Makerspaces, Hackathons, Citizen-Science und vieles mehr. Es ging darum, die Herausforderungen der Zukunft gemeinsam und solidarisch anzugehen und kooperativ Lösungen zu finden. Das ist nicht nur von der Politik nicht ausreichend gefördert worden, die Entwicklungen sind regelrecht unterminiert worden. Es geht nur noch um den blanken Kampf um Geld und Macht, anstatt dass man sich fragt, wie wir das Wirtschaftssystem reparieren, das für Mensch und Umwelt nicht mehr richtig funktioniert. Wir haben die Digitalisierung insbesondere nicht als Chance genutzt, um die Begrenztheit des materiellen Zeitalters zu überwinden, Stichwort Nachhaltigkeitskrise.
"Je mehr man weiß über die Menschen, desto gezielter kann man versuchen, sie in bestimmte Richtungen zu lenken in ihrem Denken, Fühlen und Handeln. Im Grunde genommen ist Targeting nichts anderes als eine moderne Waffe im Informationskrieg."
STANDARD: Wie könnte es besser funktionieren, etwa die Verteilung von Ressourcen besser zu steuern?
Helbing: Wir könnten die Vorzüge der Digitalisierung allen zugänglich machen, zumal sich Informationstechnologien ohne allzu großen Aufwand der ganzen Welt zur Verfügung stellen lassen. Es geht im Grunde um Empowerment: Wir brauchen zunächst einmal Zugang zu Daten und Tools für alle, um die Probleme der Welt lösen zu können. Man fragt sich schon, wie es passieren konnte, dass sich KI-Plattformen wie ChatGPT quasi das ganze Internet und damit gewissermaßen das gesamte Menschheitswissen einverleiben konnten, und zwar kostenlos, während wir für diesen Informationszugang zahlen sollen. Wir werden also im doppelten Sinne benachteiligt. Erstens wird unser geistiges Eigentum ausgeraubt und kommerzialisiert. Zweitens wird das dann noch gegen uns verwendet, zum Beispiel um unsere Jobs durch KI-Systeme zu ersetzen. Das ist vielleicht die brutalste Ausbeutung, die wir jemals hatten. Den meisten ist nicht klar, wie mächtig die im Hintergrund entstandenen Tools sind, die vor allem Partikularinteressen dienen.
STANDARD: Immerhin gibt es jetzt Regulierungsbemühungen wie den AI oder der DSA Act. Zu spät?
Helbing: Wie viele Milliarden hat man investiert in Cybersecurity? Und wie viele in ein digitales Upgrade der Demokratie? Da gibt es ein großes Ungleichgewicht. Es ist ja so: Wir hatten erst die Agrargesellschaft, dann die Industrie-, dann die Service-, nun die Informationsgesellschaft. In all diese Gesellschaftsformen investieren wir öffentliches Geld. Der Agrarsektor wird subventioniert, die Industriegesellschaft bekommt ihre öffentlichen Straßen, die Servicegesellschaft ihre öffentlichen Schulen, Universitäten, Bibliotheken. Und wo, bitte schön, sind die öffentlichen Datensätze, KIs und Infrastrukturen der Informationsgesellschaft? Da sieht man das Totalversagen der Politik. All das, was öffentlich hätte sein müssen, ist nun privat, daher geht es nicht mehr um die Lösung von Problemen, sondern um Profitmaximierung. Nun haben wir ein überkommenes System, das immer weniger funktionsfähig ist, um den Herausforderungen zu begegnen, vor denen wir stehen. Wir bräuchten nicht-kommerzielle Demokratieplattformen, aber stattdessen haben Tech-Firmen wie Facebook/Meta, die Räume für Meinungsbildung besetzt, die eigentlich öffentlich hätten sein müssen. So werden unsere Grundrechte zu Geld gemacht. Wenn es anfängt wehzutun, ist es vielleicht schon zu spät, die Spirale zurückzudrehen.
STANDARD: Sie beschäftigen sich in Ihrer Forschung mit Konzepten digitaler Demokratie, mit neuen Formen der Bürgerbeteiligung. Sollen die Menschen, deren Vertrauen in die Politik ohnehin stark angeschlagen ist, nun Entscheidungen selbst in die Hand nehmen können?
Helbing: Wir haben im vergangenen Jahr in der Schweizer Stadt Aarau das Projekt Stadtidee wissenschaftlich begleitet, wo es darum ging, partizipatives Budgeting auszuprobieren. Das Konzept, bei dem Bürgerinnen und Bürger selber über einen Geldtopf bestimmen können, kennt man beispielsweise aus Barcelona und Taiwan. Dabei aktiviert man die kollektive Intelligenz, um Ideen zu entwickeln. Von über 100 Projektideen in Aarau wurden in einem mehrstufigen Prozess 17 ausgewählt, die alle umgesetzt werden. Zunächst interessierte uns, welche Rolle die Regeln spielen, nach denen die Wahl abläuft. Wir haben uns schließlich für ein Verfahren entschieden, bei dem eine bestimmte Punktezahl über mehrere Projekte verteilt werden kann, um die Intensität der Unterstützung zum Ausdruck bringen zu können. Das sorgt auch für proportionelle Fairness bei der Stimmauszählung. Es stellte sich heraus, dass die gängige Mehrheitswahl eines der schlechtesten Verfahren ist, weil die Kosten nicht berücksichtigt werden und das meiste Geld im Stadtzentrum landet, während die Peripherie vernachlässigt wird. In unserem Ansatz haben wir durch Abstimmungen diverse Lösungen gefunden und damit verschiedene Interessen befriedigt. Dabei kamen besonders jene Projekte zum Zug, die ein besonders gutes Verhältnis von Stimmen zu Kosten hatten. Teure Projekte brauchten also mehr Stimmen, was die Ressourceneffizienz erhöht hat.
STANDARD: Was haben Sie daraus gelernt?
Helbing: Es kamen mit diesen Wahlregeln nicht nur mehr Projekte zum Zug, es gab auch mehr Transparenz, was wiederum zu mehr Vertrauen, Zufriedenheit und einer höheren Beteiligung geführt hat. Es haben sich mehr Frauen beteiligt als sonst bei Abstimmungen, mehr Ältere, mehr Jüngere, mehr Zugewanderte. Es ging insgesamt demokratischer zu, inklusiver. Wir haben gelernt, wie man eine Gesellschaft sich selbst organisieren lassen kann, auf Basis von Projekten. Diese Prozesse könnten natürlich auch mit digitalen Plattformen unterstützt werden.
STANDARD: Wie stellen Sie sich so ein digitales Upgrade der Demokratie vor?
Helbing: Die Vision ist, dass jeder und jede an mehreren Projekten beteiligt ist, an ökonomischen, sozialen, Kultur- und Umweltprojekten. Bei manchen würden wir die Organisation selber übernehmen, andere würden wir unterstützen. Wir hätten digitale Plattformen, mit denen wir Unterstützer und Mitstreiterinnen mit den geeigneten Qualifikationen finden können und die den Prozess mit KI-Tools organisieren helfen. Das würde uns alle befähigen, größere Beiträge zu unserem lokalen Umfeld und zu unserer Zukunft zu leisten. Dazu bräuchte es natürlich Geld und administrative Unterstützung. Es sollte eine öffentliche Plattform sein, die kostenlos zur Verfügung steht.
"Wir bräuchten nicht-kommerzielle Demokratieplattformen, aber stattdessen haben Tech-Firmen wie Facebook/Meta, die Räume für Meinungsbildung besetzt, die eigentlich öffentlich hätten sein müssen. So werden unsere Grundrechte zu Geld gemacht."
STANDARD: Können Sie ein konkretes Beispiel nennen?
Helbing: Mein Kollege Dino Carpentras und ich arbeiten momentan an einem Projekt, in dem wir uns anschauen, wie Produktions- und Entscheidungsprozesse, an denen viele Menschen beteiligt sind, effizient funktionieren können. Dazu haben wir einen Prozess untersucht, der sich Peer Production nennt: Alle, die sich dafür interessieren, können sich beteiligen, ob es sich nun um einen Architekturentwurf, Stadtplanung oder um ein Musikstück handelt. Der Ansatz basiert auf Remixing, das bedeutet, wir nehmen einen bereits existierenden Entwurf und verfeinern ihn weiter. Am Ende wird über die Lösungsvorschläge entschieden. Für die Beurteilung haben wir ein Peer-Review-Verfahren verwendet, ein verteiltes Voting, wo jeder eine begrenzte Zahl von Entwürfen beurteilt. Daraus entsteht ein Ranking und in der Folge eine Shortlist, über die alle abstimmen. Dadurch, dass die Arbeit verteilt wird, ist der Zeitaufwand vertretbar. Wir haben auch festgestellt, dass ein "Unsichtbare-Hand-Effekt" zum Zug kommt: Obwohl jeder und jede nur ein paar Projekte sieht, sorgt das Verfahren dafür, dass sich die besten Vorschläge durchsetzen.
STANDARD: Es gäbe also noch eine Ausfahrt aus dem Digitalisierungsdilemma?
Helbing: Demokratische Innovation ist möglich. Wir können die Demokratie upgraden, die kollektive Intelligenz zur Entfaltung bringen, wenn es den politischen Willen dafür gibt. Damit wären die Leute zufriedener, die Lösungen besser. Und die Industrie würde natürlich auch etwas daran verdienen. Aber der Prozess wäre ein anderer. Insofern gibt es schon die Möglichkeit, das Ruder noch herumzureißen und eine bessere Zukunft auf den Weg zu bringen. (Karin Krichmayr, 7.4.2024)