Gekaufte Likes, Drohungen gegen politische Widersacher, die gezielte Streuung von Falschmeldungen – was es in der analogen Welt gibt, wird auch auf Facebook gepflegt. Doch wer die Macht der Algorithmen für sich zu nutzen weiß, kann auf dem größten Social Network ganze Wahlen für sich entscheiden.

In den Fokus ist das Thema seit den US-Wahlen 2016 gerückt, als Donald Trump die Wahl auch dank der Hilfe aus Russland knapp für sich entschieden haben soll. Seitdem hat der Konzern immer wieder versichert, in derlei Fragen nachzurüsten, und ergriff etwa letztlich auch Maßnahmen gegen Trumps Falschbehauptungen über das Briefwahlsystem im Vorfeld des Wahlgangs im vergangenen November. Doch während man hier verhältnismäßig flott und streng agiert hat, sieht das in anderen Ländern mitunter ganz anders aus. Das zeigen die Enthüllungen der ehemaligen Mitarbeiterin Sophie Zhang und ein Bericht des "Guardian", der eine umfangreiche Sammlung interner Dokumente von Facebook ausgewertet hat.

Eskalation

Entgegen seinen Versprechungen hat das Netzwerk demnach wiederholt versagt, selbst wenn ihm konkrete Beweise für Manipulationen und den Missbrauch seiner eigenen Werkzeuge vorgelegt wurden. Der Versuch, dieses Problem auf die Agenda zu bringen und zu lösen, sei es demnach auch gewesen, was Zhang letztlich im vergangenen September ihren Job gekostet habe. Die offizielle Begründung für ihre Entlassung lautet allerdings "schlechte Performance".

Kurz vor ihrem Abschied verabschiedete sich die Datenwissenschafterin mit einem 7.800 Wörter langen Text in den internen Foren, in dem sie die Probleme erneut ansprach und Kritik übte. Um sicherzugehen, dass dieses Posting auch gelesen werden kann, sollte es gelöscht werden, stellte sie es auch auf eine eigene, passwortgeschützte Website und verteilte das Kennwort an ihre Kollegen. Facebook entfernte nicht nur den Forumseintrag, sondern kontaktierte auch den Hoster und Domain-Registrar von Zhangs Website und zwang diese erfolgreich, die Seite vom Netz zu nehmen.

Ökonomie der Aufmerksamkeit

Zhang sagt, dass Facebook aus Eigeninteresse immer wieder Autokraten gewähren ließ, wenn sie Facebook zur Meinungsmanipulation oder Drohung gegen ihre Gegner nutzten. Eine Einschätzung, die die "Guardian"-Auswertung von mehr als 30 Fällen in 25 Ländern deckt.

Laut ihr richtete Facebook seine Ressourcen bei der Bekämpfung solchen Missbrauchs vor allem auf Länder, bei denen das weltweite Interesse von Öffentlichkeit und Medien groß war. In den USA, Taiwan, Südkorea und Polen war man etwa schnell, entsprechende Kampagnen zu bekämpfen. In mehreren anderen Staaten hingegen schritt man nur langsam oder gar nicht ein.

Dabei seien einige Manipulationsversuche nicht einmal besonders verdeckt erfolgt. "Verschiedene Präsidenten denken, dass solche Aktivitäten so wertvoll für ihre autokratischen Ambitionen sind, dass sie dabei große Anstrengungen unternehmen und gar nicht erst versuchen, sie zu verstecken", so Zhang gegenüber dem "Guardian".

Hernandez und seine Fake-Armee

Als Beispiel wird der Auftritt des honduranischen Präsidenten Juan Orlando Hernández genannt. 2018 entdeckte Zhang, die in einem Team gegen "Fake Engagement" arbeitete, dass dieser in wachsendem Ausmaß Fake-Likes für seine Postings bekam. In einem sechswöchigen Zeitraum im Juni und August erhielt er Likes von über 59.000 Nutzern und anderen Seiten, 78 Prozent davon erwiesen sich allerdings als gefälschte Konten. Viele imitierten keine beliebigen Personen, sondern Firmen, Organisationen oder bekanntere Persönlichkeiten. Eines der Profile agierte als Administrator für hunderte der Fake-Auftritte wie auch für die offiziellen Seiten von Hernández selbst und jene seiner verstorbenen Schwester. Wenn auf Hernández' Seite ein Posting erschien, wurden die anderen Konten dazu genutzt, dieses zu unterstützen und somit auch über Facebooks Algorithmen höhere Reichweite zu geben.

Das ist heikel, denn rund um die Wiederwahl des Rechtsnationalisten im Jahr zuvor gibt es zahlreiche Betrugsvorwürfe. Seine Regierung wird zahlreicher Menschenrechtsverletzungen beschuldigt. US-Behörden sehen ihn zudem in mehrere Fälle von Drogenschmuggel verwickelt.

Facebook weigerte sich allerdings, das Vorgehen rund um Hernández' Seite als "koordiniertes unauthentisches Verhalten" einzustufen. Grund dafür war ein erstaunliches Schlupfloch in den eigenen Regeln. Nutzer dürfen nur ein Profil haben, das ihren Realnamen beinhaltet. Doch für Seiten, wie sie etwa Firmen, Organisationen und Prominente einrichten, gilt das nicht.

Behäbige Reaktion

Zhang hoffte, dass dieses Schlupfloch gestopft und die Aktivitäten unterbunden würden, erhielt jedoch von allen Verantwortlichen nur die Rückmeldung, dass die Situation zwar ein Problem sei, man aber nicht genug Ressourcen habe. Ohne Druck von außen – sprich: Medieninteresse und öffentliche Empörung – sei nichts zu machen. Immer wieder klang durch, dass das internationale Interesse an dem Land ohnehin klein sei und man deswegen lieber andere Prioritäten setze.

Im März machte Zhang ihre Erkenntnisse schließlich einem größeren Kreis innerhalb des Konzerns zugänglich. Erst das sorgte für die Aufnahme einer Untersuchung durch das zuständige Threat Intelligence Team. Diese lief nach weiteren Verzögerungen erst im Juni an und konnte den Verdacht, dass der Präsident persönlich in umfangreiche Meinungsmanipulation verstrickt ist, bestätigen. Im Juli 2019, fast ein Jahr nachdem Zhang den Fall erstmals aufgebracht hatte, wurden schließlich 181 Facebook-Konten und fast 1.500 Seiten entfernt.

Ähnliches wiederholte sich bei vielen anderen Ländern, darunter Aserbaidschan, Paraguay, Argentinien, Mexiko oder die Philippinen. "Ich fühlte mich, als würde ich versuchen, den Ozean mit einer Pipette zu leeren", beschreibt die Datenexpertin ihre Erfahrungen. Facebook sei zu zögerlich darin, mächtige Politiker zu bestrafen, und wenn es passiere, dann seien die Konsequenzen nur harmlos.

Facebook dementiert

Während Facebook Zhangs Äußerungen über ihre Zeit beim Unternehmen nicht kommentiert, streitet man ihre Darstellung des Vorgehens gegen politische Manipulation ab. Man gehe "aggressiv" mit spezialisierten Teams gegen derlei Missbrauch rund um den Globus vor.

Als Folge seien bereits über 100 Netzwerke für "koordiniertes, unauthentisches Verhalten" stillgelegt worden. Die Hälfte davon sei im Inland tätig gewesen, auch in Ländern in Lateinamerika, dem Nahen Osten, Nordafrika und im asiatisch-pazifischen Raum. Die Bekämpfung politischer Manipulation sei eine absolute Priorität. (gpi, 12.4.2021)