Tiktok winkt bis zu 90 Prozent der Falschmeldungen bezüglich Wahlen durch, auch Facebooks Moderation übersieht viele Anzeigen und Inhalte mit falschen Informationen: Dieses düstere Bild zeichnet eine aktuelle Studie der britischen NGO Global Witness und des Forschungsteams Cybersecurity for Democracy (C4D) der New York University.

Die Forscherinnen und Forscher haben für die Studie eigene Accounts erstellt und über diese irreführende Informationen über den Wahlprozess verbreitet, etwa ein falsches Datum für den Wahltag. Um nicht tatsächlich Wählerinnen und Wähler in die Irre zu führen, wurden die Inhalte über Werbeanzeigen eingereicht, die vor der eigentlichen Veröffentlichung durch den Moderationsprozess gehen und rechtzeitig wieder gelöscht werden können.

Tiktok akzeptierte neun von zehn Fake-Anzeigen

Tiktok schnitt von den drei überprüften Plattformen deutlich am schlechtesten ab. Obwohl dort eigentlich keine politische Werbung erlaubt ist, genehmigte die Kurzvideoplattform neun der zehn von den Forschungsteams geschalteten Werbeanzeigen, die mit Fehlinformationen über die anstehenden Midterm-Wahlen gespickt waren. Ein falsches Wahldatum, Aufrufe zum doppelten Wählen, "damit die Stimme auch wirklich zählt", und andere irreführende Meldungen sind offenbar kein Problem für Tiktok. Nur eine Anzeige, in der behauptet wurde, nur geimpfte Personen dürften wählen gehen, schaffte es nicht durch den Moderationsprozess.

Tiktok gab in einer ersten Reaktion an, dass man grundsätzlich weder politische Werbung noch Fehlinformationen über Wahlen erlaube. Man schätze aber das "Feedback von NGOs, Akademikerinnen und Akademikern und anderen Expertinnen und Experten" und verbessere damit seine Richtlinien und Prozesse immer weiter.

Facebook: Besonders nichtenglischsprachige Fehlinformationen rutschen durch

Verbesserungsbedarf besteht offenbar auch bei Facebook. Über Test-Accounts eingereichte Werbeanzeigen, die wegen Falschinformationen und fehlender Verifizierung des Urhebers gegen die Nutzungsbedingungen verstießen, fielen häufig durch das Raster. Facebook akzeptierte 30 Prozent der englischsprachigen Anzeigen, die über einen britischen Account eingereicht wurden, und 20 Prozent der Anzeigen eines US-Test-Accounts. Bei spanischsprachigen Anzeigen lag der Anteil der akzeptierten Anzeigen mit Falschinformationen sogar bei 50 Prozent. Den für das Schalten politischer Werbung eigentlich vorgeschriebenen Verifikationsprozess umging man dabei auf einfachste Weise – durch das Nichtankreuzen der Option "Politische Werbung".

Dabei funktioniert Facebooks Moderation in den Vereinigten Staaten noch vergleichsweise gut. In Brasilien wurden die von Global Witness eingereichten Anzeigen vor den Wahlen Anfang Oktober zu 100 Prozent durchgewinkt. Ähnliche Versuche in Myanmar, Äthiopien und Kenia, wo die NGO Anzeigen mit Hassbotschaften einreichte, ergaben ebenfalls ein Totalversagen der Facebook-Moderation.

Der Facebook-Konzern Meta gab gegenüber den Autorinnen und Autoren der Studie an, dass die Zahl der Testanzeigen "nicht repräsentativ für die Zahl der politischen Werbeanzeigen, die wir täglich überall auf der Welt überprüfen", sei.

Youtube: Wo ein Wille, da ein Weg

Dass eine zuverlässige Erkennung von Desinformation vor allem eine Frage des Willens ist, zeigt das Beispiel Youtube. In den USA war Youtube die einzige Plattform, die keine der Fake-Anzeigen bewilligte. Innerhalb weniger Tage wurden alle Einreichungen abgelehnt und der verwendete Dummy-Account gesperrt. Der verknüpfte Google-Ads-Account blieb allerdings unbehelligt.

Ähnlich wie Facebook scheint allerdings auch Youtube seine Bemühungen auf die USA zu konzentrieren: Im Zusammenhang mit den Wahlen in Brasilien eingereichte Anzeigen wurden auch auf Googles Videoplattform zu 100 Prozent akzeptiert.

Mehr Ressourcen und mehr Transparenz sind gefragt

Damon McCoy, Co-Direktor von C4D, zeigte sich von Youtubes vergleichsweise gutem Abschneiden ermutigt. Dies zeige, dass "die Erkennung irreführender Wahlinformationen nicht unmöglich ist". Andere Plattformen müssten nun nachziehen und sich ebenfalls stark verbessern.

Global Witness und das Forschungsteam der New York University rufen vor allem Tiktok und Facebook dazu auf, dazu auf, ihre Verifikationsprozesse zu überarbeiten und mehr Ressourcen in die Moderation zu investieren – nicht nur in den USA und nicht nur für englischsprachige Inhalte. Tiktok und Facebook müssten außerdem ihre Prozesse zur Verifikation von Accounts verbessern. Von allen Plattformen wünsche man sich mehr Informationen über Werbeanzeigen und unabhängige Überprüfungen des Moderationsprozesses. Nur so ließe sich überprüfen, wie ernst man es mit dem Kampf gegen Falschinformationen wirklich meine.

Jon Lloyd von Global Witness gibt an, es sei höchste Zeit, dass Social-Media-Konzerne ihre "Häuser in Ordnung bringen" und die Erkennung und Prävention von Desinformation mit ausreichenden Ressourcen untermauern. Denn: "Unsere Demokratie hängt von ihrem Handlungswillen ab." (Jonas Heitzer, 27.10.2022)