Die einen sehen es als probates Mittel zur "Entgiftung" des Onlinediskurses, die anderen als schamlosen Eingriff in die Meinungsfreiheit: Die Rede ist von "Deplatforming", also dem Sperren oder Löschen von Accounts, die problematische Inhalte in sozialen Netzwerken verbreiten. Die Praxis funktioniert auch eine Ebene höher, wie die Twitter-Alternative Parler bereits erfahren musste: Apple warf die App vorübergehend aus dem App Store, bis der Dienst ein neues Moderationskonzept vorlegen konnte.

Twitter will, zumindest laut der aktuellen Stimmungslage von CEO Elon Musk, keine User mehr auf diese Weise für den Bruch der eigenen Regeln bestrafen – und könnte deshalb selbst "deplatformed" werden. Nach Aussagen von Musk habe Apple damit gedroht, Twitter aus dem App Store zu entfernen. Warum, habe das Unternehmen "uns nicht sagen" wollen, verlautbarte Musk, blies sogleich zum Gegenangriff und attackierte Apple wegen dessen Kommission für digitale Käufe, die über den App Store abgewickelt werden. Außerdem prangerte er die Einstellung von Werbetätigkeiten auf Twitter an.

Twitter könnte gegen App-Store-Richtlinien verstoßen

Apple selbst hat Musks Vorwürfe noch nicht offiziell kommentiert. Naheliegend ist, dass man dort aber tatsächlich ein Problem mit seinen Plänen für die Neugestaltung von Twitters Moderationspolitik haben könnte. Schließlich heißt es in Apples Richtlinien für App-Entwicklerinnen und -Entwickler:

"Der App Store unterstützt Apps, die … nutzergenerierte Inhalte anbieten, solange sie alle Richtlinien befolgen, einschließlich Richtlinie 1.2 zur Moderation nutzergenerierter Inhalte …

Die Richtlinie 1.2 besagt unter anderem, dass "Apps mit nutzergenerierten Inhalten oder soziale Netzwerkdienste" eine Methode zur Verhinderung der Veröffentlichung von anstößigem Material in der App benötigen, weiters einen Mechanismus zur Meldung anstößiger Inhalte und zeitnahe Reaktionen auf Meldungen und, für diesen Fall besonders relevant: die Möglichkeit, missbräuchlich handelnde Nutzer für den Dienst zu sperren.

Ein gewisses Maß an Deplatforming schreibt Apple also vor – sowohl von bestimmten Inhalten als auch von Usern. Sollte Musk seine aktuelle Moderationslinie weiterführen, steuert er mit Twitter wohl auf ein Szenario zu, in dem Apple keine andere Wahl haben könnte, als Twitter tatsächlich aus dem Apple Store zu werfen. Anders als bei Android besteht im restriktiven Apple-Ökosystem auch keine Möglichkeit, App-Installationsdateien außerhalb des offiziellen Stores von Drittanbietern wie APK Mirror herunterzuladen.

Dittrich: Musk wird sich Apple fügen müssen

Miro Dittrich forscht beim Center für Monitoring, Analyse und Strategie (CeMAS) zu Moderationsstrategien und Rechtsextremismus im Netz. Er bezeichnet im Gespräch mit dem STANDARD einen potenziellen Ausschluss von Twitter aus dem App Store als "Superkatastrophe" für Twitter. Ein solcher Schritt würde das Wachstum der App massiv einschränken, etwas Schlimmeres könne einer Social-Media-App also kaum passieren. Apple sei hier eindeutig in der stärkeren Position und, wie der Streit mit Epic Games um die 30-Prozent-Kommission bei In-App-Käufen zeige, durchaus bereit, derartige Konflikte zu führen.

Auch das Beispiel Telegram zeige laut Dittrich, dass Social-Media-Apps von Apple und Google abhängig sind. Als der Kreml im Vorfeld der russischen Parlamentswahlen von 2021 einen Telegram-Bot des mittlerweile inhaftierten Oppositionellen Alexej Nawalny loswerden wollte, übte der russische Staat kurzerhand Druck auf Apple und Google aus – den Tech-Konzernen sei laut "Kurier"-Informationen unter anderem mit der Verhaftung lokaler Angestellter gedroht worden.

Apple und Google gaben schließlich nach und drohten Telegram ihrerseits mit der Entfernung aus ihren Stores – was die Messaging-App schließlich zum Einlenken bewog. Unternehmensgründer Pawel Durow sagte in einer Stellungnahme, man habe keine Wahl gehabt: Apple und Google würden "gegenüber Entwicklern wie uns die Spielregeln" bestimmen.

Deplatforming und Moderation auf Twitter

Vor Musks Übernahme hatte Twitter neben dem ehemaligen US-Präsidenten Donald Trump etwa den rechtsextremen Radiomoderator Alex Jones, Trump-Berater Roger Stone, den ehemaligen Ku-Klux-Klan-Leiter David Duke, den misogynen Kickboxer Andrew Tate und den rechten Ideologen und Psychologen Jordan Peterson gesperrt. Außerdem die konservative Satire-Nachrichtenseite "Babylon Bee". Anfang 2021 flogen zudem 70.000 Accounts von der Plattform, weil sie Inhalte verbreitet hatten, die mit der QAnon-Verschörungstheorie in Verbindung stehen.

Auch im Kampf gegen Falschinformationen zur Covid-Pandemie war Twitter sehr aktiv: Seit Juli 2020 wurden aufgrund von Verstößen gegen die "Covid misinformation policy" gut 100.000 Inhalte entfernt, mehr als 11.000 Accounts gesperrt und weitere 10,7 Millionen Konten mit Auflagen versehen.

Kritik an dieser Vorgehensweise kam in den USA vor allem aus dem rechten und konservativen Lager – aber nicht nur: Joan Donovan von der Kennedy School der Harvard University kritisierte 2021 etwa, dass "intransparente Entscheidungen von Tech-Firmen in Sachen Informationszugänglichkeit zum Nährboden von Verschwörungstheoretikern" werden würden. Soziale Netzwerke hätten die Verantwortung, die Flutung ihrer Dienste mit Desinformation und Verschwörungstheorien zu verhindern – aber auf eine transparente Weise.

Musks gebrochenes Versprechen

Eine von Musks ersten Ankündigungen nach der Twitter-Übernahme war, die Moderationspolitik von Grund auf zu erneuern. Dabei wechselte er immer wieder seine Strategie: Vom ursprünglich vorgesehenen "Content Moderation Council", das die Löschung von Inhalten und Konten überprüfen sollte, ist nichts mehr zu lesen. Genauso wenig von Musks Versprechen, bis zur Einrichtung eines solchen Rates keine "weitreichenden Entscheidungen im Bereich Inhaltsmoderation" zu treffen oder Accounts zu entsperren.

Mitte November hatte Musk unter anderem die Rückkehr von Jordan Peterson und der "Babylon Bee" veranlasst – beide Accounts waren wegen Aussagen über Transmenschen gesperrt worden. Dem "Chief Twit" schwebt nun statt eines Moderationsrates die Vorgehensweise "Meinungsfreiheit, aber keine Reichweitenfreiheit" vor. Accounts, die Beleidigungen und Hassbotschaften verbreiten, sollen also nicht mehr gesperrt oder gelöscht werden, stattdessen soll die Reichweite derartiger Inhalte durch sogenanntes "algorithmisches Downgrading" reduziert werden.

Vergangenen Mittwoch ließ Musk seine Twitter-Anhängerschaft darüber abstimmen, ob es eine "Generalamnestie" für alle gesperrten Accounts geben sollte, die nicht "das Gesetz gebrochen" oder Spam verbreitet hatten – entgegen seinem ursprünglichen Versprechen, vor der Einrichtung des Moderationsrates keine derartigen Entscheidungen zu treffen. Nach einem Tag und 72,4 Prozent "Ja"-Stimmen von gut drei Millionen abgegebenen erklärte Musk, das Volk habe entschieden, die Amnestie beginne nächste Woche.

Kürzlich hat Twitter außerdem seine Richtlinie zur Bekämpfung von Covid-Falschinformationen ausgesetzt – ebenfalls durchaus eine "weitreichende Entscheidung im Bereich Inhaltsmoderation".

Kann Moderation ohne Deplatforming funktionieren?

Hat Elon Musk recht und ein Dienst wie Twitter kann auf Accountsperren verzichten, ohne dass bestimmte User das Gesprächsklima immer stärker vergiften?

Laut Miro Dittrich von CeMAS sei es zwar prinzipiell eine gute Entwicklung, wenn Social-Media-Plattformen ihre Werkzeugkiste erweitern und neben Deplatforming auch auf andere Moderationsstrategien zurückgreifen. Musks Ansatz sieht der Rechtsextremismusforscher aber kritisch: Kommentare zu Beiträgen anderer Nutzerinnen und Nutzer wären für diese weiterhin sichtbar, marginalisierte Gruppen könnten so weiterhin unter Druck gesetzt werden.

Twitter sei auch vor Musks Übernahme keine Plattform gewesen, die "einfach so löscht", sagt Dittrich. Ein völliger Verzicht auf Accountsperren und die Freigabe von dauerhaft gesperrten Accounts würde allerdings zu einem toxischen Diskurs führen, der nicht nur für Werbekunden abschreckend wirkt, sondern auch die Nutzererfahrung deutlich verschlechtern werde, so der Forscher.

Dittrich: Musk hat seltsames Verständnis von Meinungsfreiheit

Miro Dittrich verortet bei Musk außerdem ein seltsames Verständnis von Meinungsfreiheit. Dem reichsten Mann der Welt scheine es hauptsächlich um die Freiheit zur Verbreitung von Falschinformationen und Beleidigungen zu gehen – wichtiger sei es aber, Twitters Funktion als Sprachrohr oppositioneller Stimmen in Staaten mit autoritären Tendenzen zu erhalten. Derzeit sei unklar, ob angesichts der zahlreichen Kündigungen in Twitters Menschenrechtsteam und der Rechtsabteilung noch der Wille und die Kapazitäten dafür da sind, sich gegen Versuche der Einflussnahme zur Wehr zu setzen.

In der Vergangenheit war Twitter etwa in Indien mit Forderungen der Modi-Regierung konfrontiert, Videos zu löschen, die einen Übergriff auf einen muslimischen Mann zeigten. Dem Opfer wurde dabei der Bart abgeschnitten. Während der Vorfall auf Twitter von vielen als einer der in Indien nicht seltenen, religiös motivierten Übergriffe von Hindus auf Muslime diskutiert wurde, wollte ihn die Polizei als persönliche Auseinandersetzung ohne religiösen Bezug verstanden wissen.

Auch hier ist Twitter wohl im Endeffekt immer davon abhängig, wie Apple und Google als Torwächter ihrer App-Stores auf Repressalien und Druck von oben reagieren – das Beispiel Russland zeigt, dass die US-Konzerne nicht immer bereit sind, für die Betreiber von Social-Media-Apps den Kopf hinzuhalten. Noch weitaus weniger dürfte dies aber bei der Verbreitung von Inhalten wie Beleidigungen und Hetze gegen marginalisierte Gruppen der Fall sein, die ab einem bestimmten Punkt ebenso auf die beiden Quasi-Monopolisten zurückfällt. (Jonas Heitzer, 30.11.2022)