Beleidigende Kommentare, Belästigungen und Androhung von Gewalt schlüpfen immer noch viel zu leicht durch Moderationstools von Onlineplattformen, wie ein aktueller Bericht der EU-Agentur für Grundrechte (FRA) belegt. Der Bericht zeigt, dass der meiste Onlinehass sich gegen Frauen richtet. Aber auch schwarze Menschen, Roma und Juden sind betroffen.
Doch wieso tun sich Onlineplattformen so schwer, derartige Inhalte zu blockieren? Oft mangle es bei Youtube, Reddit, X (vormals Twitter) oder Telegram am grundlegenden Verständnis, was Hassrede eigentlich ist. Vor allem auf X sah man eine deutliche Zunahme von Hasspostings, das ging so weit, dass jüngst große Werbekunden der Plattform den Rücken gekehrt haben. X-Eigentümer Elon Musk selbst bezeichnet sich selbst als "Kreuzritter der Meinungsfreiheit".
Dazu kommt noch ein Problem: Die Forschung hat keinen allgemeinen Zugriff auf die Daten der Moderationssysteme der Plattformen. Das mache es umso schwieriger, sich ein umfassendes Bild vom Ausmaß des Hasses im Netz zu machen, was letztendlich dessen Bekämpfung zusätzlich erschwert.
Die Studie wurde zwischen Jänner und Juni 2022 auf Youtube, Telegram, Reddit und X in vier EU-Ländern durchgeführt. Auf die Daten von Facebook und Instagram hatte die FRA keinen Zugriff.
Automatische Systeme sind zu lax
In Bulgarien, Deutschland, Italien und Schweden war die Zahl der Hasspostings, die sich gegen Frauen richteten, fast dreimal so hoch wie die jener Posts, in denen Menschen afrikanischer Abstammung angegriffen wurden.
Nahezu 350.000 Beiträge und Kommentare wurden von der FRA auf der Grundlage bestimmter Schlüsselwörter untersucht. Menschliche Codierer bewerteten etwa 400 zufällige Beiträge aus jedem Land, um festzustellen, ob sie hasserfüllt waren. 40 zufällig ausgewählte Beiträge wurden dann von unter anderem von Rechtsexperten eingehender bewertet.
Aber nicht nur das: Die Agentur untersuchte 1.500 Postings, die von automatischen Moderationssystemen als unbedenklich eingestuft wurden. Menschliche Moderatoren stuften mit 53 Prozent mehr als die Hälfte davon noch immer als Hassrede ein.
Schiedsrichterteam gefordert
"Die schiere Menge an Hass, die wir in den sozialen Medien festgestellt haben, zeigt deutlich, dass die EU, ihre Mitgliedsstaaten und Onlineplattformen ihre Bemühungen verstärken müssen, um einen sichereren Onlineraum für alle zu schaffen", sagte FRA-Direktor Michael O'Flaherty in einer Aussendung.
Deshalb fordert die FRA eine Art Schiedsrichterteam. Es soll ein breites Netz an Organisationen geschaffen werden, die als vertrauenswürdige Melder fungieren. Diese sollen unabhängig arbeiten und sicherstellen, dass Hass im Netz zuverlässig erkannt wird. Diese Organisationen sollen finanziell von der EU-Kommission unterstützt werden, so die Forderung der FRA.
Ermittlungen gegen Meta, Tiktok und X
Nach dem Digital Services Act (DSA) müssen sehr große Tech-Plattformen und Suchmaschinen mehr gegen Hassrede und andere illegale Inhalte unternehmen, oder sie riskieren enorm hohe Geldstrafen von bis zu sechs Prozent ihres Jahresumsatzes
Die Europäische Kommission untersucht aktuell, ob die Facebook-Muttergesellschaft Meta, Tiktok und X ausreichend gegen Belästigungen, Drohungen und Aufrufen zur Gewalt vorgehen. Vor allem im Hinblick auf den Krieg im Nahen Osten ist die Zahl der Gewaltaufrufe enorm angestiegen. (red, 30.11.2023)