Es sind Bilder des Grauens, die seit dem Überfall der Hamas auf den Süden Israels im Netz die Runde machen. Doch längst nicht jede Aufnahme, die Taten der Terrororganisation oder Folgen des israelischen Gegenangriffs zeigen soll, ist echt. Wie schon beim Krieg in der Ukraine floriert auch hier die Desinformation.

Emsig geteilt werden etwa Videos, die gar nichts mit der aktuellen Situation zu tun haben und aus dem Kontext gerissen wurden. Dazu gehört etwa ein Clip, in dem Palästinenser im Gazastreifen beschuldigt werden, Verletzungen zu simulieren. Tatsächlich stammt die Aufnahme aus einer Dokumentation von 2017 über einen Make-up-Künstler, der gemeinsam mit wohltätigen Organisationen an palästinensischen Filmproduktionen arbeitete.

Auch Aufnahmen aus Videospielen – besonders populär ist hierfür "Arma 3" – kursieren, um Kampfhandlungen abzubilden, die so gar nicht stattgefunden haben. Ebenso wird Bilder-KI eingesetzt, um Fotos zu erzeugen oder zu manipulieren.

Zwischen arabischen Teenagern und Sockenpuppen

Bei der BBC hat man versucht, mehr über Accounts herauszufinden, die solche Inhalte teilen. Der Fokus lag dabei auf Konten, deren Betreiber scheinbar mit ihrem echten Namen auftraten. Das Ergebnis erweist sich als "durchmischt". Einige der Konten gehörten etwa Jugendlichen und jungen Erwachsenen, die nach eigener Auskunft etwa in Pakistan oder den Vereinigten Arabischen Emiraten lebten.

Der Clip soll belegen, dass Gaza-Bewohner ihre Verletzungen simulieren, tatsächlich stammt die Aufnahme aber aus einer 2017 veröffentlichten Dokumentation über palästinensische Filme.
Screenshot/X

Sie posteten sonst Memes oder Fußballclips, was den Verdacht, es könnte sich um Sockenpuppen handeln, zumindest verminderte. Hier aber hatten sie ein Video geteilt, in dem suggeriert wurde, dass die von der Hamas genommenen Geiseln keine Zivilisten, sondern Soldatinnen und Soldaten seien.

Bei anderen Konten erwies sich die Einschätzung ihrer Echtheit als wesentlich schwieriger. Einige Accounts posteten zuvor schon Inhalte zu politischen Themen und zeigten dabei eine starke Zuneigung zum russischen Präsidenten Wladimir Putin oder dem Ex-US-Präsidenten und potenziellen Wahlkandidaten Donald Trump. Ein großer Teil dieser Konten sei erst vor kurzem angemeldet oder nach langer Pause auf einmal wieder aktiv geworden.

Das israelische IT-Security-Unternehmen Cyabra schätzt, dass jeder fünfte Account, der sich zu den aktuellen Ereignissen in Israel und dem Gazastreifen äußert, fake ist. Gemeint sind damit Konten, deren Betreiber entweder vorgeben, jemand anderes zu sein, oder solche, die automatisiert betrieben werden und Desinformation teilen. Auf verschiedenen Plattformen, darunter X (vormals Twitter) und Tiktok, hat man bereits 40.000 gefälschte Konten identifiziert.

Das Problem mit KI-Erkennungstools

Was KI-generierte Inhalte betrifft, gesellt sich ein weiteres Problem hinzu. Einige Onlinetools sollen Nutzern dabei helfen, per automatischer Analyse KI-generierte Fotos als solche zu erkennen. Doch diese an sich gut gemeinten Tools stecken selbst noch in den Kinderschuhen. Das führt, insbesondere bei oft schlecht aufgelösten und nach mehrfachem Hochladen und Abspeichern mit Artefakten übersäten Kameraaufnahmen, zu Falscherkennungen.

Das betrifft nicht nur KI-Bilder, die nicht als solche erkannt werden. Ebenso problematisch sind "false positives", also authentische Fotos, die fälschlicherweise als computergeneriertes Erzeugnis deklariert werden. Über diese "zweite Ebene von Desinformation" berichtet "404 Media".

Dafür gibt es auch ein alarmierendes Beispiel. Ein unter anderem vom offiziellen Auftritt Israels auf X geteiltes Bild zeigt die verkohlte Leiche eines Babys als Folge eines Hamas-Angriffs. Doch beim Online-Prüftool "AI or Not" wird es unter KI-Verdacht gestellt, was in Kommentaren auch immer wieder aufgebracht und als Munition für Desinformationsvorwürfe genutzt wird.

Gemäß einer von "404" beauftragen manuellen und automatischen Bildanalyse durch den Digitalforensiker Hany Farid der University of California handelt es sich aber um ein echtes Foto. Als weiteren Kritikpunkt führt man an, dass diese Prüftools oft keine transparenten Angaben über ihre Funktionsweise machen.

Ein echtes Foto von israelischen Soldaten nahe der Grenze zum Gazastreifen.
IMAGO/saeedqaq

EU-Kommission zieht gegen X, Instagram und Co zu Felde

In der Kritik stehen auch die Plattformen, die zur Verbreitung von Fakes genutzt werden. Aufgrund dessen hat die EU-Kommission auch bereits gegen Facebook, Instagram, Tiktok und X Verfahren eingeleitet, die in hohe Bußgelder münden könnten. Bei Meta hat man darauf bereits reagiert und nach eigenen Angaben seit 7. Oktober rund 800.000 einschlägige Postings auf Instagram und Facebook entfernt oder als "verstörend" markiert sowie weitere temporäre Regelverschärfungen vorgenommen.

Bei X tut sich zudem eine weitere Problemstelle auf. Seit der Übernahme durch Elon Musk wurde das "Trust & Safety"-Team, das sich mit der Bekämpfung von Desinformation beschäftigte, personell massiv beschnitten und soll laut Aussagen ehemaliger Mitarbeiter nicht mehr in der Lage sein, seiner Aufgabe effektiv nachzukommen.

Ende September wurde außerdem bekannt, dass X die Abteilung für Wahlintegrität aufgelöst und die Hälfte der dort tätigen Mitarbeiter vor die Tür gesetzt hat. Musk warf seinen ehemaligen Angestellten öffentlich vor, die Integrität von Wahlen untergraben zu haben. Erst wenige Monate zuvor hatte X noch angekündigt, für das Wahljahr 2024 mehr Mitarbeiter in diesem Bereich anzustellen. (gpi, 16.10.2023)