Die aktuellen Fortschritte im Bereich künstliche Intelligenz (KI) stellen die Gesellschaft auch vor neue Herausforderungen. Die Möglichkeit, Personen in Videos täuschend echt zu imitieren – sogenannte Deepfakes –, ist so ein Beispiel. Schon jetzt wird das zum Teil für politische Propaganda genutzt, besonders unerfreulich wird es aber, wenn es in den privaten Bereich geht. Solche Maschinenlernsysteme also genutzt werden, um nicht konsensuale Pornos zu erstellen.

Beispielhaft

Ein Phänomen, mit dem offenbar auch die großen Suchmaschinen derzeit ihre liebe Not haben. Das legt zumindest ein aktueller Bericht von NBC News nahe. So sei es in einem Testlauf sehr einfach gewesen, für 36 weibliche Prominente entsprechende Materialien über eine Google-Suche zu finden. Alles, was dafür notwendig war, war das Hinzufügen von Begriffen wie "deepfake porn" oder "fake nudes". Entsprechende Ergebnisse wurden dann zum Teil weit oben in der Ergebnisliste präsentiert.

Deepfakes sind ein wachsendes Problem.
AFP/STEFANI REYNOLDS

Noch bedenklicher war das Ergebnis der Suche von NBC bei Microsofts Bing. Mit der Suche "fake nude photos of former teen Disney Channel female actors" wurden tatsächlich Bilder aufgespürt, die augenscheinlich minderjährige Personen darstellen sollten.

Kritik

Für Betroffene ist das nicht nur reichlich unangenehm, ihre Eingriffsmöglichkeiten sind auch beschränkt. Zwar bietet Google ein Formular, um solche Einträge löschen zu lassen, da dies aber für jeden Treffer einzeln erfolgen muss, ist das ein Kampf gegen Windmühlen.

Gegenüber NBC News gesteht Google Nachbesserungsbedarf ein. Man arbeite derzeit daran, die eigenen Schutzmaßnahmen zu verbessern. Konkret soll es für Opfer einfacher werden, mehrere Ergebnisse mit einem Video auf einmal entfernen zu lassen. Man sei sich bewusst, wie belastend dies für die Betroffenen sei.

Wachsendes Phänomen

Abzuwarten bleibt, ob man damit dieses Phänomen in den Griff bekommt. Hat die Zahl an Deepfake-Pornos doch zuletzt massiv zugenommen, und dabei sind längst nicht nur Prominente das Ziel. So hatten Experten vor einigen Monaten eine rasch wachsende Zahl an KI-generierten Darstellungen von sexueller Gewalt gegen Kinder beklagt.

Zunehmend werden KI-Technologien aber auch im persönlichen Nahbereich eingesetzt. Für Aufsehen sorgte etwa, als im Vorjahr Highschool-Schüler in New Jersey Fake-Nacktbilder ihrer Mitschülerinnen verbreiteten. (red, 12.1.2024)