Es ist ein Dienst mit derzeit nur wenigen Nutzern. Sie sind aktiv im Austausch mit dem Entwickler in einem Onlineforum. Der Dienst, den er anbietet, ist die Vorstufe des Albtraums vieler Frauen und Datenschützer. Er ermöglicht es, Gesichter mit nur einem Klick in Pornofilme einzubauen.
Um der Plattform nicht einmal indirekt Besucher zu bescheren, nennt die "Technology Review" des MIT sie schlicht "Y". Entdeckt hat sie der Deepfake-Forscher Henry Ajder, der in den letzten Jahren immer wieder Programme und Dienste dieser Art aufgespürt hat.
Deepfakes sind schon früh dafür genutzt worden, andere Personen zum Bestandteil expliziter Bilder und Filme zu machen. Doch was einst einigen Aufwand kostete, ist nun ganz ohne Programmierkenntnisse und das Hochladen eines Fotos möglich. Am Ergebnis ist zwar oft deutlich erkennbar, dass das Gesicht der betroffenen Person nachträglich eingearbeitet wurde, immer wieder spuckt Y aber auch Clips aus, die man zumindest auf den ersten Blick für echt halten könnte. Der rasante Fortschritt in diesem Bereich lässt auch erwarten, dass der Anteil der schwer erkennbaren Fälschungen bereits in wenigen Jahren deutlich höher liegen wird.
Deepfake-Porno gegen Entgelt
Hauptsächlich sind es Frauen, die von Entwicklungen wie Y betroffen sind. Betroffen, weil sie nie gefragt wurden, ob ihr Foto für derlei Zwecke verwendet werden darf. Bei Sensity AI, einem Unternehmen, das auch die Entwicklung in diesem Bereich beobachtet, schätzt man, dass 90 bis 95 Prozent aller ins Netz gestellten Deepfake-Videos nonkonsensual umgesetzte Pornoclips sind, wobei in 90 Prozent davon eine Frau ungefragt zum Teil des Geschehens gemacht wurde.
Es gibt Mainstreamdienste, die auf Deepfakes setzen und ihre Nutzer etwa in Szenen bekannter Kinofilme einbauen. Sie zeigen auch, dass die Technologie großes Potenzial für legitimen, kreativen Einsatz hat.
Y ist ein kommerzielles Angebot und wurde ganz klar auf Pornografie zugeschnitten. Nutzer laden das Foto einer Person hoch und können dann aus verschiedenen XXX-Szenen wählen. Das System generiert eine Vorschau. Wer mit dem Ergebnis zufrieden ist, kann die vollständige Version gegen Entgelt herunterladen. Der Betreiber vermarktet den Dienst als Hilfsmittel zur Erforschung eigener sexueller Fantasien, jedoch gibt es nichts, was Nutzer daran hindert, beliebige Gesichter zu verwenden und die Videos öffentlich zu teilen – was offenbar auch geschieht.
Schwere Auswirkungen auf Betroffene
Auf Betroffene kann sich so etwas ähnlich auswirken wie sogenannte "Rachepornos" (nonkonsensual veröffentlichte intime Aufnahmen). Solche Videos werden auch als Waffe eingesetzt. Berichtet wird etwa von der australischen Aktivistin Noelle Martin, der britischen Autorin Helen Mort und der indischen Journalistin Rana Ayyub. Die drei Frauen sahen sich bereits Hasskampagnen ausgesetzt, deren Teil auch solche Deepfakes waren.
"Diese Art von Missbrauch, bei der Leute deine Identität, Namen und Reputation auf so eine verletzende Weise verwenden, erschüttert einen bis ins Mark", erzählt Martin von ihren Erfahrungen. Es wirke sich auf viele Bereiche des Lebens aus. Bei jedem Bewerbungsgespräch oder Date müsse man fürchten, dass diese Bilder oder Videos thematisiert würden. Zudem sei es ihr noch kein einziges Mal gelungen, eine Plattform dazu zu bringen, diese zu entfernen. Viele Betroffene sehen sich gezwungen, ihre Onlinepräsenz zu minimieren.
Bei der von der britischen Regierung finanzierten Hotline für Racheporno-Betroffene ist man pessimistisch ob der weiteren Entwicklung. Die Situation verschlimmere sich, immer mehr Frauen würden Opfer. Kürzlich beschäftigte man sich mit dem Fall einer Lehrerin, deren Gesicht in Deepfake-Pornos eingebaut worden war. Als die Clips über soziale Netzwerke verbreitet wurden und die Schulleitung davon Kenntnis erlangte, verlor sie ihre Stelle.
Wenngleich Männer deutlich seltener betroffen sind, wächst auch hier das Gefahrenpotenzial. Y ermöglicht auch den Einbau von Gesichtern in schwule Pornos. Die Resultate könnten besonders für Männer in Ländern zu einer Gefahr werden, in denen Homosexualität gesellschaftlich geächtet und gesetzlich verfolgt wird. In elf Staaten droht darauf sogar die Todesstrafe.
Betreiber stoppte Neuanmeldungen
Der Betreiber von Y agiert anonym. Anfragen durch "Technology Review" bei dem auf der Seite angegebenen Pressekontakt blieben unbeantwortet. Kurz bevor das Medium seinen Artikel veröffentlichte, tauchte jedoch auf der Website auf, dass man derzeit keine Registrierung neuer Nutzer mehr ermögliche.
Frühere Services dieser Art, etwa ein "Deepnude"-Dienst, der Frauen virtuell "auszog", wurden auf öffentlichen Druck hin entweder von ihren Betreibern oder Hosting-Dienstleistern stillgelegt. Diesen bleibt aber die Option, ins Deep Web abzuwandern, was das Vorgehen gegen sie deutlich erschwert. Die technische Basis solcher Deepfake-Programme ist zudem häufig als Open Source frei verfügbar, die Weiterentwicklung und der Einsatz zu bösartigen Zwecken sind damit ebenso schwer zu unterbinden wie die Nutzung für harmlose Kunst. (gpi, 15.9.2021)