In künstlicher Intelligenz liegt enormes Potenzial. Von Fortschritten im Gesundheitswesen bis hin zu selbstfahrenden Autos: Computer, die in der Lage sind, aus Daten zu lernen und immer komplexere Entscheidungen zu treffen, gelten als unverzichtbarer Baustein der Zukunft. Jedoch werden wir auch immer wieder mit den Schattenseiten der Technologie konfrontiert. Eine davon nennt sich Deepfakes, eine Wortschöpfung aus Deep Learning und Fakes. Bezeichnet wird damit das KI-gestützte Einfügen von Stimmen und Körpern von Personen in anderes Bild- und Tonmaterial.

Gerade bei Pornofilmen handelt es sich um ein stetig wachsendes Phänomen. Auf Portalen wie Xvideos werden von Nutzern immer wieder Clips hochgeladen, bei denen das Gesicht einer anderen Person hineineditiert wurde. Anstelle der eigentlichen Darstellerin oder des eigentlichen Darstellers wird dann plötzlich eine Hollywood-Persönlichkeit Teil des Akts, ohne zuvor um Zustimmung gefragt worden zu sein. Betroffen sind davon großteils Frauen. Und obwohl das Problem bekannt ist, tun die Pornoportale kaum etwas dagegen, berichtet "Wired".

1.000 Clips pro Monat

Mittlerweile sind es laut Schätzung von Sensity bis zu 1.000 Clips pro Monat, die nicht mehr nur noch auf einschlägige Deepfake-Communityseiten, sondern auf Mainstream-Pornoseiten hochgeladen werden. Im Verhältnis zu anderen Inhalten mag das nicht viel sein, doch die Tendenz ist seit Jahren steigend, während Deepfake-Technologie immer ausgereifter und entsprechende Tools immer zugänglicher werden. Das zeigt sich laut Sensity auch darin, dass Deepfakes, wenn auch in harmloserer Ausführung, auch immer öfter auf sozialen Netzwerken wie Instagram zu finden sind.

Zahlreiche Deepfake-Pornos sind auf den Plattformen online, obwohl sie gemäß den Richtlinien eigentlich nicht erlaubt sind.
Foto: Screenshot

Die Untätigkeit der Pornoseiten illustriert "Wired" mit dem Beispiel von drei Seiten – Xvideosund Xnxx –, die allesamt der tschechischen WGCZ Holding gehören – sowie das dem zyprischen Unternehmen Hammy Media gehörende Portal Xhamster. Sie belegen Platz eins, drei und vier der meistaufgerufenen Angebote dieser Art weltweit und konkurrieren in Sachen Traffic mit Größen wie dem Onlinehändler Amazon und der kollaborativen Enzyklopädie Wikipedia.

Ein 30-sekündiger Clip verwendet etwa das Antlitz der britischen Darstellerin Emma Watson. Er hat auf allen drei Seiten kombiniert bereits mehr als 23 Millionen Aufrufe erzielt. Wie viele Deepfake-Videos auf den Portalen zu finden sind, lässt sich nicht sagen. Hunderte sind es, wenn man mit dem Schlagwort sucht, das Nutzer einem hochgeladenen Video zuordnen können. Doch es gibt eine potenziell große Dunkelziffer an nicht eindeutig gekennzeichneten Filmen.

Schweigsame Betreiber

Während zwei der Seiten auf Anfrage von "Wired" gar nicht erst reagierten, erklärte ein Manager von Xhamster, dass non-konsensuale Deepfakes gegen die Nutzungsrichtlinien des Portals verstoßen. Wenn Bildnisse von Personen ohne deren Einverständnis verwendet werden, so würden sie gelöscht.

Viele dieser Clips sind aber nach wie vor und auch schon seit geraumer Zeit online. Mit Bannern und Werbevorschaltungen profitieren die Plattformen davon. Letztlich fällt es auf die Nutzer zurück, sie massenhaft zu melden, um vielleicht eine Löschung zu erreichen.

Nicht nur für Promis ein Problem

Laut Clare McGlynn, Professorin an der Durham Law School, ist es nur noch eine Frage der Zeit, bis nicht nur berühmte Persönlichkeiten, sondern immer mehr auch Privatpersonen unfreiwillig in solchen Filmen landen werden. Gegenüber beiden Gruppen stellt dies einen schweren Eingriff in ihre Privatsphäre dar, doch die rechtlichen Mittel, sich zu wehren, sind oft beschränkt. Je nach Gesetzgebung besteht eventuell die Möglichkeit, wegen Urheberrechtsverletzungen oder Rufschädigung vor Gericht zu ziehen.

Auf das konkrete Szenario vorbereitet ist die Gesetzgebung vielerorts aber nicht. Selbst in den USA gibt es nur in einzelnen Bundesstaaten Gesetze, die auf Deepfakes abzielen. In Großbritannien wird derzeit evaluiert, wie man die Gesetze im Hinblick auf das Teilen intimer Bilder über das Netz reformieren könnte, wobei auch auf Deepfakes Bezug genommen werden soll. Bis entsprechende Änderungen erarbeitet und umgesetzt sind, dürfte es aber noch Jahre dauern. (gpi, 1.9.2020)

Update, 2.9., 9:50 Uhr: Xhamster gehört, entgegen der ursprünglichen Angabe, nicht zur WGCZ Holding sondern der zyprischen Firma Hammy Media. Dies wurde im Text korrigiert.