Künstliche Intelligenz ist eine Technologie mit ungeheuer großem Potenzial, darin sind sich viele Beobachter einig. Sie macht unsere Sprachassistenten intelligenter, hilft bei der Diagnosestellung in Krankenhäusern und könnte in Smart Cities einmal unseren Autoverkehr effizient regeln. Doch wie so oft – und auch wie in der Star Wars-Saga – gibt es auch eine dunkle Seite.

Und auch diese hat ihre Anhänger. Speziell seit 2017 wird eine deutliche Zunahme an sogenannten "Deepfakes" festgestellt. Darunter versteht man teilmanipulierte Videoszenen. Darin lässt man etwa Politiker plötzlich etwas verlautbaren, das sie in der Realität nie gesagt haben. Und weil die Technologie dahinter immer ausgereifter wird, drohen Faktum und Lüge in der Zukunft immer schwerer unterscheidbar zu werden.

Deepfake-Aufkommen steigt massiv an

Doch zurück zu Star Wars. Nicht nur politisch werden Deepfakes zum Problem. Ein ebenfalls größer werdendes Phänomen sind Deepfake-Pornos. Hier werden oft die Köpfe bekannter Personen in einschlägiges Filmmaterial eingeschleust ("Faceswap") und dann im Netz veröffentlicht. Betroffen sind davon bislang hauptsächlich Frauen. Ein beliebtes Ziel ist Daisy Ridley. Die 27-jährige Britin gelangte seit 2015 als Star Wars-Heldin Rey zu Weltbekanntheit. Der kürzlich erfolgte Kinostart von The Rise of Skywalker dürfte wieder für vermehrtes Deepfake-Aufkommen sorgen.

Als Katalysator für Pornofilme mit unfreiwilliger prominenter Beteiligung gilt ein Reddit-Nutzer, der 2017 damit angefangen hatte, immer wieder entsprechendes Material zu veröffentlichen. Mittlerweile steigt die Menge an solchen Werken massiv an. Allein zwischen März und Oktober 2019 stellte das Start-up Deeptrace, das sich auf die Erkennung von Deepfakes spezialisiert, eine Verdoppelung des Aufkommens im Netz fest. 96 Prozent dieser Filme sind laut der Analyse Pornos.

Strafbares Erniedrigungswerkzeug

Die Sexfilme dienen allerdings nicht rein Befriedigungszwecken. Sie werden auch gezielt als Waffe eingesetzt, etwa gegen Aktivistinnen und Politikerinnen. Gleichzeitig wird die für die Erstellung benötigte Software immer einfacher zu verwenden und die grafische Qualität der Ergebnisse nimmt zu. Das Thema hat mittlerweile auch die Politik erreicht. Im US-Bundesstaat Kalifornien können Deepfake-Opfer seit einiger Zeit auf Schadenersatz klagen.

Teilweise sind Deepfakes auch in andernorts in Konflikt mit dem Gesetz. In Deutschland etwa mit dem Urheberrecht. Medienanwalt David Geßner erklärte etwa gegenüber der "Zeit", dass Deepfake-Pornos das sogenannte Recht am eigenen Bild verletzen und darüber hinaus auch als Ehrverletzung angesehen werden könnten. Zumindest theoretisch können Betroffene nicht nur gegen die Ersteller, sondern auch gegen alle vorgehen, die solche Werke weiter verbreiten. Aufgrund der ähnlichen Rechtslage könnte dies auch auf Österreich und andere EU-Mitgliedsstaaten umlegbar sein.

Auch Geßner sieht hier das Potenzial als Erniedrigungs- oder Racheinstrument, speziell wenn es nicht um bekannte Persönlichkeiten geht. "Bei Promis vermutet man noch eher, dass sie einen Porno nicht gedreht haben. Für alle anderen ist der Eingriff noch einmal drastischer", sagt er. Er beobachtet auch einen Anstieg bei Fällen sogenannter "Rachepornos", also dem Veröffentlichen von intimen Aufnahmen, die etwa einen ehemaligen Partner zeigen, ohne dass dieser der Verbreitung je zugestimmt hätte.

Ridley kämpft auch mit Stalkern

Für Schauspielerinnen wie Daisy Ridley kommen stattdessen andere Probleme hinzu. Zuletzt erklärte die Star Wars-Heldin in einem Interview mit der "Sun", dass bereits Probleme mit Stalkern hatte. Die beharrliche Verfolgung, die sie nicht nur in der digitalen Sphäre betraf, sorgte bei ihr für Angstzustände, weswegen sie sich bereits in Psychotherapie begeben hat. (gpi, 24.12.2019)