Das Bild zeigt eine Frau mit geschlossenen Augen.
Die Beseitigung von Deepfake-Inhalten ist für Opfer auch mit erheblichem Aufwand verbunden.
Getty Images

Spätestens seit dem Hype um Künstliche Intelligenz und den damit verbundenen Bildgeneratoren sind Deepfakes ein massives Problem im Internet. Sie manipulieren Videos, um den Anschein zu erwecken, dass Personen, oft weibliche Prominente, ohne deren Zustimmung explizite Handlungen ausüben. Von der enormen psychischen Belastung abgesehen sind Opfer dadurch auch mit einem Aufwand konfrontiert, diese Inhalte wieder entfernen zu lassen. Sie sehen die Suchmaschinen in der Pflicht, strengere Vorschriften festzulegen und aktiver Maßnahmen zu ergreifen. Und auch die rechtliche Regulierung greift noch zu kurz.

Im Zusammenhang mit Suchmaschinen steht aufgrund der Marktanteile vor allem Google im Mittelpunkt dieser Kontroverse. Obwohl Google mittlerweile Strategien eingeführt hat, um die Sichtbarkeit solcher Inhalte zu verringern, indem es Links zu gefälschten pornografischen Websites herunterstuft, bleibt die Wirkung begrenzt. Die Opfer berichten, dass die expliziten Inhalte durch das Downranking zwar weniger sichtbar sind, aber nicht vollständig aus den Suchergebnissen entfernt wurden. Diese anhaltende Sichtbarkeit stellt für die Betroffenen eine erhebliche Belastung dar, da sie immer wieder die Löschung jedes einzelnen verletzenden Links und der dahinterliegenden Inhalte beantragen müssen.

Wie Ars Technica berichtet, betonte ein Google-Sprecher das Engagement des Unternehmens, seine Richtlinien weiterzuentwickeln und stärkere Sicherheitsvorkehrungen gegen Deepfake-Pornos einzuführen. Trotz dieser Bemühungen wird der von Google verfolgte Ansatz oft eher als reaktiv denn als präventiv eingestuft, da er den Opfern eine unangemessene Verantwortung für die Identifizierung und Meldung von Inhalten aufbürdet. Vor allem aber trägt diese Methode auch wenig dazu bei, das grundlegende Problem zu lösen: die ständige Verfügbarkeit und Erstellung gefälschter Pornografie.

Die Regulierung hinkt hinterher

Die Rechtslage im Zusammenhang mit Deepfake-Inhalten ist dementsprechend ungenau, da diese erst vor vergleichsweise kurzer Zeit entstanden sind und die Gesetzgebung mit dem rasanten technologischen Fortschritt nicht Schritt halten kann.

In der EU werden die Herausforderungen durch Deepfake-Technologien durch zwei wesentliche regulatorische Initiativen adressiert: den Digital Services Act (DSA) und einen Regulierungsvorschlag im AI Act. Der Regulierungsvorschlag konzentriert sich auf die Schaffung von Transparenz im Einsatz Künstlicher Intelligenz, während der DSA darauf abzielt, EU-weit einheitliche Regeln für die Meldung, Zirkulation und Entfernung von Deepfake-Inhalten zu etablieren. Diese Regeln sollen die Rechte derjenigen, die Inhalte melden, und derjenigen, deren Inhalte möglicherweise entfernt werden, in Einklang bringen.

Beide Gesetzgebungsvorhaben bilden zentrale Säulen in der Digitalpolitik der EU und versprechen tiefgreifende Veränderungen im Bereich der Plattformregulierung und KI-Nutzung. Garantie für den Erfolg der Gesetzesinitiativen gibt es aber keine, ihre Wirksamkeit in der Eindämmung der Risiken durch Deepfakes bleibt abzuwarten. Klar ist jedoch, dass zusätzliche Anstrengungen sowohl auf EU-Ebene als auch in den einzelnen Mitgliedsstaaten notwendig sein werden, um die potenziell gravierenden Folgen von Deepfakes zu bekämpfen.

Auf internationaler Ebene ist die Reaktion auf die Problematik uneinheitlich. Einige Länder erwägen strenge Strafen nicht nur für die Verbreitung, sondern auch für die bloße Erstellung von Deepfake-Bildern und erkennen die damit verbundenen Risiken an – selbst dann, wenn die Inhalte nicht weitergegeben werden. In den USA variieren laut Ars Technica die geltenden Gesetze von Bundesstaat zu Bundesstaat, und es gibt keine umfassenden Bundesgesetze, die sich mit diesem Thema befassen. Neuere Vorstöße wie der Preventing Deepfakes of Intimate Images Act, der die Erstellung und Verbreitung von Deepfake-Pornografie unter Strafe stellen und erhebliche Strafen für Verstöße vorsehen soll, sind auch erst im Entstehen.

Die globalen Unterschiede in den rechtlichen Ansätzen unterstreichen jedenfalls die enorme Herausforderung, eine Technologie zu regulieren, die Grenzen überschreitet und über das Internet leicht zugänglich ist. Downgrading und die Streichung mögen zwar Schritte zur Minderung des Schadens sein, eine langfristige Lösung sind sie aber sicher nicht. (bbr, 15.5.2024)