Der Begriff "Deepfake", eine Zusammensetzung aus "Deep Learning" und "Fake", umschreibt die Möglichkeit, mithilfe von KI-gestützter Software Bilder und Töne realistisch fälschen zu können. Was vor wenigen Jahren noch eine gruselige Zukunftsvision war, nähert sich mit schnellen Schritten der Realität an.

Für Aufregung sorgt nun eine App namens "Zao". Das in China veröffentlichte Programm kann mit nur einem Foto seine User bereits glaubwürdig in verschiedene Filmszenen einbauen, berichtet Bloomberg.

In wenigen Sekunden erzeugt

Ein Beispiel für die umfangreichen Kapazitäten der App zeigt der Twitter-User Allan Xia vor. Er hat kurzerhand sein Gesicht in diverse Auftritte von Leonardo DiCaprio montieren lassen. Generiert wurden diese laut ihm in unter acht Sekunden mit eben nur einem Foto. Zao gibt Nutzern auch die Möglichkeit, eine Reihe an Fotos mit unterschiedlichen Gesichtsausdrücken aufzunehmen, um noch realistischere Ergebnisse zu erzeugen.

Immerhin: Zao zeigt auf, wie weit Deepfake-Technologie bereits ist, lässt sich aber selbst nur sehr beschränkt missbräuchlich verwenden. Denn das Programm lässt Gesichter nicht in beliebige Videos einbauen, sondern gibt eine Auswahl vor. Dies dürfte auch das Geheimnis hinter den außergewöhnlich guten und schnellen Ergebnissen sein, da man die dahinterliegende KI gezielt auf diese Filmausschnitte trainieren kann.

User sauer wegen Nutzungsbedingungen

In kürzester Zeit schoss die App an die Spitze der Charts in den Appstores. Nach der anfänglichen Neugier gibt es nun aber auch öffentliche Aufregung. Der Grund dafür sind die Nutzungsbedingungen. Nach anfänglich großer Neugier entdeckten User, dass sich die Betreiber der App sämtliche Rechte an den hochgeladenen Fotos zusichern ließen, inklusive der Möglichkeit, sie an andere weiter zu lizensieren.

Das sorgte für einen drastischen Absturz der Bewertungen des Programms. Mittlerweile wurden die Nutzungsbedingungen geändert. Die Fotos dienen nun nur noch zur Verbesserung des Programms oder anderen Zwecken, sofern die Nutzer zustimmten. Zudem sollen sie von den Servern gelöscht werden, wenn die User sie innerhalb der App entfernen.

Angst vor Meinungsmanipulation

Auch wenn die Einsatzmöglichkeiten beschränkt sind, ist Zao ein weiteres Beispiel für den Fortschritt digitaler Fälschungen. In den letzten Jahren haben Deepfake-Anwendungen immer wieder für Diskussionen gesorgt. So tauchen immer wieder Programme auf, die gezielt darauf ausgerichtet sind, Gesichter anderer Menschen in Pornofilme einzubauen. Und eine Software namens "Deepnude" versprach gar, Frauen mithilfe von KI virtuell zu entkleiden. Die kostenpflichtig angebotene Software wurde infolge einer Welle an Empörung schließlich wenige Tage nach ihrer Veröffentlichung wieder vom Netz genommen.

Sorge wegen Fälschungen macht man sich aber auch in der Politik. Immerhin werden auch Tools zur Fälschung von Stimmen immer besser. Sie können anhand von Sprachsamples lernen, wie eine Stimme klingt und wie der Sprecher Begriffe intoniert. Die Entwickler der KI "Dessa" ließen damit etwa vor einigen Monaten den bekannten Podcaster Joe Rogan verschiedene Geschichten erzählen.

Ein solcher Einsatz wäre freilich auch mit bzw. gegen bekannte Politiker denkbar, zumal von diesen genug Quellmaterial frei verfügbar ist. Manche fürchten, dass ein missbräuchlicher Einsatz zur Meinungsmanipulation schon bald zu befürchtent ist. Der US-Demokrat Adam Schiff sprach vor wenigen Monaten bereits von einem "albtraumhaften Szenario" für die kommenden Präsidentschaftswahlen 2020. (gpi, 03.09.2019)