Deepfakes, meist die Montag fremder Köpfe und Gesichter auf andere Körper, werden immer besser. Auf die Spitze treibt das etwa der Tiktok-Kanal "Deepfake Tom Cruise", der immer wieder verblüffend real wirkende Videos veröffentlicht, in denen er das Antlitz des Hollywood-Stars nutzt. Das Potenzial in künstlerischer Hinsicht ist groß, aber auch die Gefahr des Missbrauchs. Etwa durch die Montage von Personen in Poroclips oder kompromittierende Aufnahmen oder das Unterjubeln von nie gesagten, politischen Statements. Wie schwierig die Unterscheidung zwischen realen und künstlich generierten Gesichtern ist, zeigt etwa das Ratespiel auf der Website "Which Face is real?".

Deswegen wird auch an Lösungen gearbeitet, denen im Zweifel die Unterscheidung zwischen echtem Bildmaterial und Deepfakes gelingen soll. Ein beachtlicher Schritt ist dabei der New York University in Buffalo gelungen. Sie haben eine Software entwickelt, die Fälschungen mit einer Trefferquote von 94 Prozent identifizieren kann.

Auf die Reflexion kommt es an

Im ersten Schritt erfasst die Software generell die Form und die verschiedenen Partien des Gesichts. Danach fokussiert sie sich auf die Augen. Konkret geht es um Lichtreflektionen auf der Augenoberfläche. Denn diese sollten auf beiden Augen fast ident aussehen.

Deepfake-Systeme, darunter auch fortgeschrittene neuronale Netzwerke wie Nvidias GAN 2.0, tendieren allerdings dazu, an diesem selten beachteten Detail zu scheitern. Ist die Abweichung der Reflexionen zu groß, stuft der Detektor das Bild als Fake ein. Trainiert wurde die Software mit Bildern von Flickrs "Faces HQ" sowie generierten Personen von der Website "This Person Does Not Exist".

Es gibt freilich ein paar Einschränkungen. Gedacht ist sie primär für die Aufnahme von Gesichtern relativ frontaler Perspektive, wie auf Porträtbildern. Vorausgesetzt wird außerdem eine Lichtquelle, die sich in den Augen spiegeln kann und analysiert wird auf Pixelebene, ohne etwa die Form der Augen zu beachten oder sich spiegelnde Formen aus der Umgebung. Eine Analyse ist auch nicht möglich, wenn nur ein Auge der Person offen bzw. zu sehen ist.

Die Wissenschaftler wollen ihren Ansatz in Zukunft weiterentwickeln. Einen genaueren Einblick in ihre Arbeit geben sie im Juni auf der IEEE International Conference im kanadischen Toronto. Ihr Paper ist über das Open-Access-Archiv Arxiv (PDF) abrufbar. (red, 14.3.2021)