Bei all den Fake-Medien und Deepfake-Videos fällt es nicht nur ungeschulten Augen schwer zu erkennen, an welchen Stellen Manipulationen stattgefunden haben könnten. Die Software "Assembler" stammt aus dem Hause Jigsaw, das wie Google zum Alphabet-Konzern gehört.

Das Programm soll Medienhäuser und Faktencheckern dabei helfen, manipuliertes Material schneller und sicherer zu erkennen. The Next Web berichtet über die kostenlose Software, die vorerst ausschließlich für Medienhäuser und Faktenchecker verfügbar gemacht werden soll.

Kombination mehrerer Methoden

Um eine Analyse des gewünschten Mediums anzufertigen, soll sich das Programm an mehreren vorhandenen Methoden bedienen und diese simultan ablaufen lassen. Beispielsweise soll das Programm erkennen, wenn bei einem Bild die Helligkeit verändert wurde oder Bilder nachträglich eingefügt wurden, um diese potenziell manipulierten Stellen dann hervorzuheben. Dies geht aus einem Blog-Post von Jigsaws CEO Jared Cohen hervor.

Auch eigene Detektoren soll das Programm haben: Beispielsweise einen Medien-Detektor, der durch Maschinenlernen Deepfakes erkennen soll. Das soll funktionieren, indem der Detektor Bilder von echten Menschen mit Bildern von StyleGAN-generierten Menschen vergleicht. StyleGAN ist eine von Nvidia kreierte Software, die Gesichter von Menschen erstellt.

Soziale Medien ändern Richtlinien

Gängige soziale Medien sagten Deepfakes und manipulierten Fotos ebenfalls den Kampf an, wie The Verge schreibt. Facebook, Reddit und Youtube änderten Anfang 2020 ihre Richtlinien dahingehend, dass sie manipuliertes Material künftig sofort löschen würden. Twitter will sich gegen solches Material nur bedingt wehren: Man verkündete, Fake-Bilder, -Videos und andere Medien erst zu löschen, wenn diese "ernsthafte Sicherheitsrisiken bergen".

Software noch in Testphase

"Assebler" ist nach Angaben der Entwickler noch in einer Testphase. Laut der "New York Times" hätten derzeit unter anderem die Animal Politico in Mexiko, Rappler in den Philippinen und die Agence France Presse in Frankreich eine Testversion zur Verfügung. Das Programm der Allgemeinheit zur Verfügung zu stellen, stünde aktuell nicht auf dem Plan. (emko, 28.02.2020)