Kevin Scott, CTO von Microsoft, bei der Entwicklerkonferenz Build
Microsoft

Der Papst im Balenciaga-Mantel, Bilder von Trumps Verhaftung und Pentagon-Explosionen: Es wird immer schwieriger, KI-generierte Bilder von authentischem Material zu unterscheiden. Microsoft hat nun im Rahmen der Entwicklerkonferenz Build ein neues Tool vorgestellt, dass KI-generierte Bilder erkennt – zumindest jene, die mit dem Bildgenerator von Bing erstellt wurden.

Mithilfe kryptografischer Methoden werden KI-generierte Inhalte mit Metadaten über die Herkunft des Bildes oder Videos markiert. Das Wasserzeichen ist nur mit einem KI-Check-Tool auslesbar, das beispielsweise in Webseiten integrierbar ist. Um die Signatur lesen zu können, müssen Websites den Spezifikationen der Coalition for Content Provenance and Authenticity (C2PA) entsprechen. Dieser Standard wurde unter anderem von Adobe, Arm, der BBC, Intel, Truepic und Microsoft selbst entwickelt. Im Fall eines KI-Bildes weist die Website daraufhin die Nutzenden auf dessen Ursprung hin. 

Immer mehr Entwickler sind dabei

Bilder, die mithilfe des "Bing Image Creator und Designer" erstellt werden, sollen in Zukunft so markiert werden. Das Programm nutzt den Bildgenerator Dall-E. Damit können nicht nur Bilder, sondern auch Designs für Social-Media-Posts, Poster, Präsentationen und Grafiken erstellt werden.

Ob Microsofts Bemühungen einen signifikanten Unterschied machen, ist allerdings fraglich, da sich viele Entwicklerunternehmen hinter KI-Bildgeneratoren dem Standard noch nicht angeschlossen haben. Adobe, selbst ein großer Player am Markt, ist mit an Bord – damit sind wohl auch die Bilder von Google Chatbot Bard den Richtlinien unterworfen. Auch Stability AI, für die Entwicklung von Stable Diffusion verantwortlich, hat kürzlich die Bereitschaft signalisiert, die Spezifikationen wie von Microsoft vorgeschlagen zu übernehmen. 

Unabhängig davon haben auch Shutterstock und Midjourney Richtlinien verabschiedet, die eine Kennzeichnung KI-generierter Bilder vorsehen. Die technischen Details des Branchenstandards der Coalition for Content Provenance and Authenticity gibt es hier. (pez, 24.5.2023)