Hoppla, das war peinlich: Kurz nach der Veröffentlichung von Googles Gemini landeten plötzlich Bilder von schwarzen Wehrmachtssoldaten oder Wikingern in den sozialen Netzen. Bei Google zog man rasch die Notbremse und musste sich für die Ungenauigkeiten in historischen Darstellungen entschuldigen. Google musste den Bildgenerator vorerst abstellen. Man arbeite an einer Lösung hieß es, Gemini kann aber nun, drei Wochen später, immer noch keine Bilder generieren. Nun scheint Adobes Firefly unter einem ganz ähnlichen Problem leiden, wie Semafor berichtet.
Die beiden Dienste nutzen ähnliche Techniken zur Erstellung von Bildern aus geschriebenem Text, werden aber auf sehr unterschiedlichen Datensätzen trainiert. Adobe verwendet nur lizenzierte Bilder oder eigene Stockfotos, eine Ressource, über die Adobe im Überfluss verfügen dürfte. Das wiederum hat den Vorteil, dass der Bildgenerator auch kommerziell sicher eingesetzt werden kann, weil die Copyrightfrage des Trainingsmaterials zweifelsfrei geklärt ist – zumindest war das bislang das Hauptverkaufsargument für Adobe Firefly.
Der Journalist Reed Albergotti hat Firefly gebeten, Bilder mit ähnlichen Vorgaben zu machen, die schon bei Gemini für Wirbel sorgten. Und tatsächlich: Firefly generierte mit dem Prompt "Deutsche Soldaten im Jahr 1945" eine Truppe glücklich dreinblickender Menschen mit schwarzer Hautfarbe. Ähnliches soll sich bei Prompts über die Gründerväter und den US-Verfassungskonvent von 1787 abgespielt haben. "Als ich das Programm bat, eine Comicfigur eines alten weißen Mannes zu erstellen, zeichnete es eine, gab mir aber auch drei andere Figuren, einen schwarzen Mann, eine schwarze Frau und eine weiße Frau. Und ja, es hat mir sogar ein Bild von schwarzen Wikingern gezeichnet, genau wie Gemini", bemerkt Albergotti lakonisch.
In Österreich mit alpenländischem Einschlag
Beim Versuch seitens des STANDARD konnte der Fehler im anderen Extrem reproduziert werden, hier waren alle Personen ausnahmslos weiß und posierten vor einem Bergpanorama, das der Bildgenerator wohl für typisch österreichisch hält. Der eigentlich gewünschte Wikingerkrieger stand plötzlich vor dem Hintergrund einer Kirche und schwang die österreichische Flagge. Auch beim Versuch, dem Bildgenerator Wehrmachtssoldaten zu entlocken, schien der Austria-Bias zu greifen. Jedenfalls wurde eine fröhliche Dreiergruppe von lachenden Herren generiert, die in ihrer Montur eher an eine Feuerwehrkapelle erinnerten. Im Hintergrund wieder: eine Kirche, schneebedeckte Berge und grünes Landidyll. Auch Gemini war bereits an der historisch einigermaßen korrekten Darstellung von deutschen Soldaten gescheitert.
Nächster Versuch: Firefly soll ein Bild eines Maori-Kriegers erstellen. Dabei handelt es sich um Vertreter der indigenen Bevölkerung Neuseelands. Heraus kam eine sehr österreichische Variante, wieder mit alpinem Hintergrund und sogar einer Après-Ski-Hütte. Dieser angebliche Krieger hätte auch gut in ein Musikvideo von Hansi Hinterseer gepasst. Tatsächlich dürften die Fehlleistungen zum Teil aus dem Trainingsmaterial selbst stammen. Firefly dürfte aber auch den Standort des Users in den Prompt miteinbeziehen, so zumindest der Verdacht nach einigen Versuchen.
Dabei ist Diversität in Bild-KIs grundsätzlich keine schlechte Idee, schließlich sollen Mechaniker nicht nur blaumanntragende Burschen sein oder Ärzte nur als weiße Herren mittleren Alters dargestellt werden. Wie man aber die Balance zwischen einer diversen Darstellung und historischer Genauigkeit sowie geografischer Korrektheit hinbekommt, an diesem Problem scheitert nach Google nun auch Adobe. (pez, 19.3.2024)