"Googles KI sagte, dass ich Klebstoff in meine Pizza tun sollte – also habe ich eine Pizza mit Klebstoff zubereitet und sie gegessen", schreibt eine Autorin des Onlinemediums "Business Insider" mit Refrerenz zu einem Posting auf dem Social Network X. Es ist nicht die einzige seltsame und potenziell gefährliche Information, welche die neue KI-Suche des Konzerns zuletzt ausgab: An anderer Stelle wurde zum Verspeisen von Steinen geraten oder behauptet, Barack Obama sei ein Moslem. Entsprechende Berichte häuften sich zuletzt auf Social Media.

Auf der Entwicklerkonferenz Google I/O im Mai 2024 hatte der Konzern die "Suche in der Gemini-Ära" vorgestellt. Demnach baut Google seine eigene Suche um und lässt diverse Informationen von einer KI zusammenfassen. Das soll vor allem Zeit sparen, indem der User die gewünschte Information schön aufbereitet erhält, anstatt sich durch diverse Links wühlen zu müssen.

Die Funktion befand sich bereits seit rund einem Jahr in der Testphase, in dieser Zeit wurden laut CEO Sundar Pichai über eine Milliarde Suchanfragen bearbeitet. Für die breite Masse ist sie in den USA bereits freigeschaltet, weitere Länder sollen folgen. Ein genauer Zeitplan ist nicht bekannt.

Google bessert nach

Derzeit wirkt es jedenfalls eher so, als müsse der US-Konzern zunächst im Heimmarkt nachbessern. So berichtet das Fachmedium "The Verge", dass Google "schnell handeln" wolle, um bizarre Antworten aus den Suchergebnissen zu entfernen. Die falschen Ergebnisse werden nun schrittweise ausgefiltert. Dies dürfte auch der Grund dafür sein, dass viele absurde Antworten bald wieder verschwinden, nachdem sie auf Social Media veröffentlicht wurden.

Gegenüber dem US-Medium betont eine Sprecherin Googles jedoch auch, dass die KI-Suche nach wie vor hochwertige Ergebnisse liefere: Die gelieferten Beispiele würden sich teils auf sehr ungewöhnliche Suchanfragen beziehen oder seien gar manipuliert, weshalb Google die Fehler nicht reproduzieren könne.

Gary Marcus, ein KI-Experte von der New York University, betont gegenüber "The Verge" hingegen, dass die Anbieter "Träume verkaufen", laut denen diese Technologie sich von 80 Prozent Korrektheit hin zu 100 Prozent Korrektheit entwickeln werde. Die verbleibenden 20 Prozent seien aber besonders schwer zu erreichen. Denn hier müssen entschieden werden, ob die Information plausibel und die Quelle vertrauenswürdig sei. Diese Aufgabe liegt meist noch bei menschlichen Faktencheckern.

Die Autorin des eingangs erwähnten Artikels betont übrigens, dass ihr Pizza-Klebstoff-Versuch nicht zur Nachahmung empfohlen sei. (stm, 26.5.2024)