Sie chatten fast wie Menschen, sie generieren Bilder auf Kommando, sie finden kleine Krebstumore zuverlässiger als Ärzte, und sie schlagen uns in immer mehr Spielen. Manchmal, so scheint es, ist die Herrschaft der Maschinen ein unausweichliches Szenario. Ähnliche Gedanken dürften auch Lee Sedol durch den Kopf gegangen sein, als er 2019 seine Karriere als professioneller Spieler des komplexen Brettspiels Go beendete. Davor musste er sich mehrfach AlphaGo, einer von Google entwickelten künstlichen Intelligenz, geschlagen geben.

"KI ist ein Ding, das man nicht besiegen kann", sagte der Südkoreaner angesichts seiner Niederlagen. Doch da hat er die Rechnung ohne Kellin Pelrine gemacht, der ihm nun späte Gerechtigkeit widerfahren ließ. Der US-Amerikaner versetzte dem Erfolgslauf der smarten Roboter einen herben Dämpfer. Zumindest vorerst.

Klare Niederlage für KataGo

Pelrine hatte sich mit KataGo angelegt, einer der weltbesten KIs für Go, die vielfach als ebenbürtig zu AlphaGo angesehen wird. 15 Partien absolvierte er gegen diese. Mit 14 Siegen entschied er diesen Zweikampf sehr klar für das "Team Mensch".

Allerdings ist dieser Erfolg nicht nur seinen eigenen spielerischen Fähigkeiten zu verdanken. Pelrine hatte die Unterstützung des Unternehmens Far AI. Dort hat man ein Programm entwickelt, mit dem die Spielweise von KataGo auf Fehler abgeklopft wurde. Mehr als eine Million Partien absolvierte es gegen die Profi-KI, um ihre "blinden Flecken" aufzuspüren.

Mit Erfolg. Die gewonnenen Erkenntnisse nutzte man zur Erstellung eines Plans, der schließlich von Pelrine am Spielbrett "skrupellos" durchgezogen wurde. Die Strategie besteht, grob erklärt, darin, Gruppen gegnerischer Spielsteine langsam einzukreisen und die KI dazwischen mit Zügen auf anderen Teilen des 19 mal 19 Felder großen Spielfelds "abzulenken".

KataGo fielen diese Manöver dabei selbst kurz vor ihrer Vollendung nicht auf, was letztlich zu der klaren 14:1-Bilanz führte. Mehr noch: Auch eine andere Weltklasse-Go-KI, Leela Zero, konnte von Pellrine auf diese Art bezwungen werden. Laut Adam Gleave, CEO von Far AI, war es "überraschend einfach", die Schwachstelle auszunutzen.

Für Menschen leicht zu entdecken

Die Umsetzung des Plans sei nicht "ganz trivial" gewesen, sagt Pelrine der "Financial Times". Er sei aber auch nicht übertrieben schwer zu erlernen und könne seiner Ansicht nach von jedem fortgeschritteneren Spieler angewandt werden, um den Computergegnern eins auszuwischen. Für menschliche Gegner sei die Einkreisung hingegen recht leicht zu bemerken.

Für Stuart Russell, Computerwissenschafter der Uni Berkeley, zeigt der Erfolg des Spielers eine grundlegende Schwäche moderner KIs auf. Die Systeme verstehen nur jene Situationen, auf die sie gut trainiert sind, versagen aber in der Regel beim "Generalisieren". Warum es für die konkrete Strategie anfällig war, muss erst geklärt werden.

Eine Annahme dazu ist, dass diese Spielweise so selten angewandt wird, dass sie in den Trainingsdaten der KIs kaum vorkommt. Trotz dieses Defizits, warnt Russell, werden bereits große KI-basierte Systeme ohne gründliche Prüfung zum Einsatz gebracht. (gpi, 20.2.2023)