Sehr geehrter Herr Magister Kopf, nach Ihrer öffentlich emotionalen Replik "Ein kritischer Blick auf die AMS-Kritiker" im STANDARD auf meine AMS-Algorithmenkritik werde ich nochmals versuchen, Ihnen klarzumachen, warum ich von meiner kritischen Position nicht abweiche.

Sie ärgern sich darüber, dass ich Ihren AMS-Algorithmus als "entwürdigend" und "naiv" bezeichnet habe. Aber sehen Sie eigentlich nicht, dass es entwürdigend ist, Menschen und ihre Chancen mit zehn Zahlen berechnen zu wollen? Sehen Sie nicht, dass es naiv ist zu glauben, dass Ihre AMS-Mitarbeiter den Mut, geschweige denn die Zeit haben, den Computerergebnissen zu widersprechen?

Werthaltung ist Urteilskraft

Ganz sicher erlaube ich mir, auch weiterhin Werte in meine Kritik einzubeziehen, wie etwa die Würde, die Richtigkeit (im Unterschied zur Falschheit) oder die Urteilskraft (im Unterschied zur Naivität). Urteilskraft bedeutet, eine Faktenlage mit einer eigenen inneren Haltung zu betrachten. Und zu meiner Haltung gegenüber Ihrem AMS-Algorithmus gehört, dass ich bestimmte Werte in unserer Gesellschaft für bewahrenswert halte. Ich halte die Würde des Menschen für ungeheuer wichtig, ebenso wie die Richtigkeit und Vollständigkeit seiner Beurteilung. Und ich lehne den leichtgläubigen Umgang mit der Form von Berechnungen ab, wie Sie sie vorgelegt haben.

Zur Richtigkeit und Vollständigkeit in der Beurteilung von Arbeitslosen

Auf dem Podium in Alpbach habe ich gefordert, dass Ihre Behörde mehr Geld bekommt, wenn es mit den gegebenen Mitteln nicht möglich ist, arbeitssuchenden Menschen maximal zu helfen. Hilfe, so wie ich sie mir als Bürgerin vorstelle, heißt, dass AMS-Mitarbeiter versuchen, mit all ihrer Lebenserfahrung die Persönlichkeit und Situation ihres Gegenüber (des Arbeitssuchenden) möglichst richtig und möglichst vollständig zu erfassen. Dazu gehören ganz sicherlich weit mehr als die zehn Variablen, die im AMS-Algorithmus laut Dokumentation enthalten sind.

Es geht nicht ums Geschlecht oder ob jemand ein Ausländer ist. Es geht um die vielschichtigen, nicht messbaren Faktoren eines Arbeitslosen: seine oder ihre Motivation, Ausstrahlung, Freundlichkeit, Vitalität, Gebrechlichkeit, Zuverlässigkeit, Begabung et cetera. Ebenso um die vielschichtigen Gründe der im Einzelfall extrem komplexen Situation, die dazu geführt hat, dass der- oder diejenige zum AMS kommt. Und es geht um einen Abgleich zwischen diesen höchst individuellen Voraussetzungen eines Menschen, die vielleicht zu einer ganz bestimmten Schulung oder einem ganz bestimmten Arbeitgeber passen könnten. Wenn man diese Komplexität der Realität mit Ihrem veröffentlichten Algorithmus-Modell vergleicht, kommt man nicht umhin, Unvollständigkeit zu konstatieren und damit die Richtigkeit Ihrer Berechnungen auf den ersten Blick zu hinterfragen.

Warum arbeitet das AMS eigentlich nicht mit einer KI?

Natürlich könnte ich jetzt bedauern, dass Sie beim AMS nicht auf eine künstliche Intelligenz gedrängt haben (KI hier verstanden im fachsprachlichen Sinn). Würden Sie Ihre Berechnungen wenigstens von den moderneren Systemen anstellen lassen, die unsere Zeit zur Verfügung stellt, wäre Ihr Modell wenigstens zeitgemäß und entspräche dem neuesten Stand der Wissenschaft. Sicherlich würden Sie dann ein paar weniger banale Funktionen ermitteln und die Muster in Ihren Daten erkennen, die die Steuergelder auch wert sein könnten. Sie würden dann eine ordentliche digitale Transformation machen, wo Daten uns über Zusammenhänge informieren können, die wir noch nicht selber wissen.

Aber wie Sie in meinem Ihnen geschenkten Buch "Digitale Ethik" nachlesen konnten, schreibe ich als habilitierte Wirtschaftsinformatikerin auch der künstlichen Intelligenz keine magischen Kräfte zu. Auch eine künstliche Intelligenz könnte weder Ausstrahlung noch Motivation für eine Einzelperson so verlässlich errechnen, wie es Ihr sensibler Arbeitsmarktkontext erfordert; weder heute noch in Zukunft. Der Output einer Maschine ist immer nur so gut wie ihr Input. Und was sich nicht messen lässt, dass lässt sich auch nicht berechnen.

Zur Nutzung des Begriffs KI

Ich bin Ihnen ehrlich gesagt sehr verbunden, dass Sie aus ihrer Position heraus nochmals so klar darauf hingewiesen haben, was der Unterschied ist zwischen einer künstlichen Intelligenz und einer Regressionsfunktion. Natürlich habe ich Ihre Regressionsfunktion sofort als solche erkannt, denn immerhin arbeite ich selbst seit 19 Jahren mit solchen statistischen Verfahren; auch wenn ich mir nie anmaßen würde, sie zum Ausrechnen von Indexen zu verwenden, die dann in der Realität zur Einordnung von Einzelpersonen führen und deren weiteres Schicksal beeinflussen.

Der Begriff künstliche Intelligenz wird jedoch auch alltagssprachlich gebraucht. Man verwendet den Begriff dann, um komplexere Rechenmodelle als künstlich intelligent zu bezeichnen. Diese alltagssprachliche Verwendung von KI halte ich für unklug, aber bei Ihrem AMS-Algorithmus hatte sich ja in den Pressebesprechungen diese Bezeichnung nun fast schon eingebürgert, was Sie ja auch selbst wissen. Für mich ist das natürlich dann ein Wortspiel, Ihre kleinen Funktionen als "Super-KI" zu bezeichnen; vor allem wenn ich im selben Artikel bespreche, dass sie das ganz sicher nicht sind.

Verbessert sich die Arbeit des AMS durch den neuen Algorithmus?

Freilich wäre es aus Transparenz- und Beurteilungsgründen unabdingbar zu wissen, wie die Ergebnisse Ihrer Algorithmen den AMS-Sachbearbeitern angezeigt werden. Mir ist zugetragen worden, dass es in den letzten Monaten keinem externen Fachmann gelungen ist, Ihnen nähere Informationen über Ihr Vorhaben zu entlocken. Daher dürfen Sie auch nicht böse sein, wenn es nun zu Spekulationen kommt, was hier wirklich passiert.

Klar ist, dass, wenn einem Sachbearbeiter eine Gruppe A, B oder C oder eine Integrationswahrscheinlichkeit 0 oder 1 angezeigt wird, diese Information nicht nur "zusätzlich" ist, wie Sie schreiben. Es ist die von einer Maschine ausgerechnete Einschätzung. Und ganz sicher ist: Wir Menschen vertrauen auf die von Maschinen ausgerechneten Einschätzungen in diesen Tagen leider fast immer. Wir haben in den letzten 200 Jahren gelernt, dass Maschinen oft weniger Fehler machen als Menschen, dass sie viel schneller und viel präziser arbeiten als wir. Und nun kommt so eine "Maschine" beim AMS zum Einsatz, und Sie glauben wirklich, dass Ihre Mitarbeiter den Mut, geschweige denn die Zeit haben, "den vom Computer errechneten Wert zu prüfen", wie Sie in Ihrem Beitrag schreiben? War es nicht gerade die Zeitersparnis, die Sie dazu ermutigt hat, das ganze System überhaupt einzuführen? Und nun sollen Ihre Sachbearbeiter auch noch das Maschinenurteil prüfen? Widersprechen Sie sich da nicht selbst?

Was aber meinen Sie – und das ist viel wichtiger – mit der Aussage, dass die AMS-Mitarbeiter "bei einer Reihe von normierten Umständen" das Recht haben, das System zu korrigieren? Darf ich Sie richtig verstehen, dass die AMS-Bearbeiter diese halbgewalkten Indexzahlen eigentlich immer verwenden sollen und nur unter ganz bestimmten "normierten Umständen" diesen widersprechen dürfen? Das hoffe ich in der Tat falsch verstanden zu haben. (Sarah Spiekermann, 27.9.2019)