Bedeutet eine schlechtere Einstufung durch den neuen Algorithmus des Arbeitsmarktservice eine Diskriminierung – oder besteht zumindest eine reale Gefahr dafür? Darüber wird aktuell wieder diskutiert. Nun hat sich der AMS-Chef Johannes Kopf mit einem offenen Brief zu Wort gemeldet.
In deutlichen Worten kritisiert Kopf darin die Wirtschaftsinformatikerin Sarah Spiekermann von der WU Wien. Sie benutze Begriffe wie künstliche Intelligenz und Algorithmus falsch, obwohl sie es besser wissen müsse, argumentiert Kopf. Vor allem aber habe sie im Kern nicht verstanden, was der AMS-Algorithmus mache.
Spiekermann hatte zuvor in einem Blog-Eintrag für den STANDARD kritisiert, dass das neue Tool des AMS technisch unausgereift sei, weil Algorithmen oft fehlerhafte Ergebnisse liefern würden. Unabhängig davon warnte sie, dass sich der Einsatz von Algorithmen – tatsächlich sprach sie mehrmals von künstlicher Intelligenz – "nicht mit unserem Verständnis von Menschenwürde vereinbaren lässt".
Das System bewerte nicht das Können einzelner Menschen, sondern teile Menschen auf Basis historischer Daten in Gruppen ein. "Böse gesprochen könnte man sagen: KIs stecken Menschen in Schubladen auf Basis von Regeln, die sie aus einer großen Grundgesamtheit von Daten abgeleitet haben", so Spiekermann.
Kopf widerspricht dem auf mehreren Ebenen: So schreibt er zunächst, dass alle Entscheidungen darüber, wie ein Jobsuchender gefördert wird, auch künftig ein AMS-Mitarbeiter trifft. Und: "Frauen profitieren von der Einführung des AMS Algorithmus".
Was genau ist diskriminierend?
Um dieses Argument von Kopf zu verstehen, muss man kurz einen Blick auf den Algorithmus werfen. Dieser soll die Jobsuchenden in drei Gruppen einteilen: jene mit guten Chancen am Jobmarkt, jene mit mittleren und jene mit schlechten Perspektiven. Für Frauen nimmt das Programm automatisch eine etwas geringere Vermittelbarkeit an. Auch für Frauen mit Betreuungspflichten gilt das, nicht aber für Männer. Auch bei ausländischen Staatsbürgern wird eine etwas geringere Chance angenommen.
Kopf argumentiert, dass daraus nicht folge, dass Frauen weniger Förderung erhalten werden, im Gegenteil. Sie seien nämlich, gemessen an ihrem Anteil an allen Arbeitslosen, in der Gruppe mit mittleren Chancen überrepräsentiert. Und auf die will sich das AMS konzentrieren.
Im neuen System wird es in puncto Fördermöglichkeiten tatsächlich ein Vorteil sein, in der mittleren Gruppe zu landen. Der Algorithmus teilt eben nicht nur in zwei Gruppen ein, sondern in drei, was Kritiker oft übersehen.
Wo Frauen landen
Allerdings: Eine schlechtere Bewertung der Wahrscheinlichkeit von Frauen bedeutet möglicherweise auch, dass Frauen aus der zweiten Gruppe rascher in die dritte Gruppe fallen werden als Männer. Der Algorithmus bewertet ja die Chancen von Jobsuchenden laufend. Wer zunächst in der zweiten Gruppe ist, kann auch in die dritte fallen. Berechnungen dazu, ob Geschlecht hier einen Effekt hat, sind nicht bekannt. Sprich: Das Format beurteilen zu können ist eine komplexe Aufgabe, bei der unzählige Faktoren eine Rolle spielen.
Schließlich ist auch umstritten, was es heißt, der Gruppe mit schlechter Perspektive zugeteilt zu werden. Hier laufen spannende Versuche mit neuartigen Betreuungskonzepten beim AMS – die allerdings auch nicht unumstritten sind. (András Szigetvari, 24.9.2019)