Vollautomatisierte Personalentscheidungen sind bis auf einige Ausnahmen verboten, im Detail bleiben viele arbeitsrechtliche Fragen aber weiter ungeklärt.
Der Einsatz künstlicher Intelligenz (KI) ist keine Zukunftsmusik mehr, sondern längst zum Alltag geworden. Gerade im HR-Bereich ist ein regelrechter Boom beim Einsatz von künstlicher Intelligenz festzustellen. KI-Anbieter versprechen, dass weite Teile des Personalmanagements von selbstlernenden Algorithmen übernommen werden können.
Nicht nur die Abwicklung des Bewerbungsprozesses, sondern auch die laufende Überwachung und Bewertung von Arbeitnehmerinnen und Arbeitnehmern bis hin zur autonomen Beendigung von Arbeitsverhältnissen könnte zukünftig durch KI-Systeme erfolgen. Das wirft neben ethischen nicht zuletzt auch rechtliche Fragen auf.
Der Nutzen von KI für Arbeitgeber liegt zumindest auf den ersten Blick auf der Hand. Sie spart Zeit und Geld. Auch für Arbeitnehmer bringt der Einsatz von KI gewisse Vorteile mit – wenn etwa Personalentscheidungen anhand objektiver Kriterien durch ein neutrales KI-Tool getroffen werden anstatt aufgrund persönlicher Vorlieben des Vorgesetzten. Dennoch überwiegen derzeit die Bedenken. Neben der Angst vor laufender Überwachung besteht die Sorge, dass KI-Tools ohne menschliche Kontrolle falsche Entscheidungen treffen könnten.
Dass diese Sorge nicht gänzlich unbegründet ist, zeigt sich beispielsweise am Fall eines US-Konzerns, der einen selbstlernenden Algorithmus zur Unterstützung bei der Bewerberauswahl verwendete. Statt einer diskriminierungsfreien Vorauswahl schlug der Algorithmus dem Unternehmen vor allem Männer vor, die beispielsweise Jared hießen und Lacrosse spielten. Eigentlich sollte das KI-System Diskriminierungen vermeiden, gelungen ist das aufgrund unzureichender Trainingsdaten aber nicht.
Rechtliche Schranken
Tatsächlich ist für Arbeitgeber beim Einsatz von KI Vorsicht geboten. Denn was technisch möglich ist, ist rechtlich noch lange nicht erlaubt. Die Frage, welche rechtlichen Schranken für Arbeitgeber beim Einsatz von KI gelten, ist aktuell nicht immer eindeutig zu beantworten. Während einzelne EU-Staaten bereits KI-spezifische Arbeitsrechtsvorschriften haben, gibt es in Österreich noch keine entsprechenden Regelungen. Das Gesetz hinkt dem technischen Fortschritt klar hinterher. Aus Sicht von Arbeitnehmerinnen und Arbeitnehmern bestehen daher einige Schutzlücken.
Der Einsatz von KI im Arbeitsverhältnis bewegt sich dennoch nicht im rechtsfreien Raum. In Österreich ergeben sich insbesondere durch das Gleichbehandlungs- und Behinderteneinstellungsgesetz, das österreichische Datenschutzgesetz und die EU-Datenschutzgrundverordnung (DSGVO) sowie das Arbeitsverfassungsgesetz zahlreiche Schranken für den Einsatz von KI.
Beispielsweise sieht die DSGVO vor, dass Personen das Recht haben, nicht ausschließlich einer auf einer automatisierten Verarbeitung beruhenden Entscheidung unterworfen zu werden, die rechtliche Wirkung entfaltet oder sie erheblich beeinträchtigt. Vollautomatisierte Personalentscheidungen wie etwa Kündigungen sind daher unzulässig. Es gibt zwar Ausnahmen, ein generelles Robo-Hiring und -Firing ohne jede menschliche Kontrolle bleibt jedoch – vorerst – eine Illusion.
Für Arbeitgeber ist die unklare Rechtslage ebenfalls problematisch, da teils erst im Rahmen eines Gerichtsverfahrens klar wird, ob der Einsatz eines KI-Systems zulässig war oder nicht. Werden Bewerber- oder Arbeitnehmerrechte durch KI-Systeme verletzt, wird der Arbeitgeber in aller Regel haften. Ob und wann ein Regress des Arbeitgebers an den KI-Hersteller möglich ist, wird die Gerichte in Zukunft sicher noch häufiger beschäftigen.
Bereich mit "Hochrisiko"
Konkrete Bestrebungen des nationalen Gesetzgebers, die KI-Nutzung im Arbeitsverhältnis genauer zu regeln, sind aktuell nicht erkennbar. Umso mehr sind die Bemühungen auf EU-Ebene zu begrüßen, den Einsatz von KI einheitlich zu regeln. Mit dem Vorschlag für eine Verordnung über künstliche Intelligenz (AI Act) soll etwa ein europaweiter Rahmen für die KI geschaffen werden.
Der aktuelle Entwurf sieht dabei vor, dass KI-Technologien, die im Bereich Beschäftigung, Personalmanagement und dem Zugang zur Selbstständigkeit eingesetzt werden, als "Hochrisiko-KI-System" zu qualifizieren sind. Derartige Systeme müssen zukünftig bestimmten Qualitäts- und SicherheitsStandards genügen, bevor sie auf den Markt gebracht und tatsächlich am Arbeitsplatz eingesetzt werden dürfen. Bis der AI Act in Kraft tritt, wird es aber wahrscheinlich noch dauern. Darüber hinaus lässt dieser viele arbeitsrechtlichen Fragen völlig offen.
Arbeitgeber sollten sich jedenfalls schon jetzt für die neuen Herausforderungen wappnen, die durch den Einsatz von KI im Arbeitsverhältnis entstehen. Die HR-Arbeit der Zukunft wird anders aussehen als heute. HR-Experten werden ein vertieftes Verständnis für KI benötigen. Arbeitgeber müssen insbesondere verstehen, wie der von ihnen eingesetzte Algorithmus funktioniert – und diesen aufgrund der ständigen Weiterentwicklung regelmäßig überprüfen. Personalentscheidungen werden aber auch zukünftig der Endkontrolle durch einen Menschen bedürfen. Eine Vollautomatisierung ist zumindest aktuell noch nicht in Sicht. (Isabel Firneis, 24.4.2023)