Straßburg – Das Europäische Parlament bringt eine europaweite Regelung über Richtlinien zur Anwendung von künstlicher Intelligenz (KI) auf den Weg. Am Donnerstag haben der Binnenmarkt- und der Innenausschuss den in den vergangenen Monaten im Rahmen der Initiative "A Europe Fit for the Digital Age" erarbeiteten "AI-Act" mit großer Mehrheit angenommen. Mitte Juni soll der Gesetzesentwurf im Plenum behandelt werden, bis Jahresende sollen die Verhandlungen mit dem Rat abgeschlossen sein.

Das Thema liegt seit Februar 2020 auf dem Tisch, als die Kommission in einem White Paper zu künstlicher Intelligenz erstmals die Erarbeitung von Regularien angeregt hatte. Es habe sich um lange und schwierige Verhandlungen über ein Thema von größter öffentlicher Aufmerksamkeit gehandelt, sagte der rumänische Co-Berichterstatter Dragoș Tudorache von der Fraktion Renew Europe vor Journalisten in Straßburg. "Es gibt darüber weltweit Diskussionen. Aber wir in Europa geben nun die Linie vor und beziehen Position."

"Das Wichtigste ist, dass wir eine Botschaft senden"

Diese war freilich lange keineswegs ausgemacht: Über 3.000 Abänderungsanträge hat es im Vorfeld der Abstimmung am Donnerstag gegeben. "Damit halten wir einen neuen Rekord. Das beweist, wie groß das Interesse an der Materie ist. Das Wichtigste ist, dass wir eine Botschaft senden: Wir nehmen es ernst", so Tudorache. Es gehe darum, die europäischen Bürger zu schützen, Vertrauen aufzubauen, aber auch, technologische Innovationen nicht zu verhindern, sagte sein italienischer Kollege Brando Benifei (S&D), der im heutigen Ausschuss von einer "Leuchtturmgesetzgebung" sprach.

Der erarbeitete Kompromiss, der den ursprünglichen Kommissionsvorschlag in vielen Bereichen ergänzt und verschärft, erzielte am Donnerstagfrüh 84 Ja-Stimmen bei sieben Nein-Stimmen und zwölf Enthaltungen. So wurden etwa generativen Systemen wie GPT zusätzliche Transparenzverpflichtungen auferlegt, wie etwa die Offenlegung, dass der Inhalt durch KI generiert wurde. Ausdrücklich ausgenommen von den Regelungen sind Forschungstätigkeiten oder KI-Komponenten, die unter Open-Source-Lizenzen bereitgestellt werden.

Verbot für "manipulative, ausbeuterische und soziale Kontrollpraktiken"

"Was es vor allem braucht, ist Klarheit. Das haben wir von allen Seiten gehört", so Tudorache. Deshalb geht es im vorgeschlagenen Regelwerk, das in manchen Bereichen auch die Datenschutzgrundverordnung ergänzen soll, zunächst um Definitionen und erst danach um Verbote. Kein KI-System solle von vornherein ausgeschlossen werden, hieß es.

Verboten sollen vor allem KI-Anwendungen werden, die "manipulative, ausbeuterische und soziale Kontrollpraktiken" darstellen und auf eine "vorausschauende Polizeiarbeit" hinauslaufen, die den zentralen Grundsatz der Unschuldsvermutung zu unterlaufen drohen oder diskriminierende Kategorisierungen vornehmen. KI "sollte weder die menschliche Autonomie ersetzen noch den Verlust der individuellen Freiheit in Kauf nehmen und in erster Linie den Bedürfnissen der Menschen und dem Gemeinwohl dienen", heißt es im Text.

Zu den Hochrisiko-KI-Systemen werden etwa Algorithmen gezählt, die zur Profilerstellung und individuellen Risikobewertung in der Polizeiarbeit, aber auch zur Einschätzung der Kreditwürdigkeit von Personen eingesetzt werden oder ihnen Zugang zu Bildung, Arbeit oder dem Sozialsystem verwehren oder diesen einschränken könnten, da diese KI-Systeme geeignet seien, historische Diskriminierungsmuster fortzuschreiben. Verboten werden auch KI-Systeme zur Herstellung von Deep Fakes, zur Erkennung von Emotionen bei Strafverfolgung, Grenzschutz oder am Arbeitsplatz, zum Auslesen biometrischer Daten aus sozialen Medien oder Überwachungskameras zur Erstellung von Gesichtserkennungsdatenbanken oder biometrischen Echtzeitfernidentifizierung.

Überwachungsfantasien der Mitgliedsländer

Bei der Gesichtserkennungssoftware müsse man rasch handeln, da es von europäischen Innenministern, darunter dem italienischen, Begehrlichkeiten gebe, diese Anwendungen zu nutzen, sagte Benifei. Unter anderem deswegen würden die Verhandlungen mit den EU-Mitgliedsländern ziemlich sicher eine harte Angelegenheit, meinte der Co-Berichterstatter, der sich aber stolz auf die in den vergangenen Monaten geleistete Arbeit zeigte. "Es war keine leichte Sache, aber das haben wir nicht erwartet. Wir versuchen, einen Rahmen zu geben, der vertrauensbildend wirkt, für die Entwicklungen der Zukunft aber flexibel genug ist."

"Historischer Schritt zum Schutz der Menschen"

"Wir freuen uns, dass die Mitglieder des Europäischen Parlaments so viele Praktiken, die auf eine biometrische Massenüberwachung hinauslaufen, verbieten wollen. Mit dieser Abstimmung zeigt die EU, dass sie bereit ist, Menschen über Profite, Freiheit über Kontrolle und Würde über Dystopien zu stellen," zeigt sich Ella Jakubowska, Senior Policy Advisor von der Bürgerrechtsorganisation European Digital Rights (EDRi) zufrieden. Es handle sich um einen historischen Schritt zum Schutz der Menschen in der EU vor zahlreichen Praktiken der biometrischen Massenüberwachung (BMS) sowohl durch den Staat als auch durch private Akteure.

Tursky kündigt nationale Behörde an

Digitalisierungs-Staatssekretär Florian Tursky (ÖVP) verwies in einem ersten Statement gegenüber der APA auf seine eigenen diesbezüglichen Pläne: "Wir werden nun mit der Einrichtung einer nationalen Behörde beginnen: Ausgehend von einer Geschäftsstelle werden die nationale Umsetzung sowie die rechtlichen Rahmenbedingungen vorbereitet. 2024 wird dann die österreichische KI-Behörde in Betrieb gehen." Die Ausschusseinigung im EU-Parlament bezeichnete er als "einen richtigen und wichtigen Schritt": "Es freut mich, dass nun endlich mehr Geschwindigkeit in den Prozess gekommen ist. Auch die Verschärfungen zugunsten des Konsumentenschutzes sind erfreulich."

Die nun geforderte EU-weite KI-Behörde werde "ein gutes Dach" für die österreichische Behörde sein. "Wir müssen künstliche Intelligenz schnell und vernünftig regulieren, mit einem starken Konsumentenschutz und Transparenz auf der einen Seite und Rechtssicherheit für die Unternehmen auf der anderen Seite."

Laute Rufe nach langsamerer Entwicklung

Zuletzt wurden die Stimmen nach einer Regulierung künstlicher Intelligenz auch innerhalb der Tech-Branche immer lauter. Mit Geoffrey Hinton verließ Anfang Mai einer der großen KI-Pioniere seinen Arbeitgeber Google, da er auf die Gefahren von künstlicher Intelligenz hinweisen wolle. Ende März hatten in einem offenen Brief mehr als tausend Tech-Vertreter, darunter Tesla- und Twitter-Chef Elon Musk, ein Moratorium in der Entwicklung von KI-Systemen angeregt, um erst grundlegende Fragen im Umgang damit zu klären. (APA, red, 11.5.2023)