Eines der wichtigsten Themen der Europäischen Union ist derzeit die Frage, wie man im größten digitalen Markt der Welt künftig mit künstlicher Intelligenz umgeht. Dass es eine Form der Regulierung braucht, ist international relativ unumstritten. Doch welche Anwendungen erlaubt sind, welche zu hohe Gefahren für die Menschen darstellen, diese Frage will Europa lösen und ihre Erkenntnisse am besten der gesamten Welt zur Verfügung stellen. Doch die hehren Ziele stehen auf der Kippe, es besteht die Gefahr, dass der AI Act scheitert. Nur Europa kann sich einen derartigen Fehlschlag nicht leisten.
Parlament zieht Linie im Sand
Das Parlament sieht vor, umstrittene Praktiken wie biometrische Massenüberwachung und Emotionserkennung nicht nur als höchst gefährlich einzustufen, sondern auch zu verbieten. Spricht man in Brüssel mit den Vertretern konservativer Politik, dann stehen auch diese roten Linien plötzlich wieder zur Debatte. Soll man durch Predictive Policing, zu Deutsch etwas bemüht mit "vorausschauender Polizeiarbeit" übersetzt, nicht Einbrüche und Raubüberfälle verhindern? Soll man zu deren Klärung nicht auf biometrische Massenüberwachung wie in China setzen? Schließlich hätte der "brave" EU-Bürger, die unbescholtene EU-Bürgerin nichts zu befürchten.
Das Europaparlament hat derartige Praktiken in ihrem Vorschlag an die Kommission eigentlich ausgeschlossen, weil derartige Systeme als zu gefährlich eingestuft werden.
Biometrische Identifikation im öffentlichen Bereich oder Kategorisierungssysteme, die Menschen nach Geschlecht, Rasse, Ethnie, Religion oder politischer Einstellung sortiert, sind ebenfalls strikt verboten. Prädiktive polizeiliche Systeme und Systeme zur Erkennung von Emotionen sind auf der roten Liste, wie das ungezielte Auslesen von Bildern aus dem Netz. Außerdem dürfen Videoüberwachungsanlagen nicht zur Erstellung von Gesichtsdatenbanken verwendet werden. So lautet zumindest der Standpunkt der EU-Abgeordneten.
Überwachungsfantasien der Länder
Nun haben aber auch die Kommission und die einzelnen Länder im Rat mitzureden – und hier scheinen sich die von den Parlamentariern gezeichneten Linien im Sand plötzlich aufzulösen. Die Trilog-Verhandlungen werden gemeinhin als extrem schwierig bezeichnet, zu viele Punkte sind noch offen, zu viel Verhandlungsmasse steht auf dem Spiel. Von außen kommt ebenfalls Kritik an mangelnden Beschwerdemöglichkeiten.
Ein Beispiel: Wie weit darf Gesichtserkennung gehen? Hier sind es vor allem Länder wie Spanien und Frankreich, die weniger Probleme mit der Massenüberwachung durch KI-Anwendungen haben. Aus Österreich dürften hingegen weniger Querschüsse zu erwarten sein. Die Regierung steht auf der Seite des Parlaments: Gesichtserkennung sei per se verboten. Mit einer Ausnahme: Die Strafverfolgungsbehörden sollen zur Verfolgung schwerer Straftaten und nach richterlicher Genehmigung biometrische Überwachung einsetzen dürfen.
Es sind aber nicht nur die Überwachungsfantasien der Innenminister der Mitgliedsländer, die aktuell Kopfzerbrechen bereiten, die Europawahlen im Juni lassen nur noch wenig Zeit für eine Einigung. Bis eine neue Kommission die Arbeit aufnimmt, wird es wohl Herbst 2024 werden, die Ausgangslage der Technologie könnte sich bis dahin wesentlich verändert haben. Die pessimistischen Stimmen in Brüssel sind sich sicher: Sollte die KI Regulierung bis Ende des Jahres 2023 stehen, geht das Regelwerk zurück an den Start.
Europa will weltweit führend sein
Das wäre für die Union eine Katastrophe: Offiziell dominiert die Erzählung, dass die Welt gespannt auf Europa schaut, wie man im größten digitalen Markt der Welt KI-Anwendungen reguliert. Die Hoffnung: Die Gesetzgebung in Europa soll eine Art Blaupause für weltweite Spielregeln werden, und möglichst viele Staaten sollen ähnliche KI-Regularien schaffen. "Das KI-Gesetz wird weltweit den Ton bei der Entwicklung und Steuerung der künstlichen Intelligenz angeben und sicherstellen, dass diese Technologie, die unsere Gesellschaft aufgrund der enormen Vorteile, die sie bieten kann, radikal verändern wird, im Einklang mit den europäischen Werten der Demokratie, der Grundrechte und der Rechtsstaatlichkeit entwickelt und genutzt wird", sagt etwa der Berichterstatter des Parlaments, Dragos Tudorache aus Bulgarien. Ein Scheitern der Verhandlungen wäre ein enormer Imageschaden.
Viel schwerer dürfte die wirtschaftlichen Auswirkungen sein, sollte der AI Act noch länger im Trilog festhängen. Schon jetzt sei die Sorge unter Unternehmen groß, die etwa KI-Anwendungen im Kundendienst oder im Personalwesen einsetzen wollen. Wenn diese nun intern KI-Systeme aufbauen, die später möglicherweise verboten werden, wäre der Schaden umso größer. Die Folge: Stillstand. Die aktuelle Rechtsunsicherheit führt auch dazu, dass die Großen der Branche, wie Google, Microsoft und Meta sich lieber Zeit lassen, ihre KI-Anwendungen hier auf den Markt zu bringen. Google Bard war monatelang in Europa nicht verfügbar. Metas KI-Avatare gehen zunächst nicht in Europa an den Start.
Kritik auch aus Österreich
Kritik am Tempo der seit 2021 laufenden Verhandlungen kam aus Österreich immer wieder, weshalb Digitalisierungsstaatssekretär Florian Tursky (ÖVP) eine eigene KI-Behörde forderte, die Unternehmen die fehlende Rechtssicherheit geben soll. Das Problem: Diese kann eine nationale Behörde nur schwer geben, wenn der europäische Rechtsrahmen fehlt. Die Auskünfte, ob eine jeweilige KI-Anwendung unbedenklich sei, würde in diesem Fall wohl nur für die absolut unstrittigen Systeme gelten. Als Beispiel wäre etwa ein Chatbot, der in einer Stadt Taxis bestellt und gleichzeitig die Öffnungszeiten der nächsten Apotheke recherchiert.
Speed kills
Gleichzeitig besteht die Befürchtung, der AI Act könnte zur Überregulierung führen und jegliche Innovation in Europa abwürgen. Unter der Hand wird gerne die Datenschutzgrundverordnung als Negativbeispiel genannt. Als diese 2016 in Kraft trat, kam es in vielen Staaten, darunter Österreich, zum sogenannten Gold Plating. Die Nationalstaaten nahmen die ohnehin weitreichenden Mindeststandards der EU und setzten schärfere Einzelregelungen auf. Es folgte ein wiederum zersplittertes Regelwerk. In der öffentlichen Wahrnehmung musste die Union die sprichwörtliche Krot schlucken – ihr wurde die Verantwortung dafür zugeschoben. Unschuldigerweise.
Nun macht aber der spanische Ratsvorsitz Druck. Man möchte sich das digitale Prestigeprojekt noch auf die eigenen Fahnen heften. Außerdem folgen nach den Europawahlen unter belgischem Vorsitz die Ratsvorsitze von Ungarn und Polen. Die Befürchtung in Brüssel: Die beiden Ländern könnten die rote Linie, was im AI Act erlaubt ist und was nicht, noch einmal verschieben. Zusätzlich könnte ein nach rechts gerücktes EU-Parlament den eigenen Vorschlag noch einmal aufbrechen.
Ein Gewaltakt oder Pfusch
Den AI Act noch bis zu den Wahlen auf die Schiene zu bringen scheint also schwer möglich und wäre wohl ein Gewaltakt. Das führt im Gegenzug zur Befürchtung, am Ende könnte das KI-Regelwerk zu schnell zusammengepfuscht werden und in der Praxis mehr Schaden als Nutzen bringen – dadurch würde ein Innovationsbereich nachhaltig beschädigt und Europa weiter zurückfallen.
Thierry Breton, der zuständige EU-Kommissar, ist jedenfalls im Gespräch unter anderem mit dem STANDARD zuversichtlich: Bis Ende des Jahres stehe eine Lösung. "Allons-y", sagte der Franzose, zu Deutsch: "Los geht's". Kein Wunder: Ein Scheitern kann sich die EU nicht leisten. (Peter Zellinger aus Brüssel, 15.10.2023)