Die Polizeibehörde der EU wird künftig eigene KI-Tools entwickeln können.

Foto: Reuters / Eva Plevier

Europol, die Polizeibehörde der Europäischen Union, wird mächtiger. Um die Ermittlungen nationaler Sicherheitskräfte zu unterstützen, darf sie künftig eigene "Forschungs- und Innovationsprojekte" verfolgen, große Datensätze verarbeiten und "nationalen Behörden bei der Überprüfung ausländischer Direktinvestitionen" helfen. Geht es um terroristische Inhalte oder Darstellungen des sexuellen Missbrauchs von Kindern, dürfen die Ermittler außerdem Nutzerdaten von Privatunternehmen wie Facebook anfordern. Das beschloss das EU-Parlament am Mittwoch mit großer Mehrheit.

Unter Datenschützern sorgt die Reform für heftige Kritik. Konkret wird sie Europol erlauben, eigene KI-Tools zu entwickeln, deren Algorithmen mithilfe von Daten nationaler Strafverfolgungsbehörden trainiert werden können. Das legitimiere "ein datengesteuertes Polizeimodell, das unsere grundlegendsten Rechte nicht schützt", schreibt die Grundrechtsorganisation EDRi in einer Presseaussendung.

Mehr Macht, weniger Kontrolle

Während die Macht der Behörde anwächst, würden die Kontrollinstanzen gleich bleiben. Das berge erhebliche Risiken für das Recht auf ein faires Verfahren, für die Privatsphäre und den Datenschutz. Vor allem marginalisierte Gruppen sind laut EDRi von den Systemen betroffen, "da Europol künstliche Intelligenz verwenden wird, die auf diskriminierenden Annahmen beruhende Merkmale priorisiert, um 'verdächtiges Verhalten' zu erkennen".

Grund dafür sei unter anderem, dass die Herkunft und die Beschaffenheit der eingefütterten Daten nicht ausreichend untersucht seien. Diese könnten "durch rassistische Vorurteile verzerrt sein oder aus korrupten und rechtswidrigen Praktiken stammen", kommentiert Chloé Berthélémy, Politikberaterin bei EDRi, den Beschluss. Das könne strukturelle Ungleichheiten verstärken.

Problematische Datensammlung

Der Datenschutzbeauftragte der Europäischen Union (EDPS), Wojciech Wiewiorowski, rügte Europol bereits 2020 wegen der unrechtmäßigen Speicherung und Verarbeitung von Daten unschuldiger Personen. Damit sei einerseits das Recht dieser Personen auf Privatsphäre verletzt, andererseits das Prinzip der Datenminimierung vernachlässigt worden – womit die Polizeibehörde ihre Befugnisse überschritten habe, berichtete "Heise". Dabei blieb es jedoch nicht.

Im Jänner dieses Jahres forderte Wiewiorowski Europol erneut zur Löschung persönlicher Daten auf. Diesmal ging es um Informationen zu einst verdächtigen Menschen, denen keine Verbindung mit einem Verbrechen nachgewiesen werden konnte. Eigentlich hätten entsprechende Daten innerhalb von sechs Monaten gelöscht werden müssen. Eine Frist, die nicht eingehalten wurde.

Bis heute ist es unklar, ob der Aufforderung eigentlich nachgekommen wurde. Damals habe Europol noch offengelassen, wie sie mit der Situation tatsächlich umgehen werde, berichtete Netzpolitik.org. Problematisch ist das auch deshalb, weil die Reform des Europol-Mandats die vom EDPS kritisierte Datensammlung rückwirkend legalisiert – und die angeordnete Löschung dadurch nichtig werden dürfte.

Unwirksame Kontrolle?

Das kritisiert auch Patrick Breyer von der Piratenpartei. Laut dem EU-Abgeordneten würden "illegale Machenschaften von Europol legalisiert werden, anstatt sie zu stoppen". "Nach Feststellungen des Europäischen Datenschutzbeauftragten speichert Europol jahrelang und illegal massenhaft Daten über Millionen völlig unverdächtiger Personen, die von nationalen Behörden übermittelt wurden", schreibt er in einer Stellungnahme.

Die EU selbst will einer unrechtmäßigen Weiterverwendung von Daten hingegen mithilfe eines "Fundamental Rights Officer" entgegenwirken. Dieser soll gemeinsam mit dem Datenschutzbeauftragten die Verarbeitung überwachen. Das Problem dabei: Laut EDRi besetzt die neu eingerichtete Stelle Europol selbst. Bedenkt man außerdem, dass der EDPS die Agentur schon zweimal zur Datenlöschung aufgefordert hat und ihre Befugnisse nun ausgeweitet werden, ist es fraglich, wie wirksam diese Kontrollinstanzen in Wirklichkeit sein werden.

Polizeiakten für alle

Das Europol-Mandat ist nicht die einzige Initiative, mit der die Union europäische Polizeibehörden stärker vernetzen will. Derzeit befindet sich ein Nachfolger des Prümer Vertrags in Verhandlung, der schon in den frühen 2000er-Jahren für eine bessere "Zusammenarbeit der Strafverfolgungsbehörden bei der Bekämpfung grenzüberschreitender Kriminalität" sorgen sollte. Bisher erlaubt er Mitgliedsstaaten den automatisierten Austausch von DNA- und Fingerabdruckdaten.

Mit Prüm II plant die EU zusätzlich den Austausch von Gesichtsbildern, Polizeiakten und Führerscheindaten innerhalb des Schengenraums. Sowohl Grundrechtsorganisationen als auch der EDPS kritisieren den aktuellen Entwurf als zu weitreichend und vage formuliert. Dieser legt aktuell nicht fest, ob nur die Daten verdächtiger Personen oder auch jene von Opfern und Zeuginnen abgeglichen werden dürfen.

Gegenüber dem STANDARD kritisierte Ella Jakubowska von EDRi schon Mitte April, dass nationale Polizeidatenbanken ein massives Problem mit mangelnder Datenqualität hätten. Neben Fakten würden sie häufig auch Hörensagen und diskriminierende Kommentare enthalten, "die in dieses System einfließen und an eine Polizeibehörde eines anderen Landes übermittelt werden".

Widersprüchliche Positionen

Interessant ist jedenfalls in beiden Fällen, dass sie mit der Position des Parlaments gegenüber dem AI Act der Union im Konflikt stehen. Dieser wird in den kommenden Monaten diskutiert und soll eine gesetzliche Grundlage für Innovationen im Bereich der künstlichen Intelligenz mit sich bringen.

In einer Aussendung warnte das EU-Parlament am Mittwoch konkret vor den Gefahren einer Massenüberwachung mittels KI. Entsprechende Technologien würden "wichtige ethische und rechtliche Fragen aufwerfen", weil sie eine nie dagewesene Automatisierung der Informationsverarbeitung ermöglichen würden. Das ebne den Weg "für Massenüberwachung und andere unrechtmäßige Eingriffe" und stelle eine Bedrohung für die Grundrechte dar. Eine Gefahr, die nach Ansicht der Parlamentarier für Europol nicht zu gelten scheint. Immerhin wurde ebendiese Stellungnahme am selben Tag veröffentlicht wie die Zustimmung dazu, die Befugnisse der Polizeibehörde massiv auszuweiten. (Mickey Manakas, 6.5.2022)