Vor etwa zehn Jahren nahm der Hamburger Matthias Marx bei einem Ingenieurswettbewerb von Google teil. Zwei Fotos von der Veranstaltung zeigen ihn mit jugendlichem Gesicht, blass, die Haare strubbelig. Dass diese Bilder existieren, wusste Marx – sie waren auch auf verschiedenen sozialen Netzwerken zu finden.

Bereits 20 Milliarden Gesichter

Anfang 2020 berichtete die "New York Times" über das US-Unternehmen Clearview AI, das mithilfe von Web Scraping eine riesige Datenbank aus Milliarden von im Internet zugänglichen Fotos von menschlichen Gesichtern erstellt. Nach "Times"-Informationen waren dort zu diesem Zeitpunkt bereits mehr als drei Milliarden Bilder gespeichert, heute sind es nach Angaben des Unternehmens bereits mehr als 20 Milliarden. Mittels künstlicher Intelligenz lassen sich anhand eines einzelnen Fotos eines Gesichts mit der Clearview-AI-Software andere öffentlich zugängliche Bilder derselben Person finden und mit persönlichen Daten wie Name, Wohnort und Beruf verknüpfen.

Chaos-Computer-Club-Mitglied Marx hat 2020 den "Times"-Bericht über Clearview AI gelesen und sich gefragt, ob auch sein Gesicht mittlerweile in dessen Datenbank enthalten sein könnte. Er schickte eine entsprechende Anfrage an Clearview AI. Zwei Monate später bestätigte sich seine Vermutung, das Unternehmen schickte ihm die eingangs erwähnten Fotos.

Marx ortete im Vorgehen des Unternehmens einen Verstoß gegen die Datenschutz-Grundverordnung (DSGVO) und entschied sich wenig später dazu, beim Hamburgischen Datenschutzbeauftragten (HmbBfDI) Beschwerde einzulegen – die erste dieser Art gegen Clearview AI.

Einen Monat nach der Anfrage, im März 2020, antwortete der HmbBfDI: Die DSGVO sei nicht anwendbar, da Clearview AI keine Niederlassung in Europa unterhalte und sich auch nicht an europäische Nutzerinnen und Nutzer richte. Außerdem sei der Behörde nicht bekannt, dass die Software in der EU eingesetzt würde.

Kundschaft auch in der EU

Clearview AI arbeitet mit unzähligen Strafverfolgungsbehörden zusammen – vor allem in den USA. Eine Recherche von "Buzzfeed" ergab jedoch, dass auch Behörden aus mehreren EU-Mitgliedsstaaten die Software zumindest ausprobierten.

Beschwerdeführer Marx war mit der Antwort des HmbBfDI nicht zufrieden und urgierte weiter. Anfang 2021 leitete die Behörde schließlich doch ein Verfahren gegen Clearview AI ein, mit dem Ziel, den Hashwert, der Marx in der Datenbank des Unternehmens identifizierbar macht, aus dieser zu löschen. Wenig später gab Clearview AI an, der Forderung nachgekommen zu sein.

Marx hatte daran jedoch Zweifel: Er schickte mit einer anderen E-Mail-Adresse eine weitere Anfrage an Clearview AI und verlangte erneut Auskunft darüber, ob sein Gesicht in der Datenbank identifizierbar wäre. Die Antwort: Wie man Marx bereits mitgeteilt habe, sei sein Gesicht deidentifiziert worden, seine biometrischen Daten seien nicht mehr im System enthalten. Diese Antwort warf bei Marx die Frage auf, wie Clearview AI die beiden Auskunftverlangen miteinander verknüpfen könne, wenn das Unternehmen doch keinen Zugriff auf seine biometrischen Daten mehr habe.

Die Datenschutz-NGO Noyb übermittelte dazu eine Stellungnahme an den Hamburgischen Datenschutzbeauftragten, welcher Clearview AI in einem neuen Verfahren mit weiteren Fragen konfrontierte. Dieses läuft aktuell noch – Clearview AI gab zwischenzeitlich aber an, ein Angestellter hätte Marx auf den Fotos aus der zweiten Anfrage wiedererkannt und sich an seine Anfrage erinnert.

Gelöschte Profile könnten sofort wieder neu erstellt werden

Unabhängig von Marx' Einzelfall sehen Datenschutzorganisationen ein grundsätzliches Problem mit auf Webscraping basierenden Diensten wie Clearview AI: Selbst wenn ein Eintrag zu einer Person aus der Datenbank gelöscht werde, dürfte der Datensammlungs-Algorithmus des Dienstes diesen sofort wieder neu erstellen, gab etwa die Datenschutz-Juristin Lucie Audibert gegenüber "netzpolitik.org" an.

Einen Hinweis darauf liefert auch die offizielle Website von Clearview AI. Mittlerweile wird dort nämlich ein Antragsformular für die Deindexierung von Bildern oder Websites angeboten. Darin wird jedoch explizit darauf hingewiesen, dass nur Inhalte aus der Datenbank des Unternehmens entfernt werden können, die bereits offline genommen wurden – andernfalls könnten die Inhalte von Clearview AI "in Zukunft erneut erfasst werden".

Millionenstrafen gegen Clearview – mit hauptsächlich abschreckender Wirkung

Die Datenschutzorganisationen Noyb, Privacy International, Hermes Center und Homo Digitalis reichten im Mai 2021 in fünf EU-Staaten Klagen gegen Clearview AI wegen Verstößen gegen die DSGVO ein. Die Behörden in Griechenland und Italien haben das Unternehmen mittlerweile jeweils zur Höchststrafe von 20 Millionen Euro verurteilt.

Ob Clearview AI diese Strafen nun auch zahlen wird, ist unklar: "Die Durchsetzung von DSGVO-Strafen gegen für die Verarbeitung Verantwortliche mit Sitz außerhalb der EU ist bekanntermaßen schwierig", sagte Audibert, die für die Datenschutzorganisationen das Verfahren in Frankreich koordiniert, gegenüber "netzpolitik.org".

Auch Matthias Marx glaubt nicht daran, dass Clearview AI seine Strafen zahlen wird. Er erhofft sich aber eine Signalwirkung: Behörden und Unternehmen in der EU würden sich hüten, ein offenkundig illegales Software-Tool bei Ermittlungen einzusetzen und sich damit selbst strafbar zu machen. Anfang 2021 verurteilte etwa die schwedische Datenschutzbehörde IMY die schwedische Polizei zu einer Geldstrafe von umgerechnet 250.000 Euro wegen der Nutzung von Clearview-AI-Software. (Jonas Heitzer, 9.11.2022)