Robert Williams wird sich wohl noch lange an diese Episode in seinem Leben erinnern. Im Jänner 2020 wurde er an seinem Arbeitsplatz angerufen. Sein Gegenüber am Telefon erklärte ihm, dass er sich zu einer Polizeistation in Detroit begeben solle, um festgenommen zu werden. Williams hielt den Anruf für einen Streich.

Als er am Nachmittag von der Arbeit heimfuhr und vor seinem Haus parkte, fuhr ein Polizeiauto vor und versperrte die Ausfahrt. Einige Momente später wurden ihm von zwei Beamten Handschellen angelegt, und er wurde vor den Augen seiner Frau und seiner zwei kleinen Töchter verhaftet und abgeführt. Gezeigt wurde ihm nur ein kurzes Dokument mit seinem Foto mit dem Vermerk, dass ein Haftbefehl wegen Diebstahls erlassen worden war. Auf die Frage seiner Frau, wohin er gebracht werde, antwortete einer der Polizisten lediglich mit "Googeln Sie danach."

Der Afroamerikaner wurde in eine Haftanstalt gebracht. Dort verbrachte er die nächsten 30 Stunden, ehe er wieder auf freien Fuß gesetzt wurde. Man warf ihm Ladendiebstahl in einem Geschäft für Räder und Modeaccessoires vor, den er allerdings nie begangen hatte. Williams wurde zum ersten bekannt gewordenen Fall in den USA, bei dem jemand aufgrund fehlerhafter Gesichtserkennung in Haft gekommen war.

Algorithmusaussetzer und schlampige Ermittlungen

Es war aber nicht nur die Technik, die versagt hatte, sondern auch die Polizei. Eine Ermittlerin hatte die Gesichtserkennung auf ein Bild aus einem verrauschten Video der Überwachungskamera des Geschäfts angewandt. Das System stufte Williams' Führerscheinfoto als ähnlich ein und fügte ihn einer sechsköpfigen Liste potenzieller Verdächtiger hinzu, die allerdings auch den Vermerk enthielt, dass es sich nicht um eine sichere Identifikation handle, sondern lediglich um eine Vorlage für weitere Ermittlungen.

Statt nach Indizien und Beweisen zu suchen, wurde die Auswahl jedoch der Sicherheitsverantwortlichen der Boutique vorgelegt, die den Vorfall gar nicht selbst beobachtet hatte. Diese wählte Williams als mutmaßlichen Täter aus. Die Behörde ersuchte schließlich um einen Haftbefehl. Ein Augenzeuge, der zum Zeitpunkt des Diebstahls im Laden gewesen war, war gar nicht erst befragt worden.

Die Probleme begannen schon beim Einsatz der Gesichtserkennung, zumal bereits im Video trotz der schlechten Aufnahmequalität für einen Menschen gut erkennbar sei, dass Williams nicht der Täter sei. Hinzu kommt, dass die Algorithmen bei schlechtem Bildmaterial gern versagen und – oft aufgrund unausgewogener Trainingsdaten – bei Personen mit dunkler Hautfarbe generell deutlich niedrigere Trefferquoten aufweisen.

Die Bürgerrechtsorganisation American Civil Liberties Union reichte zuerst eine Beschwerde im Namen von Williams ein, diese hatte eine Entschuldigung der Ermittlerin und die Löschung des Falls aus seinem Akt zur Folge. Nun zieht man mit einem Anwalt von der Michigan Law School Civil Rights Litigation Initiative vor Gericht. Williams hatte zuvor versucht, sich von einer Anwaltskanzlei vertreten zu lassen. Viele der angefragten Firmen gingen aber davon aus, dass er schuldig sei, und lieferten entsprechend teure Kostenvoranschläge, schreibt die "New York Times".

Bereits mehrere Fälle

Die Vorwürfe gegen die Polizei sind mannigfaltig, dokumentiert "The Verge". Man hätte wissen müssen, dass das Gesichtserkennungssystem bei der Anwendung auf schlechtes Bildmaterial unzuverlässige Ergebnisse liefere, ebenso hätte man von den Probleme in Bezug auf Menschen mit dunklerer Haut wissen müssen. Man habe diese Schwächen außerdem gegenüber der Polizei nicht deutlich gemacht.

Die ACLU will insgesamt einen Stopp des Einsatzes von Gesichtserkennung bei der Polizei erwirken. In Detroit genehmigte die Stadtverwaltung aber erst im vergangenen September mit sechs zu drei Stimmen die Investition von 200.000 Dollar in ein Upgrade des von der Polizei genutzten Systems.

Es ist nicht der erste gerichtsanhängige Fall infolge einer Gesichtserkennungspanne. Zumindest zwei weitere sind dokumentiert, beide betreffen Afroamerikaner. Ein anderer Mann in Detroit schritt zur Anzeige, nachdem ihn ein solches System zu Unrecht zum Verdächtigen bei einem Ladendiebstahl gemacht hatte und er festgenommen worden war. Dadurch verbrachte er nicht nur drei Tage unschuldig hinter Gittern, sondern verlor nach eigener Angabe auch sein Auto und seinen Arbeitsplatz. Hier wird der Polizei ebenfalls fahrlässiger Umgang mit der Technologie vorgeworfen. Dazu kommt ein Fall aus New Jersey, wiederum ein Ladendiebstahl, bei dem ein unbeteiligter Mann in Haft geraten war.

In Österreich seit Sommer 2020 im Einsatz

Diese Fälle könnten zu Vorboten in anderen Ländern werden, denn in vielen Ländern drängen Polizeibehörden auf den Einsatz von Gesichtserkennung oder haben solche Systeme bereits in Betrieb genommen. In Österreich wird sie, nach mehrmonatigem Test, seit August 2020 im Regelbetrieb verwendet. Sie stammt von Atos IT Solutions und kostete 450.000 Euro.

Angewandt wurde die Software unter anderem auf polizeiliches Videomaterial aus Wien-Favoriten im Juni und Juli des Vorjahres, das zeigt, wie türkische Nationalisten eine feministische Demonstration angreifen. Aufgrund von Sachbeschädigungen und Körperverletzung kam es zu 106 Anzeigen, 59 davon gegen unbekannt. Laut STANDARD-Informationen war die Gesichtserkennung zur Identifikation antifaschistischer Demonstranten eingesetzt worden, ob damit auch Rechtsextreme nachverfolgt worden waren, ist unklar. Eine Verhaftung aufgrund einer Verwechslung durch den Algorithmus ist bislang noch nicht dokumentiert.

Datenschützer kritisieren die Einführung der Gesichtserkennung unter anderem aufgrund des Verwechslungsrisikos. "Gesichtserkennung ist deshalb so gefährlich, weil damit die Bewegungsfreiheit im öffentlichen Raum eingeschränkt wird", erklärte damals Thomas Lohninger, Geschäftsführer der Datenschutz-NGO Epicenter Works. (gpi, 14.4.2021)