China nutzt sie exzessiv, sie wird aber auch in elf EU-Ländern, darunter auch Österreich, eingesetzt: KI-gestützte Gesichtserkennung. Das Konzept ist umstritten: Während Strafverfolger auf die Identifizierung mittels Biometrie schwören, warnen Datenschützer und NGOs vor einer drohenden Massenüberwachung der Bürgerinnen und Bürger. Gesichtserkennung ist aber längst nicht mehr nur in staatlicher Hand: So wird Facebook vorgeworfen, ohne Zustimmung der Nutzer biometrische Daten gesammelt zu haben. In den USA überwachen Unternehmer ihre Kundschaft mit der Software. Und hierzulande soll das Boarding am Flughafen bald durch die Überprüfung der eigenen Gesichtszüge möglich sein. Kurz: Gesichtserkennung gibt es überall, doch wie kann man sich davor schützen?
Die Antwort lieferten Studierende der University of Maryland. Sie entwickelten einen Tarnpullover, der die Trägerin oder den Träger für die KI unsichtbar macht. Der Schlüssel ist ein besonders chaotisches Design, man könnte es auch hässlich nennen, aber "Ugly Sweater" sind ja spätestens zur Weihnachtszeit alljährlich erneut in Mode.
Verwirrung der KI
Das Ziel der Studierenden war es, mit Hilfe von Kleidung die für die Gesichtserkennung eingesetzte KI so zu verwirren, dass sie zu keinem brauchbaren Ergebnis beim Abgleich der biometrischen Daten kommt. Die Gesichtserkennungssoftware zu überfordern ist aber gar nicht so einfach, wie t3n.de berichtet. So können moderne, auf Machine-Learning basierende Systeme menschliche Gesichter in einem beliebigen Bild äußert zielgenau und mit kaum messbaren Verzögerungen erfassen, wie ein Video der Studierenden beweist.
Zieht die Testperson aber einen mit einem chaotischen Motiv bedruckten Sweater an, kann das System plötzlich kein Gesicht mehr erkennen und nimmt den Tragenden nicht mehr als Person wahr. Die Studierenden haben das Muster passend "Adversarial Pattern", also "feindliches Muster" genannt. Dieses führt dazu, dass die KI in einer Endlosschleife läuft und damit keine Gesichtsdaten liefern kann. Das Muster selbst ist äußerst bunt und zeigt eine Szene, die entfernt an einen Marktplatz erinnert, modisch wohl aber keine Preise abräumen dürfte, um die Formulierung "ausnehmend hässlich" zu vermeiden.
Die staatliche Massenüberwachung auszutricksen war aber nicht das Ziel der Forschenden. Die Studierenden aus Maryland wollten bestehende auf Machine-Learning basierende Gesichtserkennungssysteme gezielt testen und auf Schwachstellen untersuchen – um sie letztendlich besser zu machen. Die Ergebnisse wurden hier veröffentlicht. (pez, 27.10.2022)