Utopie

Philip Pramer

Wer glaubt, dass es die angesagteste Überwachungstechnologie nur für Polizei und Geheimdienste gibt, dem sei ein Blick auf die Websites der Cloud-Ableger von Amazon, IBM oder Microsoft ans Herz gelegt. 1.000 Fotos nach bekannten Gesichtern zu durchsuchen kostet dort weniger als einen Euro. Jeder mit Kreditkarte und grundlegenden Programmierkenntnissen kann die Algorithmen der Tech-Riesen benutzen.

Journalisten der "New York Times" zeigen, wie einfach es ist. Sie nahmen die öffentlich zugänglichen Bilder einer Webcam, die auf einen belebten Park gerichtet ist, und glichen sie mit ebenfalls frei verfügbaren Bildern von Mitarbeitern der umliegenden Gebäude ab. Innerhalb von neun Stunden identifizierte das Programm der Journalisten über 2.000 Gesichter, alles vollkommen legal. Kostenpunkt: rund 50 Euro.

Gesichtstracking für wenige Cent

Man braucht keine eigenen Datenzentren mehr, kein Millionenbudget und keine Computergenies, um sich die Überwachungstechnologie zunutze zu machen. Schützen kann man sich davor kaum. Sie wollen sich mit einer Sturmhaube gegen Gesichtserkennung schützen? Dann haben Sie die Rechnung ohne die Software gemacht, die Sie an Ihrer Stimme erkennt. Okay, dann gehen Sie eben nur mehr wortlos durch die Straßen. Tja, ein neuer Infrarot-Laser kann Sie an Ihrem Herzschlag erkennen, auch durch leichte Kleidung. Aber auch im Anorak sind Sie machtlos gegen die Knochenerkennung der US Air Force oder das chinesische Unternehmen, das Menschen an der Gangart erkennt.

Die rasante Entwicklung im Bereich der künstlichen Intelligenz macht einen Überwachungsstaat, der uns auf Schritt und Tritt verfolgt, erst tatsächlich möglich. Aber Technologien selbst sind zuerst einmal wertneutral. Ein Algorithmus, der Menschen an Gesicht oder Stimme erkennt, tut das und nichts anderes. Ob man damit, wie der chinesische Staat, systematisch Uiguren verfolgt oder Gutes tut, bleibt die Entscheidung von Menschen.

Technologischer Fortschritt kann Gutes bewirken. Fast dreitausend vermisste Kinder in Indien konnten mit ihren Familien wieder vereint werden – dank einer Gesichtserkennungssoftware. Der oberste Gerichtshof Indiens hatte den Testlauf zuvor genehmigt.

Auch was Gesundheit betrifft, kann Überwachung helfen: Google versuchte etwa Epidemien vorherzusagen, indem es die Suchanfragen nach Symptomen analysierte. Und so manche Software kann angeblich anhand eines Fotos oder der Stimme bestimmte Krankheiten erkennen.

Das stärkste Argument der Überwachungsbefürworter aber ist Sicherheit. Gesichtserkennung erleichtert die Arbeit der Polizei enorm. In einer durch smarte Kameras abgedeckten Stadt könnten sich Kriminelle wohl nur kurz versteckt halten, und mit "Precrime" sollen Verbrechen verhindert werden, bevor sie begangen werden.

Dass die gesammelten Daten missbraucht werden können, sollte alarmieren, muss aber kein Grund zur rigorosen Ablehnung sein. Vielmehr sollten wir uns gründlich damit beschäftigen, wo wir Spuren hinterlassen und was mit unseren Daten passiert. Wie schützen wir smarte Systeme vor Missbrauch? Wie verhindern wir Vorratsdatenspeicherung? Wollen wir wirklich jeden per Gesetz unter Generalverdacht stellen?

In einer idealen Welt ginge die Ausrollung hilfreicher Technologien mit einer breiten gesellschaftlichen Diskussion einher. Schon Volksschüler wüssten Bescheid darüber, was mit ihren Daten passiert und was ihre Daten in falschen Händen anrichten können.

Unternehmen und Behörden wären verpflichtet, ihre Algorithmen offenzulegen, um systematische Diskriminierung auszuschließen. Ein transparenter Staat müsste sich für Datenflüsse und jede Abfrage verantworten.

Ob wir wollen oder nicht: Gesichtserkennung wird kommen – und sie wird erst der Anfang sein. Ob sie im Sinne aller oder nur der Mächtigen kommt, liegt an uns selbst.

Dystopie

Fabian Sommavilla

Angenommen, Sie laufen – vielleicht weil Sie aufs Klo müssen oder Ihnen zu kalt ist – Sonntagabend um 23 Uhr ein paar Meter auf der Kärntner Straße in Wien. Eventuell tragen Sie sogar noch etwas Rechteckiges, Dunkles in der Hand. Könnte ein Mobiltelefon sein, vielleicht aber auch ein eingeklapptes Messer – das System ist sich nicht sicher. Eine Kamera wird Sie jedenfalls sofort als Ausreißer markieren. In nicht allzu ferner Zukunft wird Ihr Bild sogleich in Echtzeit mit allen verfügbaren Datenbanken abgeglichen und der Zentrale gemeldet. Eine Streife wird umgehend alarmiert, weil Sie vielleicht in der Vergangenheit schon einmal "negativ" als Demo-Teilnehmer aufgefallen sind oder weil schon einmal ein Messerstecher um diese Zeit die Kärntner Straße entlanglief.

In den USA sorgen sich Thinktanks und Menschenrechtsaktivisten bereits, dass Einsatzkräfte zu sehr auf Überwachungssysteme vertrauen könnten. Dass Körperkameras mit integrierter Gesichtserkennungssoftware vermeintliche Fahndungserfolge anzeigen und Polizisten blind und ohne Doppelchecks darauf vertrauen, vielleicht sogar tödliche Schüsse abgeben.

Zyniker würden an dieser Stelle sagen: Zumindest gibt es genügend Videomaterial als Beweismittel. Alles nur Science-Fiction?

Wohl kaum. In Zeiten, in denen sich Szenen aus den dystopischen Meisterwerken "Minority Report" oder "1984" immer öfter bewahrheiten und Begriffe wie "Big Brother" oder "Precrime" längst zum Standardvokabular eingeschüchterter und verärgerter Bürger gehören, ist mehr als nur gesunde Skepsis angebracht. George Orwell und Co behielten mit vielen Prophezeiungen recht. So wird etwa in einem Londoner Pub das Anstellen am Tresen per Gesichtserkennungssoftware geregelt. Spätestens die Enthüllungen des Whistleblowers Edward Snowden haben dabei bewiesen, wie umfassend und aggressiv die Überwachung großer Teile der Weltbevölkerung tatsächlich voranschreitet.

Das Problem an der Sache ist: Wir bekamen einen Weckruf, wissen mehr denn je, und dennoch ändern wir unser Verhalten kaum! Snowdens Enthüllungen haben gerade einmal bewirkt, dass sich ein paar Promille der Internetnutzer wirklich aktiv zu schützen versuchen – die Betonung liegt auf: versuchen! Der Rest macht ohnehin weiter wie bisher – hat maximal ein Pickerl über die Laptopwebcam geklebt.

Mantel der Bequemlichkeit

Genau in diesem Biotop gedeihen die Überwachungsfantasien autoritärer Machthaber und jene von Sicherheitsfanatikern in scheinbar liberalen Demokratien. Gesichtserkennungssoftware wird im Namen nationaler Sicherheit legitimiert und den jüngeren Generationen schleichend als zeitgenössische Normalität untergejubelt. Eine automatisierte Passkontrolle hier, ein Foto für den Erwerb einer SIM-Karte dort. Und die Industrie hilft fleißig mit – Stichwort: Handy entsperren oder Bezahlen per schnellem, bequemem Gesichtsscan. In China scheren sich die Mächtigen dabei nicht einmal mehr darum, ihre Überwachung geheim zu halten. Das Sozialkreditsystem regelt die Massen, und diese befürworten es auch noch mit großer Mehrheit – auch wenn allmählich Sorgen bezüglich Datenschutzes hochkommen.

Doch dafür ist es längst zu spät. Laut dem Carnegie Endowment for International Peace hat das Reich der Mitte seine Überwachungssoftware bereits an 52 Staaten verkauft. Bis Ende nächsten Jahres werden laut dem Informationsdienst IHS Markit weltweit rund eine Milliarde Überwachungskameras installiert sein. Wie es in Teilen der USA schon Alltag ist, werden Behörden dabei – meist mit Genehmigung, notfalls eben ohne – immer öfter auf private Sicherheitskameras zugreifen. Smarte Software erlaubt es, die Massen an Video- und Tonmaterial immer schneller und effizienter zu sichten und Muster besser zu erkennen als Menschen. Sie wissen schon: falls Sie wieder einmal irgendwo rennen sollten, wo eigentlich nicht gerannt werden sollte.