Zu einer Strafe von 380 Euro wurde ein Niederländer namens Tim Hanssen verdonnert, weil er angeblich am Steuer telefoniert hatte. "Das war ein kleiner Schock, obwohl ich mich nicht erinnern konnte, das getan zu haben", schreibt er in einem Blogbeitrag unter dem Titel "Tim gegen den Polizeialgorithmus". Da er neugierig auf die Beweise war, hatte er sich das entsprechende Foto genauer angesehen.
Zu sehen ist auf dem Bild, dass Hanssen zwar eine Hand an den Kopf hält, die Handfläche aber leer ist. Der Mann, der selbst im Bereich der künstlichen Intelligenz (KI) tätig ist, bezeichnet dies als klassischen Fall eines "False Positive": Die KI hatte also an einer Stelle Alarm geschlagen, wo sie dies nicht hätte tun sollen.
Die niederländische Polizei setzt Kameras in Kombination mit Bilderkennungssystemen ein, um festzustellen, ob eine Person am Steuer telefoniert, wie die Verantwortlichen im nachfolgenden Video (allerdings in niederländischer Sprache) erklären. Der Fokus liegt auf Datenschutz und Sicherheit, wird im Begleittext versichert, genutzt werden Open-Source-Technologien. Erkennt die KI angeblich einen telefonierenden Autofahrer, so muss anschließend ein Mensch kontrollieren, ob dies stimmt.
"In meinem Fall sagte der Algorithmus, dass ich während der Fahrt ein Mobilgerät in der Hand halte, und der Polizist akzeptierte das", schreibt der Niederländer in seinem Beitrag: "Es wurden also zwei Fehler gemacht, ein Algorithmusfehler und ein menschlicher Fehler."
Yolo
Gemeinsam mit einem Kollegen hat er versucht, den Fehler am Arbeitsplatz zu reproduzieren, indem ein ähnliches Modell verwendet wurde. Genutzt wird ein Echtzeit-Objekterkennungsalgorithmus mit dem Namen "You only look once" (Yolo). In ihren Versuchen haben die KI-Experten festgestellt, dass Personen und Telefone tatsächlich erkannt werden. Allerdings zeigte die im Versuch verwendete KI auch dann die Verwendung eines Telefons an, als Hanssen eine Hand an seinen Kopf bewegte.
Hanssen nimmt an, dass die Fehlerkennung auf die entsprechenden Trainingsdaten zurückzuführen ist: Der KI wurden etliche Bilder von Menschen mit der Hand am Gesicht gezeigt, und sie wurde darauf trainiert, dass auf diesen Bildern telefonierende Menschen zu sehen seien. "Es kann durchaus sein, dass der Trainingsdatensatz nur wenige oder keine Fotos von Menschen enthält, die mit einer leeren Hand am Ohr sitzen", schreibt er: "In diesem Fall ist es für den Algorithmus weniger wichtig, ob ein Telefon tatsächlich in der Hand gehalten wird, sondern es reicht aus, wenn die Hand nah am Ohr ist." Um dies zu verbessern, sollten dort, wo die Hand leer ist, weitere Fotos hinzugefügt werden, am besten mindestens ein paar Hundert Fotos.
Bei der besagten Geldbuße lagen letztlich technische und menschliche Fehler vor. Hanssen hat natürlich sofort Einspruch eingelegt, jedoch noch keine Antwort erhalten. Die Bearbeitung eines derartigen Einspruchs kann bis zu 26 Wochen dauern. Er könne sich aber auch vorstellen, der Polizei bei der Verbesserung des Algorithmus und der damit verbundenen Prozesse zu helfen, schreibt er abschließend auf seinem Blog. (red, 16.2.2024)