Wer im kalifornischen Riverside in den Drive-through der Fastfoodkette Del Taco fährt, wird von einer freundlichen Roboterstimme begrüßt. "Hi! Was kann ich Frisches für Sie zubereiten?", tönt es aus dem Lautsprecher. Die Bestellung nimmt kein Mensch auf, sondern ein Chatbot. Der Kunde spricht aus dem Autofenster in das Mikrofon einer Sprechanlage, dann wird die Order von einer KI-basierten Spracherkennung erfasst und an die Küche weitergeleitet. Ein menschlicher Mitarbeiter im Hintergrund überwacht die Auftragseingänge und greift bei Verständnisschwierigkeiten ein. Der Chatbot, der über ein Set vorprogrammierter Antwortbausteine verfügt, ist in der Lage, auf Sonderwünsche der Kunden einzugehen, zum Beispiel Tomaten beim Taco wegzulassen oder Hähnchen hinzuzufügen.
Bot oder Mensch?
Das börsennotierte Start-up Presto, welches das Dialogsystem entwickelt hat und in das Open AI-Chef Sam Altman investiert hat, verspricht, Betriebsabläufe zu beschleunigen und Arbeitskosten zu senken. Chatbots werden nicht müde, streiken nicht und haben keine Launen. Mittlerweile gibt es in den USA hunderte Fastfoodfilialen, in denen das automatisierte Bestellsystem zum Einsatz kommt. Doch wie Berichte der US-Börsenaufsicht SEC zeigen, ist die Technologie weniger autonom, als es den Anschein hat.
Demnach greift Presto bei der Abwicklung von Bestellungen auf sogenannte "off-site agents" auf den Philippinen zurück, menschliche Mitarbeiter, die einspringen, wenn die Maschine nicht mehr weiterweiß. Und das ist offensichtlich häufig der Fall: Über 70 Prozent der Dialoge werden von den Philippinen aus gesteuert. Schon im Juli war einer Bloomberg-Reporterin aufgefallen, dass sie bei komplizierten Nachfragen etwa zu Inhaltsstoffen und Lebensmittelallergien an den Mitarbeiter im Backoffice weitergeleitet wurde. Dass der Kunde aber mit Telefonisten, die 11.000 Kilometer entfernt vor einem Computerbildschirm sitzen, interagiert, konnte sie nicht ahnen.
Outsourcing in Niedriglohnländer
Die Anthropologin Mary Gray und die Informatikerin Siddharth Suri beschreiben in ihrem Buch "Ghost Work" (2019), wie im Schatten der KI-Entwicklung eine opake Welt der Geisterarbeit entsteht: Klickarbeiter, die irgendwo in Indien sitzen und zum Beispiel Selfies zur Echtzeitüberprüfung von Uber-Fahrern abgleichen. Statt KIs zu programmieren, bezahlt man Menschen in Niedriglohnländern, damit sie sich wie Roboter verhalten. Der Mensch ist noch immer die günstigere Sortiermaschine.
Schon seit einiger Zeit greifen Tech-Unternehmen auf "Pseudo-KI" zurück: Systeme, die vorgaukeln, computergesteuert zu sein, in Wahrheit aber von Menschenhand betrieben werden. So berichtete die Nachrichtenagentur Bloomberg 2016 über einen angeblich KI-basierten persönlichen Assistenten, dessen E-Mail-Vorschläge von menschlichen Mitarbeitern getextet wurden. Als das Tool lanciert wurde, lobten die Nutzer den "menschenähnlichen Ton" sowie die "eloquenten Manieren" des Bots. Doch hinter der Benutzeroberfläche steckte kein Bot, sondern ein Mensch, der wie ein Bot textete. KI als Etikettenschwindel.
Menschengesteuerte Lieferroboter
Pseudo-KI erinnert an den "mechanischen Türken", jenen Schachautomaten, den der österreichisch-ungarische Hofbeamte und Erfinder Wolfgang von Kempelen im Jahr 1769 konstruierte. Der "Roboter" bestand aus einer in türkischer Tracht kostümierten Puppe, die auf einem Schachbrett Figuren hin und her bewegte, sowie einem tickenden Uhrwerk aus Zahnrädern und Walzen, welche dem Publikum suggerierten, hier sei eine Maschine am Werk. In Wirklichkeit saß aber ein menschlicher Schachspieler in dem Kasten, der die Bewegungen der Puppe steuerte. Die Apparatur war die Attraktion zur damaligen Zeit: Prominente wie Napoleon Bonaparte und Benjamin Franklin traten gegen den Automaten an. Als Amazon 2005 seine nach der Apparatur benannte Crowdworking-Plattform MTurk lancierte, sprach Gründerchef Jeff Bezos von einer "artificial artificial intelligence", einer künstlichen künstlichen Intelligenz.
Bis heute touren solche "mechanischen Türken" durch die Lande – allerdings inkognito und ohne den Reiz einer Jahrmarktattraktion. Der Lieferroboter Kiwibot etwa, der auf dem Campus der University of California in Berkeley herumkurvt und Essen umliegender Restaurants transportiert, wird von Studenten in Kolumbien für zwei Dollar die Stunde gesteuert. Die Sensorik ist noch nicht so weit, als dass man einen Lieferroboter autonom im Verkehr zwischen Menschen fahren lassen könnte, also heuert man Billiglöhner im globalen Süden an, die per Fernsteuerung das Mittagessen in die Fakultätszimmer karren und durch die Kamera auf ihrem Computer das für sie unerreichbare Leben auf dem Campus sehen.
Die Entfremdung der Arbeit zeigt sich auch bei der kanadischen Schnellrestaurantkette Freshii, die ihre Verkäufer aufgrund des akuten Personalmangels durch "virtuelle Kassierer" ersetzt hat. Die kontaktlose Bestellung von Kunden nehmen Mitarbeiter auf, die sich aus Callcentern in Pakistan, Nicaragua und Bolivien über einen Bildschirm zuschalten. Statt wie sonst einen halben Meter an der Kassentheke trennen Verkäufer und Kunde tausende Kilometer. Outsourcing am Limit, das Internet macht es möglich. Immerhin: Im Gegensatz zu den seelenlosen Drive-throughs sieht man den Verkäufer auf einem Display. (Adrian Lobe, 23.1.2024)