Für den Download des offenen Briefes (PDF) hier klicken.
Im Sommer 2019 musste sich Apple einige Vorwürfe gefallen lassen. Ohne explizite Zustimmung der Nutzer hatte sich der Konzern von seiner auf vielen Geräten laufenden Sprachassistentin Siri Aufzeichnungen liefern lassen, die anschließend von Mitarbeitern ausgewertet wurden. Dabei handelte es sich oft nicht einmal um direkte Angestellte von Apple, sondern um Personal von Subunternehmen im Auftrag des IT-Konzerns.
Nachdem das Bekanntwerden dieses "Grading" genannten Prozesses hohe Wellen geschlagen hatte, stellte Apple es vorläufig ein und kündigte Änderungen an. Seit Oktober 2019 wird es wieder fortgesetzt, diesmal ohne externe Firmen, mit Opt-in-Einwilligung und, so hieß es, besserer Wahrung des Datenschutzes. Notwendig sei diese Form der Analyse aber jedenfalls, um die Dienste von Siri zu verbessern.
Dem widerspricht Thomas Le Bonniec jedoch vehement. Der Franzose war von Mitte Mai bis Mitte Juli im irischen Cork für das Unternehmen Globe Technical Services tätig, schreibt er in einem offenen Brief. Er arbeitete dabei an einem Projekt namens "Bulk Data" mit, in dem für Apple die Verschriftlichung von Siri-Aufnahmen vorgenommen wurde. Er wirft dem iPhone-Hersteller vor, den tatsächlichen Umfang seiner Datenauswertung zu verschweigen. Und entgegen der Versprechungen habe sich auch seit der Umstellung nichts Wesentliches geändert.
Heikle Aufnahmen
"Es tut mir leid für sie, dass sie schon vor mir einen Sohn hatte, der krank war und den sie aber trotzdem behalten wollte. Doch er ist bei der Geburt verstorben." Solche und andere Aufnahmen mit teilweise sehr intimen Informationen habe er im Rahmen seiner Arbeit immer wieder gehört, sagt Le Bonniec im Gespräch mit dem STANDARD. Betroffen sind davon nicht nur die Nutzer von Apple-Geräten, sondern auch deren Familienmitglieder, Freunde und andere Menschen, deren Stimme zufällig ebenso eingefangen wurde.
Mit dabei waren auch Konversationen über Sex und Politik. Ebenso Streitigkeiten und potenziell für Strafverfolgungsbehörden relevante Aufnahmen von häuslicher Gewalt. Als er eine Aufzeichnung einer offenbar pädophilen Person zu hören bekam, sah er sich endgültig dazu veranlasst, zu kündigen.
Unerwarteter Lauschangriff
Während Apple erkläre, dass es nur zur Übertragung einer Sprachaufnahme kommen könne, wenn man bewusst Siri per Sprachkommando oder Tastendruck auf dem iPhone, iPad, Macbook, Apple TV, den Airpods oder der Apple Watch aktiviere, deuteten viele Übertragungen darauf hin, dass die Sprachassistentin immer wieder auch "hinhören" würde, ohne dass der jeweilige Nutzer das bewusst veranlasst hätte.
Siri-Aufzeichnungen würden seit mindestens fünf Jahren ausgewertet. Zudem verknüpft Apple nach Einschätzung von Le Bonniec auch "Keywords" aus den Sprachaufnahmen – erfasst werden hier etwa Namen, Apps oder Titel von Serien, Filmen und Musikstücken – mit anderen Nutzerinformationen wie Kontaktinformationen und Standort. Ein entsprechendes Projekt trägt laut dem Whistleblower die Bezeichnung "Development Data". "Ich glaube, da geht irgendetwas Zwielichtiges vor sich", so der einstige Apple-Zuarbeiter. Er spekuliert, dass das Unternehmen die kombinierten Daten womöglich für den Verkauf von Werbung verwende.
Zum Training eines Spracherkennungssystems brauche es eine solche Flut an Informationen nicht, meint der Franzose. Möglich wäre dies auch einfach mit freiwilligen Spenden von Sprachaufnahmen, wie es etwa bei der quelloffenen Spracherkennungssoftware "Common Voice" gemacht werde.
Whistleblower sieht kaum Verbesserungen
Die Verbesserungen seit der Wiederaufnahme seien zudem nur Makulatur. Im Prinzip laufe auch ganz ohne Subunternehmen alles wie bisher, sagt Le Bonniec. Viele der einst bei den Vertragspartnern angestellten Mitarbeiter habe Apple nun selbst angeheuert. Laut seinen eigenen Quellen habe sich auch bei der Auswertung nicht viel verändert. So würden zwar bestimmte Informationen wie Namen in der schriftlichen Version der Aufnahmen nun zensiert, seien in den Tondateien aber weiterhin hörbar.
Der Datenumfang dürfte gewaltig sein. Jedes einzelne Transkriptionsprojekt enthalte zwischen 600.000 und 1,2 Millionen an Aufnahmen pro Sprache und Gerät. In einem Screenshot sind etwa die Statistiken für Grading-Aufgaben aus dem dritten Quartal 2019 für Siri-Aufnahmen über Airpods zu sehen. Für zehn Sprachen werden hier jeweils zwischen 760.000 und 1,1 Millionen Samples ausgewiesen. Le Bonniec schätzt, dass Apple mittlerweile über hunderte Millionen an Aufnahmen beziehungsweise deren Auswertungen verfügt.
"Wie '1984'"
"Apple kann all dies aufnehmen und dich identifizieren. Die anonymisierte Apple-ID hilft nicht", meint Le Bonniec. "Ich lese gerade wieder '1984' von George Orwell. Das ist genau so etwas. Wir leben in einer Dystopie." Was Apple tue, sei vergleichbar mit den Aktivitäten des US-Geheimdienstes NSA, die Edward Snowden offengelegt habe. Darüber habe es berechtigte Aufregung gegeben. "Warum wird ein Privatunternehmen an anderen Standards gemessen?"
Ziel seines offenen Briefes sei aber nicht nur das Entfachen einer öffentlichen Debatte. Er hoffe nun, dass in Europa die Datenschutzbehörden tätig werden. Dass sich 2019 kaum etwas getan habe, hält er auch für ein Symptom mangelnder Personalbesetzung und Finanzierung. Zudem wolle er andere Mitarbeiter und Ex-Angestellte motivieren, Whistleblowing zu betreiben.
Le Bonniec, der aus Sorge um seine Privatsphäre ein altes Nokia-Handy anstelle eines Smartphoes nutzt, fordert, dass Apple Beweise dafür vorlegt, dass man nur die Daten sammelt und die Auswertung auch nur so erfolgt, wie man selbst behauptet. Nachdem der Konzern "konsistent die Unwahrheit gesagt" habe, stehe er seiner Ansicht nach nun in der Bringschuld. "Es ist erstaunlich, wie sie Leute dazu bekommen, für teure Geräte zu bezahlen, und dann ihre Daten verwenden, um noch mehr Geld zu machen. Und dann behaupten sie auch noch, dass sie ihre Privatsphäre schützen."
"Ich will nicht von Konzernen regiert werden"
Darüber hinaus bemängelt der ehemalige Mitarbeiter auch, dass man ihm und seinen Kollegen keinerlei Hilfe hinsichtlich des Umgangs mit verstörenden Aufnahmen geboten habe. Seitens von Apple gab es zwar eine Warnung, dass man auf Problematisches stoßen könnte, aber darüber hinaus nur den Hinweis, sich an den eigenen Vorgesetzten zu wenden.
Persönlich sei er erst "zufrieden, wenn Apple aufhört zu existieren", erklärt Le Bonniec abschließend. Aber selbst dann gibt es noch genug zu tun, sei doch die Datenpraxis von anderen großen Tech-Konzernen wie Amazon, Google und Facebook genauso problematisch. Er gibt sich kämpferisch: "Wir müssen jetzt entscheiden, in was für einer Gesellschaft wir leben möchten. Ich will nicht von Konzernen regiert werden."
Apple verweist auf frühere Stellungnahme
Apple verwies nach Anfrage auf die Stellungnahme aus dem August 2019. Dort kündigte man an, die Aufnahmen nicht mehr "standardmäßig" speichern zu wollen und User künftig explizit um Einwilligung zu fragen. Man werde auch die Möglichkeit schaffen, dass Nutzer entscheiden können, dass ihre Aufnahmen nur von Apple-Mitarbeitern gehört werden könnten. Zudem wolle man sich bemühen, unbeabsichtigte Aufnahmen schnell zu löschen. (Georg Pichler, 19.5.2020)