Der interne Slack-Kanal bei Amazon war dieser Tage plötzlich voll mit Fragen der Angestellten zu ChatGPT. Einige fragten, ob Amazon eine offizielle Anleitung zur Verwendung von ChatGPT auf Arbeitsgeräten habe. Andere fragten sich, ob sie das KI-Tool überhaupt für die Arbeit nutzen dürfen. Eine Person forderte die Cloud-Einheit von Amazon Web Services auf, ihre Position zur "akzeptablen Nutzung von generativen KI-Tools" wie ChatGPT zu veröffentlichen.

Das rief eine Firmenanwältin auf den Plan, sie warnte die Belegschaft vor der Nutzung von Chatbots. Offenbar ist man im Amazon-Management besorgt, dass durch die Nutzung von ChatGPT Geschäftsgeheimnisse bei OpenAI, der Entwicklerfirma, landen könnten.

Amazons Geheimnisse als Trainingsdaten

"Dies ist wichtig, weil Ihre Eingaben als Trainingsdaten für eine weitere Iteration von ChatGPT verwendet werden könnten, und wir möchten nicht, dass diese unsere vertraulichen Informationen enthält oder ihnen ähnelt", schrieb die Anwältin. In einem Nebensatz deutet die Juristin an, dass es bereits vorgekommen sei, dass ChatGPT Antworten gab, die Amazon-Interna enthielten. Diese Angabe lässt sich freilich nicht überprüfen. Die Trainingsdaten von ChatGPT enden im Jahr 2021, das heißt die Geschäftsgeheimnisse von Amazon müssten bereits davor in die Trainingsdatenbank von OpenAI gelangt sein.

Amazon hat einige interne Sicherheitsvorkehrungen für ChatGPT getroffen. Wenn Mitarbeiter ein Arbeitsgerät verwenden, um die ChatGPT-Website aufzurufen, erscheint eine Warnmeldung, die besagt, dass sie im Begriff sind, einen Drittanbieterservice zu besuchen, der "möglicherweise nicht für die Verwendung durch Amazon Security zugelassen ist", wie aus Screenshots hervorgeht. Dennoch sollen einige Amazon-Entwickler die KI als Assistent beim Coden heranziehen, denn die KIist durchaus in der Lage Programmcode zu verbessern.

Expertin warnt vor mangelnder Transparenz

"OpenAI ist weit davon entfernt, transparent zu machen, wie sie die Daten verwenden, aber wenn sie in die Trainingsdaten einfließen, würde ich erwarten, dass sich die Unternehmen fragen: Wird es nach ein paar Monaten des weit verbreiteten Einsatzes von ChatGPT möglich sein, mit geschickt formulierten Aufforderungen private Unternehmensinformationen zu extrahieren?", sagte Emily Bender, Computerlinguistin an der University of Washington gegenüber "Business Insider".

Laut Bender gibt es eine ganze Reihe an ungeklärten Fragen. So sei etwa unklar, die OpenAI das mit dem KI-Tool geteilte Material weiter verwendet. In den Nutzungsbedingungen von OpenAI müssen die Nutzer zustimmen, dass das Unternehmen alle von den Nutzern und ChatGPT erzeugten Eingaben und Ausgaben verwenden darf. Personenbezogene Daten werden jedoch laut dem Unternehmen entfernt. Das wiederum sei schwer zu überprüfen. Laut Bender sei es schwer zu sagen, wie gründlich OpenAI bei der Suche nach persönlichen Informationen angesichts der rasant steigenden Nutzerzahlen vorgeht. Dazu kommt, dass firmeninterne Informationen nur schwerlich als personenbezogener Datensatz definiert werden kann.

Einige Amazon-Mitarbeiter fordern laut dem Bericht von "Business Insider" nun, dass ihr Unternehmen auch einen derartigen Service entwickelt. Amazon hat eine Vielzahl von KI-Modellen im Einsatz und arbeitet auch an einem KI-Modell für Konversationen. (pez, 19.2.2023)