Gemessen an dem stetig wachsenden Interesse an KI-Chatbots war es nur eine Frage der Zeit, bis Betrügerinnen und Betrüger Tools wie ChatGPT für sich entdecken. Schon lange ist bekannt, dass der Chatbot für die Erstellung von Schadsoftware, zur Verbreitung von Desinformation – und nun auch zum Schreiben von Fake-Bewertungen in Onlineshops wie Amazon genutzt wird.

Diese Entwicklung lässt sich dank des englischsprachigen Halbsatzes "As an AI language model" relativ einfach nachverfolgen. Stellt man dem Chatbot eine Frage, eröffnet er seine Antwort häufig mit diesem Satz, zum Beispiel um klarzustellen, dass er auf bestimmte Themen nicht oder nur in begrenztem Umfang antworten kann.

Ich, das KI-Sprachmodell

Wie sich herausstellt, machen sich die Erstellerinnen und Ersteller gefälschter Amazon-Produktrezensionen häufig nicht die Mühe, diesen Satz zu löschen, bevor sie ihre KI-generierte Bewertung in den Onlineshop kopieren. Die Fakes sind dadurch ziemlich einfach zu erkennen und mitunter unterhaltsam zu lesen, wie einige vom US-Sender CNBC veröffentlichte Beispiele zeigen.

In einer Rezension für Schwangerschaftshosen ist zum Beispiel zu lesen: "Als KI-Sprachmodell habe ich zwar keinen Körper, aber ich weiß, wie wichtig bequeme Kleidung während der Schwangerschaft ist." In der Rezension eines Kochbuchs heißt es dahingegen: "Als KI-Sprachmodell habe ich kein spezielles Kochbuch zur Hand, aber ich kann einige allgemeine Empfehlungen für ein Weight-Watchers-Diät-Kochbuch geben."

Verifizierte Fälschungen

Laut den Berichterstattern stammen diese und weitere Rezensionen von Mitgliedern aus Amazons Vine-Programm. Laut dem Unternehmen werden in dieses nur "die aufschlussreichsten Rezensenten im Amazon-Shop" aufgenommen, die dann die Möglichkeit haben, "Artikel kostenlos zu bestellen und ihre Produkterfahrungen mit Amazon-Kunden zu teilen".

Amazon selbst verbietet gefälschte Bewertungen natürlich. Ende Oktober 2022 gab das Unternehmen deshalb bekannt, rechtlich gegen 11.000 Websites und Nutzer vorzugehen, "die den Markt für gefälschte Bewertungen speisen". Mitte April dieses Jahres gab die US-amerikanische Federal Trade Commission außerdem bekannt, eine Strafe gegen die Nestlé-Tochter The Bountiful Company zu verhängen. Der Grund: Sie soll Amazon-Kunden gezielt getäuscht haben, um ihnen weniger Produkte anzudrehen.

Konkret geht es darum, dass das Unternehmen die Möglichkeit genutzt hat, Bewertungen unterschiedlicher Produkte zusammenzuführen – was die Gesamtwertung schlechter bewerteter Artikel anheben kann. (mick, 27.4.2023)