Ein angeblich besorgter Bankmitarbeiter, ein angeblicher Polizist mit Strafandrohungen oder der gute alte "Microsoft-Support", der per Fernwartung angebliche Probleme auf dem eigenen Rechner beheben will. Scam-Anrufe dieser Art sind ein häufiges Ärgernis, verursachen hohe Schäden und genießen daher auch in etwa den Beliebtheitsgrad von Hämorrhoiden.

Das Phänomen ist so groß, dass mehrere Internetpersönlichkeiten ihre Präsenz allein auf der Bekämpfung dieser Betrugsmaschen aufbauen. Kitboga, Jim Browning und Co beschäftigen sich professionell damit, die Zeit der Betrüger zu verschwenden – und auch dazu beizutragen, ihre Betreiber auszuforschen. Letztlich kommt es aber nur selten dazu, dass die Verantwortlichen gefasst und die Opfer ihr Geld zurückbekommen.

Automatisierte Zeitverschwendung

Nun bringen Forscherinnen und Forscher der australischen Macquarie University eine KI-basierte Lösung ins Spiel. Ihr System, das unter dem Namen "Apate Project" firmiert, soll die Anrufer automatisiert möglichst lange hinhalten. Getauft ist es nach dem Dämon der Täuschung in der griechischen Mythologie. Der Kernbestandteil, ein Chatbot, heißt "Time Waster" ("Zeitverschwender"). Das Projekt wird teilweise vom australischen National Intelligence Office finanziert.

Apate ist ein Chatbot, der sich auf verschiedene KI-Modelle stützt. Er soll für die Scammer klingen wie ein echter Mensch. Dieses Symbolbild wurde mit der Bilder-KI Midjourney generiert.
DER STANDARD/Pichler/Midjourney

Unter dem Motto "Die Betrüger betrügen" setzt man auf Spracherkennung und ein KI-Sprachmodell in Verbindung mit Deepfakes von Stimmen, um einen sich stetig weiterentwickelnden Chatbot zu erschaffen, der als vermeintliches Betrugsopfer fungiert. Die Idee kam Dali Kaafar, der den Cyber Security Hub der Universität leitet, als während eines Mittagessens mit der Familie ein Betrüger bei ihm anrief. Diesen hielt er mit humoristischen Einlagen schließlich – und zur Erheiterung seiner Kinder – 40 Minuten lang hin.

Diese Zeit habe der Scammer nicht nutzen können, um jemanden anderen zu kontaktieren, der vielleicht auf den Betrug hereingefallen wäre. Allerdings musste er selbst genauso viel Lebenszeit dafür aufwenden. Automatisierung erschien ihm also der logische nächste Schritt zu sein.

Direkte Übergabe soll möglich werden

Ruft ein Betrüger an, so kann das System von Apate das Gesagte live aufnehmen und an den Bot übertragen. Dieser nutzt Spracherkennung, um das Gehörte in Text zu verwandeln. Ein mit psychologischen Tricks angereichertes Sprachmodell wertet diesen Input aus und versucht, basierend auf dem Gesagten eine glaubwürdige Antwort zu erstellen, die darauf ausgerichtet ist, die Konversation am Laufen zu halten. Der Output wird schließlich über eine Deepfake-Stimme wiedergegeben, wobei zusätzliche "Emotionsmodulation" für hohen Realismus sorgen soll.

Zu den Lerndaten der KI sollen unter anderem Transkripte von Betrugsanrufen gehören. Ebenso entlehnt man die Dialoge, die prominente "Scambaiter" auf Youtube, Reddit und anderen Plattformen veröffentlichen. Gleichzeitig analysiert man aktuelle Methoden der Betrüger und den aktuellen Erfolg des "Timewaster" beim Hinhalten der Scammer. Auf Basis der Ergebnisse soll der Chatbot laufend optimiert werden.

Apate

Mit eigenen Mobilnummern, die als Honeypot (Lockmittel) für die Cyberkriminellen dienen, soll Apate möglichst viele Anrufe entgegennehmen, die sonst bei echten Menschen gelandet wären. Das kostet die Betreiber der Masche Zeit und Geld und gefährdet potenziell ihr Geschäftsmodell. Dazu fungiert Apate auch als eine Art Echtzeitwarnsystem für neue Betrugswellen.

Ebenso soll es möglich sein, dass man das System "mithören" lässt, wenn man angerufen wird. Dabei kann es, wenn es Muster erkennt, die für Scams typisch sind, den Nutzer warnen. Dieser soll die Möglichkeit haben, den Anruf direkt an die KI zu übergeben. Der Betrüger soll den Wechsel dank der geklonten Stimme nicht mitbekommen.

System im Testeinsatz

Derzeit läuft Apate in einer Testphase auf Basis von Honeypot-Nummern, die man bei betrügerischen Apps eingetragen und im Internet veröffentlicht hat. Dabei sollen die Bots bereits jetzt erstaunlich gute Reaktionen in herausfordernden Situationen zeigen und zunehmend besser darin werden, die Gespräche in die Länge zu ziehen. Nach Angaben der Erfinder dauert ein durchschnittliches Telefonat mit einem Betrüger momentan rund fünf Minuten. Das erklärte Ziel ist eine Ausweitung auf 40 Minuten.

Das Team befindet sich auch in Gesprächen mit Telekombetreibern hinsichtlich kommerzieller Zusammenarbeit. Die Telcos sind, gerade im angloamerikanischen Raum, bislang daran gescheitert, des Problems mit anderen Mitteln Herr zu werden.

Kaafar hofft, dass Apate globalen Einsatz findet und das Geschäft mit Telefonbetrug so unrentabel macht, dass es zusammenbricht. Allerdings sieht er auch ein mögliches Szenario – nämlich dass die Scammer selbst eigene Bots dieser Art ins Rennen schicken. "Wenn Scam-Chatbots am Ende mit Scam-Abwehr-Chatbots reden, statt das Geld echter Menschen zu stehlen", so der Forscher, "dann sehe ich das als großen Erfolg." (gpi, 28.6.2023)

https://lighthouse.mq.edu.au/article/june-2023/scamming-the-scammers

https://techxplore.com/news/2023-06-scamming-scammers-ai-created-fake-victims.html