Im Umgang mit unserer Sprache ist die Erkennung von Bedeutung und Kontext immer noch eine der größten Herausforderungen für künstliche Intelligenz. Ein Beispiel dafür, das für einige Aufregung sorgte, lieferte vor kurzem Amazons Sprachassistentin Alexa. Wie die Nutzerin Kristin Livdahl berichtete, hatte Alexa ihrer zehnjährigen Tochter eine potenziell tödliche Empfehlung gegeben.

"Empfehle mir eine Herausforderung, die ich machen kann", hatte das Kind ihren smarten Echo-Lautsprecher gebeten. Alexa zitierte daraufhin von einer Website eine Anleitung: Man solle ein Ladegerät nur teilweise in die Steckdose einführen und dann mit einer Penny-Münze die Stecker berühren. Das Mädchen war eigentlich auf der Suche nach Sportübungen, die es gemeinsam mit seiner Mutter absolvieren könne.

"Penny Challenge"

Diese gefährliche Aktion hatte ursprünglich 2020 als "Penny Challenge" auf Tiktok ihre Kreise gezogen. Schon damals wurde, nicht nur von Personen mit elektrotechnischem Fachwissen, ausdrücklich davor gewarnt. Denn das Vorgehen kann zu einem Wohnungsbrand oder, noch schlimmer, zu einem tödlichen Stromschlag führen.

Livdahls Bericht zog einige Aufregung nach sich, und Amazon hat nun reagiert. Man habe den Fehler, der Alexa die gefährliche Anleitung ausspucken ließ, behoben. Zudem arbeite man an weitere Maßnahmen, mit denen in Zukunft verhindert werden soll, dass die Sprachassistentin Nutzern derlei selbstgefährdende Handlungen empfiehlt. Genauere Angabe zu den geplanten Schritten machte man gegenüber "Business Insider" nicht.

Minenfeld Internet

Online-Suchergebnisse sind für Systeme wie Alexa ein Minenfeld, da immer das Risiko besteht, dass sich zwischen ungefährliche Tipps und korrekte Informationen gefährliche Empfehlungen und Desinformation mischen. In der Regel versuchen die KI-Helfer, seriöse Quellen zu priorisieren, was aber offenkundig nicht bei jeder Anfrage funktioniert.

Challenges, die auf sozialen Netzwerken virale Verbreitung finden, sind nicht neu, und viele davon sind relativ harmlos. In den vergangenen Jahren tauchten aber immer wieder Herausforderungen auf, deren Ausführung ein erhebliches Risiko für die Gesundheit der Beteiligten birgt. Für Entsetzen sorgte etwa die "Tide Pod Challenge", im Rahmen derer Teilnehmer vor laufender Kamera in eine Waschmittelkapsel bissen. (gpi, 29.12.2021)