Bei Replika sollen Chatbots längere Beziehungen mit Nutzerinnen und Nutzern eingehen. Das geht jedoch nur, solange die Technik mitspielt: Anfang 2023 etwa verloren viele Nutzerinnen und Nutzer ihre virtuellen Begleiter nach einem unangekündigten Software-Update.
REUTERS

Als James Vlahos Vater die Krebsdiagnose erhält, hat Vlahos keine Zeit zu verlieren. Über Monate hinweg spricht er mit seinem Vater viele Stunden lang über dessen Lebensgeschichte und zeichnet alle Gespräche auf. Als Vlahos Vater schließlich ein Jahr später stirbt, hat Vlahos aus dem vielen Material bereits einen Chatbot gebaut, den er Dadbot nennt. Dieser spricht weiterhin in der Stimme seines Vaters, gibt Antworten auf Fragen, die Vlahos an das Leben seines Vaters hat, lebt weiter, wenn es sein Vater nicht mehr kann. "Mein Vater wird dadurch nicht zu einer verschwommenen Erinnerung. Ich habe die Möglichkeit, weiterhin mit ihm zu interagieren", sagt Vlahos in einem Interview.

Aus seiner persönlichen Erfahrung heraus erstellt Vlahos ein paar Jahre später das Programm Hereafter AI, das auch anderen Menschen die Möglichkeit geben will, ihre verstorbenen Angehörigen als Chatbots "weiterleben" zu lassen. Das Unternehmen ist längst nicht das einzige, das mit einem solchen Angebot wirbt: Replika, Storyfile, Seance AI oder Deepbrain AI erschaffen mithilfe Künstlicher Intelligenz (KI) ebenfalls Chatbots oder digitale Avatare, die verstorbene Personen möglichst gut imitieren sollen.

Das Versprechen für die Hinterbliebenen: Verlust und Trauer besser zu bewältigen oder den Trauerprozess gleich ganz zu überspringen. "Sie müssen sich nie wieder von Ihren Geliebten verabschieden", schreibt etwa das Unternehmen "You, Only Virtual", das angibt, die "authentische Essenz" einer Person zu bewahren. Die sogenannte Ghostbot-Industrie ist in einigen Ländern mittlerweile zu einem äußerst lukrativen Geschäft geworden. In China geben einige Unternehmen an, bereits tausende Menschen "digital wiederbelebt" zu haben. Doch an der Technologie regt sich auch immer mehr Kritik zu deren ethischen und psychologischen Folgen. Wie viel Trauerarbeit soll und kann sie uns abnehmen?

Ein paar Minuten Material genügen

Ein Grund für den rasanten Aufstieg der Ghostbots: Es gelingt immer einfacher, schneller und besser, sie zu erstellen. Lediglich 30 Sekunden an Ton- und Videomaterial benötige man, um ein Abbild eines Verstorbenen zu erstellen, geben einige Unternehmen an. An anderer Stelle reicht es, einige Fragen zu der gewünschten Person zu beantworten, Textnachrichten und Bilder einzuspielen, damit die KI daraus einen möglichst realistischen Avatar erstellt, mit dem Nutzerinnen und Nutzer dann, wann immer sie wollen, schreiben oder sogar sprechen können.

"Meist genügen ein paar Minuten an Aufnahmen einer Stimme, damit ein Programm diese äußerst realistisch nachmachen kann", sagt Sabine Köszegi, Professorin für Arbeitswissenschaft und Organisation an der TU Wien und Mitglied des AI Fachbeirats der Österreichischen Bundesregierung. Es gelinge immer besser, die imitierte Person Dinge sagen zu lassen, die sie nie so gesagt hat, die sie aber vielleicht sagen hätte können.

Tod als lukratives Geschäft

Diese Funktionen haben laut Unternehmen auch ihren Preis. Von ein paar Euro im Monat bis zu einigen Hundert Euro im Jahr müssen Nutzerinnen und Nutzer für den Austausch mit den digitalen Abbildern hinlegen. Das Unternehmen Storyfile erstellt beispielsweise interaktive Video-Avatare von Personen, die sich auch unterhalten und auf Fragen antworten können. Ursprünglich wurde das Programm für Holocaust-Überlebende entwickelt, damit sie ihre Erlebnisse an die Nachwelt weitergeben können. Nun jedoch hat Storyfile auch einen größeren finanziellen Mehrwert hinter der Technologie erkannt und bietet Premium-Mitgliedschaften für 500 Euro an, mit denen Nutzerinnen und Nutzer Video-Avatare mit noch besserer Auflösung erhalten sollen.

"Der Tod ist ein lukratives Geschäft", schreibt die US-amerikanische Datenwissenschafterin Tamara Knees in ihrem Buch Death Glitch. Nachdem Lebensversicherungen und Bestattungsinstitute lange Zeit von diesem Geschäft profitieren, wollen nun auch digitale Trauer-Technologien ein Stück vom Kuchen abbekommen. Ist der Aufstieg solcher Technologien bedenklich?

Fortführung von Erinnerungskultur

"Diese Technologien sind eine natürliche Fortführung von Erinnerungskultur", sagt Claudia Plant, Datenexpertin an der Universität Wien. Als die Fotografie Einzug hielt, hätten es viele Menschen zunächst auch komisch gefunden, Bilder von Verstorbenen im Haus aufzuhängen. Solange Menschen wie bei Bildern wissen, dass die Personen nicht echt sind und nicht mehr existieren, halte sie die Technologie für nicht problematisch. Für die meisten Menschen sei eine solche Unterscheidung kein Problem. Zwar werde die Technologie immer besser, das Aussehen und die Stimme einer Person zu imitieren. "Wirklich den Charakter einer Person nachzubilden ist jedoch nicht möglich und wäre viel zu komplex."

Ähnlich sieht es auch Matthias Meitzler, Soziologe an der Universität Tübingen in Deutschland, der sich seit vielen Jahren mit neuen Technologien rund um Sterblichkeit beschäftigt. "Es kann Menschen durchaus helfen, eine verstorbene Person auf diese Art noch eine Weile bei sich zu haben." Vielleicht könne man dadurch noch etwas loswerden, was man vor dem Tod der Person nicht mehr sagen konnte. Im Vergleich zu Bildern bekomme man durch diese Technologien wesentlich mehr Resonanz. "Das kann für viele tröstlich oder versöhnlich sein."

In Abhängigkeitsverhältnis geraten

Anders verhalte es sich jedoch, wenn Menschen einen solchen Avatar nicht nur als Hilfe für den Abschied, sondern als ständigen Begleiter fürs Leben sehen. "Wie Menschen auf darauf reagieren, ist sehr individuell, doch in einzelnen Fällen könnte es dazu führen, dass Trauernde in ein Abhängigkeitsverhältnis geraten", sagt Meitzler. Das Geschäftsmodell vieler Unternehmen hinter diesen Avataren bestehe darin, Menschen möglichst lange an diese Plattformen zu binden, was nicht zwingend förderlich für die Verlustbewältigung sei.

Zudem stellen sich bei dem Thema auch einige ethische Fragen: "Wer soll darüber entscheiden, welche Daten verwendet werden? Und was passiert, wenn sich eine Person nie geäußert hat, ob sie nach ihrem Tod als digitaler Avatar abgebildet werden möchte?", sagt Meitzler. Ein solcher digitaler Avatar könnte auch Unwahrheiten über die verstorbene Person oder über andere Familienangehörige verbreiten oder die Hinterbliebenen mit manchen Aussagen verletzen beziehungsweise verstören.

Datenexpertin Plant hält die Erstellung digitaler Avatare aus vielen sensiblen Daten eines Verstorbenen nur dann für vertretbar, wenn die Person dieser Verwendung bereits zu Lebzeiten zugestimmt hat. "Alles andere halte ich für ethisch problematisch." Auch die Sicherheit solcher intimer Daten müsse gewährleistet sein.

Emotionale Last

Auch Wissenschafterinnen und Wissenschafter der Universität Cambridge äußerten sich in einer vor wenigen Tagen veröffentlichten Studie kritisch zu der neuen Technologie. Ohne bestimmte Sicherheitsvorkehrungen könnten Ghostbots psychische Schäden anrichten und Angehörige immer wieder "verfolgen". Die täglichen Interaktionen mit den digitalen Avataren und Mitteilungen von diesen könnten zu einer überfordernden emotionalen Last werden. Haben Personen vor ihrem Tod einen Vertrag mit diesen Anbietern zur Erstellung eines digitalen Avatars abgeschlossen, können Hinterbliebene diesen womöglich so schnell nicht mehr auflösen.

"Es bräuchte jedenfalls neue Leitlinien und Überlegungen, die sich speziell auf solche Avatare beziehen", sagt Meitzler. Zudem brauche es ein größeres Angebot an Information: "Welche Konsequenzen hätte mein digitales Weiterleben als Avatar? Und was ist, wenn meine Angehörigen das eigentlich nicht wollen?"

Hilfe bei Demenz

Potenzial sehen KI-Expertinnen wie Köszegi dennoch viel in solchen Technologien, nicht nur für bereits Verstorbene, sondern auch für die Lebenden. Theoretisch sei etwa vorstellbar, dass eine KI noch zu Lebzeiten über eine Person lernt und aus den vielen Erinnerungen, Wünschen und Ängsten der Person ein eigener Chatbot trainiert wird. Im Falle einer Demenz könne der Chatbot dann möglicherweise für einen sprechen, wenn man es selbst nicht mehr kann. "Angehörige könnten die Hand ihrer demenzkranken Oma halten und sich währenddessen mit einem Avatar unterhalten, der mit den Daten aus ihrem Leben trainiert ist." Dadurch könnte der Kontakt mit Demenzerkrankten auch auf emotionaler Ebene womöglich besser aufrechterhalten werden, selbst wenn diese Person kognitiv nicht mehr erreichbar ist.

Auch, dass viele dieser Ghostbots niederschwellig und leicht verfügbar sind, könne ein Vorteil sein. "Viele Menschen würden sich sonst vielleicht gar keine Hilfe bei der Trauerbewältigung suchen", sagt Köszegi. Zudem gebe es in Österreich immer wieder einen Mangel an Psychotherapie-Plätzen. Solche digitalen Avatare könnten vielleicht als Überbrückung oder Ergänzung zu anderen Betreuungsangeboten fungieren. "Es bräuchte aber jedenfalls eine Zertifizierung als Medizinprodukt solcher Angebote." Setze man diese Bots sorgsam ein, können sie durchaus hilfreich sein.

Noch allerdings seien solche Ideen höchst spekulativ. "Wir wissen noch viel zu wenig, was Menschen über solche Technologien denken, um eine wünschenswerte Zukunft zu schaffen", sagt Köszegi. Aufzuhalten seien die digitalen Avatare aber voraussichtlich nicht. "Wir tun also gut daran, uns jetzt schon Gedanken dazu zu machen." (Jakob Pallinger, 20.5.2024)