Liebe Mitmenschen,

die Serie Black Mirror ist ja dafür bekannt, die dunklen Seiten von Technologie aufzuzeigen. Vieles mag zunächst in ferner Zukunft liegen, aber der Ausgangspunkt der Katastrophe ist meist eine Technologie, das bereits existiert – was die Dystopie bedrohlich nahe erscheinen lässt.

Kürzlich ist eine (empfehlenswerte!) neue Staffel von Black Mirror auf Netflix erschienen. Ohne viel spoilern zu wollen: In einer Folge verwendet eine Streaming-Plattform KI, um aus dem Leben von Menschen eine Serie zu generieren – nicht unbedingt mit dem Wissen und Einverständnis der Betroffenen.

Das ist gar nicht so weit hergeholt: Vergangene Woche feierte auf dem Streamingdienst RTL+ eine neue Pumuckl-Serie Premiere. Der Kobold mit dem roten Haar klingt dabei wie damals – obwohl der Sprecher Hans Clarin bereits 2005 verstorben ist. Die charakteristische Stimme wurde nämlich dank KI aus früheren Aufnahmen generiert.

Dieses "Klonen" von Stimmen wird in der Unterhaltungsindustrie immer häufiger eingesetzt. Diese Technologie hält zwar auch die Stimme von Darth Vader am Leben – birgt verständlicherweise aber auch Risiken. Der neueste Schmäh sind Urlaubsportale, auf denen angeblich persönliche Beratung geboten wird. Nur: Die angeblichen Beraterinnen und Berater sind KI-generiert, die präsentierten Angebote gibt es gar nicht – es geht nur darum, Menschen das Geld aus der Tasche zu ziehen.

Wie praktisch, dass es für die Bekämpfung von Scams bereits ein passendes KI-Tool gibt. Forschende aus Australien haben nämlich die Software Apate entwickelt, das betrügerische Telefonate in die Länge ziehen und Telefon-Gaunereien so unrentabel machen soll. Vielleicht reden bei Scam-Anrufen irgendwann nur mehr KI-Systeme miteinander.

Eine neue Studie der Universität Zürich zeigt aber, dass ChatGPT auch ein Talent dafür hat, überzeugende Fake News zu erstellen. Die Teilnehmenden eines Experiments hatten bei Tweets, welche die beliebte KI-Software generiert hatte, mehr Schwierigkeiten, Fake News zu erkennen, als bei solchen, die von Menschen verfasst wurden. Aber vielleicht ist auch hier die gute KI, welche die böse KI austrickst, bereits in Entwicklung.

Dennoch herrscht weitgehend Einigkeit, dass es auch Regulierung braucht, um Missbrauch zu verhindern. Vergangene Woche traf sich EU-Kommissar Thierry Breton mit führenden Persönlichkeiten aus der Technologiebranche, um über die KI-Regulierung der EU zu diskutieren, darunter Mark Zuckerberg und der Chef von OpenAI, Sam Altman. Dort wurde zumindest an der Oberfläche Einigkeit und die Zustimmung zum AI Act der EU demonstriert. Im Hintergrund lobbyierte Altman mit aller Kraft gegen die EU-Vorgaben und drohte sogar mit einem Rückzug aus Europa.

Auch in Österreichs Politik ist Künstliche Intelligenz und die Frage ihrer Bändigung angekommen. Die Brisanz des Themas müsse er ja wohl nicht erläutern, sagte Nationalratspräsident Wolfang Sobotka (ÖVP) am Montag bei der Eröffnung eines parlamentarischen Forums zu KI. Fachleute sollten dort den Gästen die KI-Revolution erklären – aus technologischer, aber ethischer und philosophischer Perspektive.

Sarah Spiekermann-Hoff, Institutsleiterin Wirtschaftsinformatik und Gesellschaft an der WU Wien, erklärte etwa, dass drei Gruppen von Menschen gibt, die unterschiedlich mit neuen Technologien umgehe. Die erste Gruppe nimmt diese Veränderungen an und gestaltet sie aktiv mit. Die zweite ist konservativ und beobachtet, will sich aber noch nicht anpassen. Die dritte Gruppe lehnt Neues konsequent ab.

Spiekermann-Hoff rät der Politik, nicht der zweiten Gruppe anzugehören. "Wir müssen anfangen, wieder wirklich Politik zu machen", sagt die Wirtschaftsinformatikerin. Ohne Zweifel ein Appell an die anwesenden Abgeordneten – der sich vielleicht nicht nur auf KI bezieht.

Bleiben Sie menschlich, und bleiben Sie uns gewogen,

herzlichst,

Philip Pramer / Ressortleiter Edition Zukunft