Beim AI Act, mit dem künstliche Intelligenzen (KIs) künftig durch europäische Gesetze einheitlich reguliert werden sollen, ist das letzte Wort noch nicht gesprochen. Doch wir nähern uns der Fertigstellung. Das zeigt ein Leak, der den Status des AI Act transparent offenlegt. Die Mitgliedsstaaten haben sich mit ihrer Position gegenüber dem Europäischen Parlament durchgesetzt, es wird also deutlich weniger streng reguliert als zwischenzeitlich angenommen.
Das gilt allerdings auch für den Einsatz durch die Exekutive, konkret für die biometrische Fernüberwachung via KI. Generell ist diese verboten, es gibt jedoch zahlreiche Ausnahmen. Wie die genau aussehen, was in der aktuellen Version neu ist und was das etwa für Handtaschendiebe in Österreich bedeutet, habe ich mir diese Woche von einem Experten erklären lassen.
Datenschützer sind von diesen Ausnahmen alles andere als begeistert. Doch sie sind nicht die Einzigen, die unzufrieden sind. So möchte Frankreich die Schrauben noch etwas weiter lockern. Das hat wirtschaftliche Gründe: Mit Mistral AI beherbergt das Land einen großen europäischen Player in dieser Branche, und dessen Wachstum soll nicht durch überbordende Regulierung behindert werden. Eine interessante zeitliche Überschneidung ist, dass die Kommission zuletzt betonte, Start-ups und KMUs mit KI-Fokus bewusst fördern zu wollen, unter anderem mit Zugang zu europäischen "Supercomputern".
Vorsicht vor den Fakes
In der Zwischenzeit nimmt der Missbrauch von KI-Instrumenten für politische Zwecke immer dunklere Formen an. Etwa zuletzt in den USA, als Bürgerinnen und Bürger vermeintlich von US-Präsident Joe Biden angerufen wurden. Das war natürlich geflunkert, Bidens Stimme wurde via KI gefälscht, verunsichert waren die Menschen trotzdem.
Mein Kollege Alexander Amon hat indes recherchiert, dass sich nicht nur immer mehr Männer virtuelle Lebensgefährtinnen via KI generieren lassen, sondern dass die Fake-Influencerinnen im Superwahljahr 2024 auch für die politische Meinungsmache missbraucht werden könnten. Gerade bei KI-Gefährtinnen aus sogenannten Companion-Apps wie Candy.ai ist dies brisant, kennen die Programme doch oft die intimsten Geheimnisse und auch die politische Einstellung ihrer menschlichen Gegenüber.
Widerstand
Während politische Maßnahmen zur Eindämmung solcher Entwicklungen fehlen, regt sich Widerstand in der Wirtschaft und in der Gesellschaft. So sperrte OpenAI vergangene Woche erstmals einen Entwickler, weil dessen Bot den demokratischen Präsidentschaftskandidaten Dean Phillips imitiert hatte. Die Richtlinien von OpenAI verbieten, dass die Technologie des KI-Marktführers auf eine potenziell missbräuchliche Weise verwendet wird.
Youtube zog nach und löschte rund 1.000 zwielichtige Werbevideos mit gefälschten Promi-Testimonials. Andere Plattformen bemühen sich, per KI generierte Fake-Nacktfotos von Taylor Swift zu entfernen, kommen mit der Arbeit aber kaum nach.
Nutzlose Wasserzeichen
Derartige Verbote und Löschaktionen sind ein Mittel im Kampf gegen Fakes, als anderes Mittel gelten digitale Wasserzeichen, wahlweise zur Kennzeichnung von KI-generierten Bildern oder Originalfotos. Von der Non-Profit-Organisation EFF wurde nun allerdings dargelegt, warum das nicht funktioniert. So können Wasserzeichen in KI-Bildern einfach entfernt werden.
Sinnvoller sei noch der umgekehrte Ansatz, bewusst Originale als solche zu kennzeichnen. Hier bestehe jedoch die Herausforderung, dass das Wasserzeichen während der gesamten Produktionskette erhalten bleiben muss und dass ältere Kameras das Wasserzeichen nicht in ihre Fotos integrieren können – womit diese von einer Software automatisch als Fälschungen eingestuft würden.
Nicht aufzuhalten
All diese Sorgen können das Wachstum der Branche aber nicht aufhalten. Und damit meine ich nicht, dass sich Elon Musk für sein KI-Unternehmen xAI sechs Milliarden von Investoren holen will und die Bewertung des Start-ups bei 20 Milliarden Dollar sieht. Sondern dass die Technologie zunehmend implementiert und weiterentwickelt wird.
So bestellt BMW humanoide Roboter, die in den Fabrikshallen "mühsame und gefährliche" Arbeiten übernehmen sollen. Im Kontext der deutschen Bahnstreiks denkt die FDP laut darüber nach, die Lokführer durch KI zu ersetzen. Und Googles Browser Chrome bekommt KI-Funktionen, mit denen unter anderem Tabs automatisch sortiert werden. Unter uns gesagt: Das ist ein Traum für jeden Journalisten, der bei der parallelen Recherche für drei Artikel 40 Tabs geöffnet und längst den Überblick verloren hat.
Ebenfalls von Google kommt schließlich mit Lumiere eine KI, die das Erstellen und Bearbeiten von Videos vereinfachen soll. Dank eines neuen Zugangs zum Faktor Zeit wirken die Lumiere-Ergebnisse deutlich realistischer als jene der Konkurrenz. Die dahinterstehenden Forscherinnen und Forscher betonen, dass man damit auch Laien das Erstellen kreativer Projekte ermöglichen will. Doch Sie ahnen es vermutlich auch schon: Die Problematik der KI-Fakes wird dadurch nicht kleiner, sondern noch einmal größer werden. (Stefan Mey, 27.1.2024)