Im Gastbeitrag erklären Jurist Andreas Kezer und Artificial-Intelligence-Student Lion Dungl, welche Auswirkungen die geplante EU-Verordnung auf Social Media haben könnte.
"Europa soll das globale Zentrum für vertrauenswürdige künstliche Intelligenz werden." Kein geringeres Ziel hat sich die Europäische Kommission mit ihrem Entwurf für ein Gesetz über künstliche Intelligenz, auch KI-Verordnung (KI-VO) oder im Englischen "AI-Act" genannt, gesetzt. Diese Verordnung soll dem Ruf der Datenschutzgrundverordnung (DSGVO) folgen und der neue weltweite Goldstandard der KI-Regeln werden.
Der Entwurf der Verordnung verfolgt einen risikobasierten Ansatz und unterscheidet zwischen verbotenen Systemen, Hochrisikosystemen und Allzwecksystemen. An jede Kategorie werden gewisse Rechtsfolgen geknüpft. Besonders auf Social-Media-Plattformen ist KI allgegenwärtig. "Der Algorithmus", der entscheidet, welche Inhalte die User präsentiert bekommen und welche nicht, ist berühmt-berüchtigt – und als künstliche Intelligenz einzustufen. Im Fachjargon spricht man von "Empfehlungssystemen".
Am 14. Juni 2023 wurden in einer Abänderung des Entwurfs der KI-VO durch das Europäische Parlament genau jene Empfehlungssysteme als Hochrisikosysteme eingestuft und damit alle großen Social-Media-Plattformen direkt in den Anwendungsbereich der Verordnung verfrachtet. Für die Plattformen dürfte sich damit einiges ändern.
Social Media als "Hochrisiko"
Ein weitverbreitetes Problem auf Social Media ist die Diskriminierung bestimmter Personengruppen. Oft folgt diese aus einem Bias – also einer Voreingenommenheit – der Empfehlungssysteme. Beispiele dafür sind die Verstärkung geschlechtlicher oder ethischer Vorurteile oder die Bevorzugung bzw. Benachteiligung von einzelnen politischen und weltanschaulichen Inhalten, weil sie etwa zu mehr Interaktionen führen. In Dänemark nutzte zum Beispiel ein Unternehmen Differenzierungsmöglichkeit von Facebook, um selektive Stellenanzeigen nur für Männer auf der Onlineplattform zu schalten. Anderen Unternehmen nutzten wiederum die Möglichkeit, Stellenanzeigen nur für bestimmte Altersgruppen auf Facebook zu schalten.
Aber auch in vielen anderen Bereichen kann es zu KI-basierender Diskriminierung kommen. Nach ihrem derzeitigen Entwurf soll die KI-VO nun eine Vielzahl von Anforderungen an solche Empfehlungssysteme stellen, wie beispielsweise an die Qualität der zugrundeliegenden Daten (diese müssen repräsentativ sein und im Hinblick auf einen möglichen Bias untersucht werden) oder auch an die Genauigkeit und Robustheit dieser Systeme. Ziel dahinter ist, Diskriminierungen entgegenzuwirken und Grundrechte zu schützen.
Außerdem sollen Anbieter dazu verpflichtet werden, die Ergebnisse ihrer Empfehlungssysteme nachvollziehbar und transparenter für ihre User zu machen. Zudem muss dem Entwurf der KI-VO zufolge die Möglichkeit geschaffen werden, dass eine natürliche Person das Empfehlungssystem beaufsichtigt und auch – wenn notwendig – eingreifen kann.
Kennzeichnung von Deepfakes
Empfehlungssysteme sind nicht die einzigen KIs, mit denen man auf Social Media konfrontiert wird. Ein immer größer werdendes Problem sind Deepfakes. User können mit wenig Aufwand Fotos oder sogar Videos von Personen mit KIs produzieren lassen, die so scheinen, als wären sie echt bzw. authentisch. Besonders bekannt ist etwa ein Foto von Donald Trump bei dessen vermeintlicher Verhaftung und eines vom Papst in einer glänzend-weißen Daunenjacke.
Solche Deepfakes wirken zunächst vielleicht skurril-witzig, bergen aber große Risiken, denn Falschinformationen lassen sich damit vermeintlich belegen und können potenziell großen Schaden anrichten. Auch dieses Problem möchte die EU mit der KI-VO angehen. Demnach sollen KI-Anwender verpflichtet werden, Deepfakes als solche zu kennzeichnen. Dies würde dazu beitragen, Falschinformationen auf Social Media maßgeblich einzudämmen.
Die KI-VO wird sich nach dem derzeitigen Entwurf somit nicht bloß auf die unmittelbar betroffenen Betreiber der Social-Media-Plattformen auswirken, die gewisse Standards einhalten werden müssen, sondern auch auf die User – optimalerweise durch mehr Transparenz und eine bessere, diskriminierungsfreiere User-Erfahrung. Aktuell befindet sich der Verordnungsentwurf in den finalen Verhandlungen zwischen den EU-Gesetzgebungsorganen. Mit Inkrafttreten ist nicht vor dem Jahr 2025 zu rechnen. (Andreas Kezer, Lion Dungl, 20.8.2023)