Florian Tursky bei der Asia Tech X Singapore.
BKA/Schrötter

Die ATxSG-Konferenz in Singapur begann mit unerwartet harten Auseinandersetzungen. Die Bruchlinien verlaufen zwischen europäischer Politik und den großen Tech-Konzernen. Der Grund: Der Vorsitzende von Microsoft Asien, Ahmed Mazhari, argumentierte, dass die schlimmsten Auswirkungen von KI möglicherweise toleriert werden müssen – Todesfälle seien dabei mit gemeint. Beistand erhielt der Microsoft-Manager dabei vom Vice President von Nvidia, Keith Strier. Mit diesen Aussagen gerieten die beiden Manager mit der niederländischen Ministerin für Digitalisierung, Alexandra van Huffelen, aneinander. Die Diskussion zeigte aber auch, dass weltweite Spielregeln für KI wohl ein europäischer Wunschtraum bleiben, weshalb Digitalisierungsstaatssekretär Florian Tursky jetzt Tempo machen möchte.

Tech-Branche will Grenzen selbst ausloten

Mazhari vertrat anfangs die Position, dass man als Pionier neue Entwicklungen in Technologie und Wirtschaft vorantreibe und die Grenzen dabei erst ausgelotet werden müssen. Eine Philosophie, die bei der Niederländerin gar nicht gut ankam. Ihre Argumentation: Die Gesellschaft kann die Möglichkeiten der Technologie nur dann voll ausschöpfen, wenn sie darauf vertraut, dass sie sicher ist. Van Huffelen sprach sich, ebenso wie die estnische Ministerpräsidentin Kaja Kallas, einmal mehr für strenge Regulierung von KI-Systemen aus.

Der Microsoft-Manager sieht dafür keine Notwendigkeit: Microsoft hätte die Grundsätze der KI bereits "2016 oder 2017" definiert. Mazhari ging weiter und gab an, dass Microsoft mit Regierungen und Institutionen zusammenarbeite, um "Vertrauen in KI-Technologie" zu schaffen. Mazhari musste aber einräumen, dass Microsoft Anteilseigner von ChatGPT-Entwickler OpenAI ist – ein Unternehmen, das sich nicht an die von Microsoft aufgestellten Prinzipien hält.

Globales KI-Gremium wie die IAEA

Van Huffelen wollte wissen, ob sich Microsoft an europäische KI-Regeln halten werde. Man halte sich an die Regeln der Gerichtsbarkeit, war die Antwort. Mazhari räumte aber ein, dass es vielleicht in Zukunft ein globales Gremium zur KI-Regulierung wie die internationale Atomenergiebehörde brauche. "Die Welt würde von einer Form der internationalen Regulierung profitieren." 

Nvidia-VP Strier sprang Mazhari bei und behauptete, dass einige Experten Risiken sehen, andere jedoch nicht. Er plädierte für professionelle Standards, soziale Normen, die Grenzen definieren, und Bildung. Die Diskussionsteilnehmer zogen Parallelen zwischen KI und der Automobilbranche. Van Huffelen argumentierte, der Einsatz von KI sei wie ein ungetestetes Auto auf der Straße und "irgendwie beängstigend". Mazhari antwortet, dass jeden Tag Tausende von Menschen bei Verkehrsunfällen sterben, aber die Autohersteller dürfen weitermachen. "Wenn wir der Welt die Autos wegnehmen, bin ich mir nicht sicher, was mit der menschlichen Produktivität passieren wird", sagte der Manager. "Wollen Sie damit sagen, dass Menschen durch generative KI getötet werden?" fragte van Huffelen. Eine Antwort blieb aus.

Tursky fordert Straßenverkehrsordnung für KI

Den Vergleich mit dem Straßenverkehr lässt Digitalisierungsstaatssekretär Florian Tursky nicht gelten: "Auf der Straße gilt die Straßenverkehrsordnung, da gibt es genaue Regeln. Im Bereich der KI fehlen uns diese", so Tursky während der ATxSG-Konferenz. Klar sei, dass bei Innovationen nicht alles klar geregelt sein kann, aber es gebe einen Punkt an dem man die Notbremse ziehen müsse. "Um bei dem Vergleich zu bleiben: Wir brauchen eine Straßenverkehrsordnung für KI", so Tursky im Gespräch mit dem STANDARD. Selbst mit einem Regelwerk werde es zu Falschinformationen, Betrug und anderen unerwünschten Effekten kommen.

Weltweit werden in Europa mit dem KI-Act die ersten supranationalen Regeln für den Umgang mit KI erarbeitet. Tursky ist überzeugt, dass die Regeln des AI Acts auch von anderen Ländern übernommen werden. Eine Behörde wie die IAEA sei derzeit aber nicht realistisch.

Wie genau die einzelnen Länder den AI Act umsetzt ist zwar noch fraglich, aber wahrscheinlich sei in Österreich eine Behörde, die hierzulande die Regeln durchsetzt und das Regelwerk vollzieht. Die Hauptaufgabe soll die Zertifizierung von KI-Systemen sein, aber auch als gefährlich eingestufte KI vom Markt auszuschließen. Für die Unternehmerinnen und Unternehmer im Land soll die KI-Behörde gleichzeitig eine Art Beratungsstelle werden und vor allem Rechtssicherheit herstellen. "Ich möchte mit der schnellen Umsetzung einer KI Behörde einen Wettbewerbsvorteil für österreichische Unternehmen schaffen. Auch viele kleine und mittlere Unternehmen verwenden schon jetzt KI Lösungen und wir müssen ihn schnell sagen können, ob sie bei der Umsetzung des AI Acts auf Probleme treffen."

Noch in diesem Jahr soll der Grundstein für die Behörde gelegt werden – sprich, sie wird als Institution geschaffen. Vorerst wird sie aber keinen Behördencharakter haben, das ist erst möglich, wenn der AI Act umgesetzt wird. "Wir müssen die Instutition aber schon jetzt genau planen und vorbereiten, um den Service schon bieten zu könne", sagt Tursky. Gleichzeit bekräftigt der Staatssekretär erneut die Forderung nach einer Kennzeichnungspflicht für KI-Systeme, auch auf europäischer Ebene.

Aktuell ist nur geplant, dass Behörden darauf hinweisen müssen, wenn sie KI-Systeme einsetzen. Geht es nach Tursky, sollen auch Unternehmen dazu gezwungen werden. Beispielsweise müsste Tiktok darauf hinweisen, dass ihr System zum Vorschlagen neuer Videos von einer KI betrieben wird. "Es wird auch Transparenzverpflichtungen geben müssen. Wir werden Möglichkeiten haben müssen, hineinzuschauen, wie so ein Algorithmus funktioniert", erklärt Tursky. Dies sei besonders im Hinblick auf ideologische Filter, Propaganda und Fake News wichtig – gemeint ist dabei etwa Propaganda im Sinne der KP Chinas. "Wir werden uns die KI aus China ganz besonders anschauen müssen, bis hin zu Ausschlüssen aus dem europäischen Markt." (Peter Zellinger, 8.6.2023)