Auf einen Schlag führte Lisa-Maria Kellermayrs Suizid den Österreicherinnen und Österreichern Ende Juli vor Augen, wie real und brutal die Folgen von Hass und Hetze im virtuellen Raum sind. Über Monate erreichten die oberösterreichische Landärztin Morddrohungen aus dem Impfgegnermilieu, doch die Ermittlungen nahmen erst Fahrt auf, als es schon zu spät war. In der Kritik stehen insbesondere die oberösterreichische Polizei und die Staatsanwaltschaft Wels.

In den öffentlichen Diskussionen dazu kommt seither immer wieder die Frage auf, wie es so weit kommen konnte. War es ein Scheitern des im April 2021 in Kraft getretenen österreichischen Kommunikationsplattformen-Gesetzes (KoPl-G) gegen Hass im Netz? Oder hat die Causa mangelnde Behördenkompetenz aufgedeckt?

Die ÖVP hat die heiße Kartoffel rasch Justizministerin Alma Zadić (Grüne) zugeschoben. Sie solle eine eigene Staatsanwaltschaft gegen Hass im Netz einrichten, forderte der Koalitionspartner. Zadić lehnt das ab. Viel wichtiger sei laut den Grünen, die Fachkompetenz bestehender Behörden auszubauen, damit diese auch zielführend im digitalen Raum ermitteln können.

Im politischen Hickhack wurde ein zentraler Faktor geflissentlich übersehen: Das österreichische KoPl-G wird bald zu großen Teilen vom europäischen Digital Services Act (DSA) abgelöst. Dieser ist Teil eines ambitionierten Vorhabens zur Neuregulierung des Internets.

Gemeinsam mit seinem Schwestergesetz, dem Digital Markets Act (DMA), soll er dem "Wilden Westen" im World Wide Web ein Ende setzen. Läuft alles nach Plan, wird der Rechtsakt die letzten Hürden des Gesetzgebungsverfahrens noch dieses Jahr meistern und ab dem 1. Jänner 2024 anzuwenden sein. Große Plattformen und Suchmaschinen kann die EU schon 2023 zur Verantwortung ziehen.

Allheilmittel nicht in Sicht

Ganz oben auf der Agenda steht dabei die Bekämpfung von Hassrede. Konkret werden Facebook und Co zu einem deutlich strengeren Umgang mit illegalen Inhalten verpflichtet. Einerseits müssen Drohungen und Beschimpfungen innerhalb von 24 Stunden entfernt, andererseits neue Schnittstellen für die Zusammenarbeit mit nationalen Polizeibehörden geschaffen werden. Der Unterschied zum KoPl-G ist einfach: Im Falle eines Verstoßes droht den Tech-Konzern eine Strafe von bis zu sechs Prozent des Jahresumsatzes.

Darüber hinaus müssen Plattformbetreiber regelmäßige Risikoanalysen ihrer Algorithmen vornehmen – und offenlegen, welche systemischen Gefahren bestehen. Sowohl die EU-Kommission als auch Forscherinnen und Forscher werden Zugang zu ebendiesen Algorithmen erhalten.

Dadurch soll analysiert werden können, warum bestimmte Inhalte mehr Reichweite erhalten als andere. Gerade Hasspostings werden oft viel weiter verbreitet als bedacht formulierte, unbedenkliche Aussagen. Greifen diese Einzelmaßnahmen erst einmal ineinander, dürften sie den Status quo durchaus zum Besseren wenden. Konzerne sind dann nicht nur mit einer harmonisierten Rechtslage konfrontiert, sondern werden gezwungen, ihre Systeme zu öffnen.

Reduktion schädlicher Inhalte

Dieser Meinung ist auch Christoph Schmon von der Grundrechtsorganisation Electronic Frontier Foundation (EFF). Laut ihm würde der DSA Tech-Konzerne stärker in die Verantwortung ziehen. Das werde zur Reduktion schädlicher Inhalte beitragen können, erklärt er im STANDARD-Gespräch.

Ein Allheilmittel für Hass im Netz sei der Digital Services Act dennoch nicht. Vielmehr handelt es sich nur um einen von mehreren Faktoren, die einen funktionierenden Opferschutz sicherstellen könnten. Wie auch Justizministerin Zadić ist Schmon der Ansicht, dass man beim fehlenden Fachwissen ansetzen müsse. "Ich kann mir vorstellen, dass gewisse Staatsanwälte von den Anforderungen der digitalen Welt überfordert sind", sagt er.

Kleine Plattformen nicht erfasst

Wie wichtig diese Forderung ist, zeigt auch der Fall Kellermayr. Aus Verzweiflung machte die Ärztin mehrere der grausamen Morddrohungen öffentlich. Wenig später meldete sich eine deutsche Hacktivistin namens "Nella", bot ihre Hilfe bei der Suche nach den Tätern an – und will in kürzester Zeit Indizien gefunden haben, die der Polizei offenbar entgangen waren.

In Medienberichten ließ die zuständige Landespolizeidirektion Anfang Juli dann wissen, dass Nella im Darknet recherchiert habe und ihre Erkenntnisse nicht nachvollziehbar seien. Nachforschungen des STANDARD ergaben hingegen, dass die Recherche weder technisches Spezialwissen voraussetzte noch an öffentlich unzugänglichen Orten im Internet stattfand.

Hinzu kommt, dass Drohungen nicht immer über reichweitenstarke Social-Media-Plattformen wie Facebook oder Twitter verschickt werden. Auf diese fokussieren sich allerdings sowohl das Kommunikationsplattformen-Gesetz als auch der DSA.

Letzterer definiert bestimmte Unternehmen als "sehr große Onlineplattformen". Für sie gelten die meisten der neuen Regulierungen. Um als solche zu gelten, müssen Konzerne einen Plattformdienst mit mehr als 45 Millionen monatlichen Nutzerinnen und Nutzern betreiben. Das können beispielsweise Internetbrowser, soziale Medien, Messenger oder Suchmaschinen sein.

Drehscheibe für Desinformation

Unternehmen wie Facebook reagieren schon jetzt vergleichsweise zuverlässig auf polizeiliche Anfragen. Eine vordergründig anonym auftretende Person wegen eines Hasspostings auszuforschen ist auf der Plattform also durchaus möglich. Als Problemkind zählt hingegen der Messenger Telegram.

Im Laufe der Pandemie hat sich dieser zur Drehscheibe für Desinformation entwickelt, für Behörden sind die Betreiber kaum erreichbar. Ob sich das mit Inkrafttreten des DSA verbessern wird, bleibt abzuwarten. Immerhin gibt es bisher keinen Ansprechpartner innerhalb der Europäischen Union.

Die Grenzen des Rechtsrahmens erreicht man spätestens mit Hassbotschaften, die abseits der größten Plattformen verschickt wurden. So auch im Fall Kellermayr: Die Drohmails wurden über einen E-Mail-Anbieter versandt, der die Identität des Verantwortlichen verschleiert. Selbst wenn die Ermittler die Betreiber des Anonymisierungsdiensts erreichen sollten, ist es unwahrscheinlich, dass dieser sachdienliche Hinweise hat.

Alle Lücken des KoPl-G wird auch das EU-Gesetz nicht stopfen können. Christoph Schmon hofft jedoch, dass der aktuelle Fall eine Debatte darüber anheizen wird, welche Kompetenzen es eigentlich braucht und wie viel Geld man für die Ausbildung in die Hand nehmen müsste. Nur neue Regeln aufzustellen und sie "in ein Gesetz gegen Hass im Netz zu schreiben ist eine politische Lösung, wenn man die Probleme nicht in der Praxis angehen möchte", kritisiert der Experte.

Richtige Richtung

Dass die Rechtslage mit dem Digital Services Act bald harmonisiert werde, sei aber ein erster Schritt in die richtige Richtung. Für internationale Konzerne wie Facebook dürfte es einen Unterschied machen, ob Anfragen aus Österreich stammen oder auf einem EU-Gesetz beruhen – das bei Nichteinhaltung saftigen Strafen vorsieht.

Die österreichischen EU-Abgeordneten scheinen diese Hoffnung zu teilen. Während Tech-Konzerne ihre Marktmacht derzeit ohne Rücksicht auf die Gesellschaft ausnutzen würden, verpflichte der DSA sie dazu, "die Verbreitung von Desinformation und Hass im Netz aktiv zu beenden", heißt es auf STANDARD-Anfrage vonseiten der SPÖ-Delegation im Europäischen Parlament.

Ähnliches hört man auch aus der ÖVP. Laut dem Vizepräsidenten des EU-Parlaments, Othmar Karas, sei das Gesetz "demokratiepolitisch von hoher Bedeutung". Es stelle sicher, dass online verboten werde, was offline illegal sei. Das Gesetz mache die "EU-Regeln fit für die digitale Welt von heute und morgen", sagt zudem EU-Abgeordnete Barbara Thaler (ÖVP).

Neos-Abgeordnete Claudia Gamon lässt hingegen wissen, dass die EU "jetzt die Vorreiterrolle bei der Regulierung von Big Tech und Nutzerschutz" übernehme. Nun sei die Bundesregierung am Zug, die neuen Regeln umzusetzen.

Nationaler Alleingang

Bei der Frage, ob nationale Bemühungen wie jene in Deutschland und Österreich dennoch sinnvoll waren, gehen die Meinungen auseinander. "Ich war sehr skeptisch, was das österreichische Hass-im-Netz-Gesetz angeht. Ich habe mir nicht vorstellen können, dass das international einen großen Beitrag leisten wird", sagt Schmon.

Was in einem Land illegal sei, sei in anderen nicht unbedingt verboten. Laut einer Sprecherin der SPÖ-Delegation im EU-Parlament ist eine einheitliche Lösung allerdings erst "durch nationale Alleingänge in der digitalen Gesetzgebung notwendig geworden". Onlineplattformen müssten sich derzeit an mehrere Regelwerke halten, die sich teils sogar widersprächen. Dabei kenne "der digitale Raum keine Landesgrenzen".

Um Opfer von Hass im Netz künftig besser zu schützen als dies mit Lisa-Maria Kellermayr getan wurde, reicht das neue EU-Gesetz allein nicht aus. Zwar wird ein Großteil gefährlicher Postings über Facebook und Konsorten abgesetzt – fehlt aber die Kompetenz in den zuständigen Behörden und werden Opferschutzvereine nicht ausreichend finanziert, ist es nur eine Frage der Zeit, bis sich die Vergangenheit wiederholen wird. (Mickey Manakas, 28.8.2022)