Allein im Vorjahr betrafen 1.073 der 1.921 Anzeigen wegen der Darstellung sexuellen Missbrauchs von Minderjährigen Personen, die selbst unter 18 Jahre alt sind. Diese Zahl hat sich in den vergangenen Jahren vervielfacht. Das liegt unter anderem am sogenannten Sexting, also dem freiwilligen Versenden von Nacktbildern.

Würden nun alle Messengerdienste dazu verpflichtet, von sich aus nach mutmaßlichem Missbrauchsmaterial zu scannen, dann käme es zu massiv steigenden Fallzahlen. "Wenn das Sexting einvernehmlich passiert, dann ist unsere Befürchtung, dass Jugendliche zu Unrecht kriminalisiert werden", sagte Thomas Graf, Vorstandsmitglied der österreichischen Kinderschutzzentren, im Ö1-"Journal" am Mittwoch. Auch Fotos zur medizinischen Diagnostik oder an Therapeutinnen und Therapeuten könnten betroffen sein, warnt Graf. Wenn breit und anlasslos Nachrichten gescannt werden, könnte das zu einer Vielzahl von Anzeigen wegen des Missbrauchs von Kindern und Jugendlichen führen. "Unverhältnismäßig" nennt Graf die geplante Maßnahme der EU.

Polizei mit der Vielzahl an Meldungen überfordert

Außerdem sei die Polizei in Österreich bei der Vielzahl an Meldungen aus den USA schlicht überfordert. Manche Messengerdienste, etwa der Facebook-Messenger, scannen schon jetzt freiwillig nach Hinweisen auf Missbrauch. Oft geht es bei dem fraglichen Material um den einvernehmlichen Austausch von Bild- und Videomaterial. Das führe dazu, dass die Verfolgung echter Täter gebremst werde und Opfer "ewig in der Luft hängen", so Graf.

Anders sieht man das bei der Arbeitsgemeinschaft zum Schutz der Rechte der Kinder vor sexueller Ausbeutung (ECPAT). Geschäftsführerin Astrid Winkler betont, dass die für die Chatkontrolle eingesetzten Algorithmen sehr wohl in der Lage seien zu erkennen, ob es sich um freiwillig gesendetes Material handelt oder um Erpressung oder Grooming. Grooming bedeutet, dass ein Erwachsener gezielt mit Minderjährigen Kontakt aufnimmt, um sie zu missbrauchen.

Dass KI zuverlässig Grooming oder Erpressung erkennen kann, ist umstritten. Zwar liegt die Genauigkeit derartiger Software bei rund 90 Prozent – was aber immer noch bedeutet, dass sie zu zehn Prozent falsch positive Ergebnisse liefert. Das könnte unschuldige Menschen zu Hunderttausenden strafrechtlicher Verfolgung aussetzen, wie aus einem internen EU-Bericht hervorgeht.

Europäische Kinderschutzorganisationen üben Kritik

Die Europäische Union will mit der geplanten Chatkontrolle der Verbreitung von Darstellungen sexualisierter Gewalt an Kindern Einhalt gebieten. Das geht so weit, dass Messengerdienste wie Whatsapp und Host-Provider auf behördliche Anordnung auf Smartphones von Usern nach Missbrauchsmaterial suchen müssen.

Datenschützer warnen schon seit Monaten, dass die Umsetzung der geplanten Maßnahme eine Unterwanderung von verschlüsselter Kommunikation mit sich bringen würde.

Es sei das erschreckendste Dokument, das er je gesehen habe, meinte etwa Matthew Green, Professor für Kryptografie an der Johns Hopkins University. "Es beschreibt die ausgeklügeltste Massenüberwachungsmaschinerie, die jemals außerhalb Chinas und der UdSSR eingesetzt wurde."

Kinderschutzorganisationen üben schon seit Monaten Kritik, diese kam zuletzt vom deutschen Kinderschutzbund und der Zentral- und Ansprechstelle Cybercrime (ZAC) Nordrhein-Westfalen. "Das anlasslose Scannen privater Kommunikation", sagte etwa Joachim Türk vom Kinderschutzbund, greife nicht nur in die Grundrechte Erwachsener, sondern auch in jene von Kindern und Jugendlichen ein. Es sei ein "wesentlicher Pfeiler von Demokratie und Partizipation", dass Minderjährige in einem Umfeld aufwachsen, "in dem freie Meinungsäußerung und vertrauliche Kommunikation selbstverständlich sind". (pez, 29.3.2023)