Apple, Samsung und andere Tech-Firmen schauen gespannt in Richtung USA. Dort wird in acht Staaten an Anti-Pornografie-Gesetzesentwürfen gearbeitet, mit denen die Hersteller dazu gezwungen werden sollen, mit automatisch aktivierten Filtern Nacktheit und sexuelle Inhalte auf Bildern und in Videos auszublenden. Dies wirft mehrere Fragen und Datenschutzbedenken auf.

Filter aktivieren

Den Organisatorinnen hinter den Bestrebungen geht es darum, Kindern den Download von sexuellen Inhalten zu verbieten beziehungsweise solche eventuell problematischen Inhalte nicht unverpixelt anzeigen zu lassen. Bereits jetzt gibt es von manchen Herstellern genau solche Filter, doch sind diese meist nicht voreingestellt. Meist handelt es sich dabei um Filter für Web-Browser, der das Aufrufen von für Kinder ungeeigneten Websites vermeiden soll.

In den letzten Jahren haben zudem einige Hersteller, darunter Apple, KI-gestützte Filter ergänzt, die auch in einzelnen Apps solche sexuellen Inhalte ausblenden können. Dazu werden die Nachrichten in der Chat-App nach Nacktheit gescannt, und von der KI werden verdächtige Inhalte verpixelt.

2021 gab es im Bundesstaat Utah bereits einen solchen Gesetzesentwurf, der die automatische Aktivierung solcher Filter vorgesehen hätte und von den zuständigen Behörden auch durchgewinkt wurde. Er konnte allerdings nicht umgesetzt werden, da es in den USA weiterer fünf Staaten mit ähnlichen Entwürfen bedarf, um den Staat vor isolierenden Sanktionen der Tech-Firmen zu schützen. Jetzt wird in weiteren acht Staaten an solchen Entwürfen gearbeitet, was die reale Umsetzung in greifbare Nähe rückt.

Rechtliche Folgen

Würden die Entwürfe in Gesetze umgewandelt, würden Hersteller wie Apple zu Geldstrafen verurteilt, sofern sie die Filter nicht voreingestellt aktiviert hätten. Die genaue Definition, wie diese Filter auszusehen haben, wird allerdings in bisherigen Entwürfen nicht weiter beschrieben. Es wird lediglich von "Industriestandards" gesprochen, die ebenfalls nicht definiert werden.

Auch andere Fragen werden bisher nicht beantwortet. Die voreingestellten Filter sollen nämlich nicht einfach deaktivierbar sein, dies soll nur durch die Eingabe eines Passwortes möglich sein. Die Weitergabe eines solchen Passworts an Kinder sei nur durch die Eltern erlaubt. So will es etwa der Gesetzesentwurf in Montana. Deshalb spricht man von einer verpflichtenden Altersprüfung durch die Hersteller, um mögliche Gerichtsprozesse zu vermeiden. Würde der Hersteller "wissentlich oder unvorsichtigerweise" ein solches Passwort an Minderjährige direkt vermitteln, würde das ein grober Verstoß gegen das Gesetz sein.

Datenschutz

Gegenüber NBC lässt deshalb ein Datenschützer wissen, dass solche Formulierungen bedenklich seien, vor allem in Bezug auf Privatsphäre und Datenschutz. Es würde nämlich bedeuten, dass die Hersteller Altersdaten ihrer Nutzerinnen und Nutzern sammeln müssen, beispielsweise über Behördendaten. "Es gibt keine Einschränkungen, wie diese Daten dann auch für andere Zwecke verwendet werden können", gibt der Datenschützer zu bedenken. Außerdem sei die aktuelle Technologie noch weit weg davon, perfekt zu sein.

Solche Filter könnten nicht zwischen Nacktheit sexueller oder künstlerischer Natur unterscheiden. Damit würden viele Bilder und andere Materialien aufgegriffen werden, die eigentlich nicht in das Gesetz fallen. Filter sollten deshalb einer laufenden Überarbeitung unterzogen werden und immer noch von den Eltern direkt ein- oder ausgeschaltet werden können. (red, 22.3.2023)