Ein Video eines Suizids sorgt derzeit für Hochbetrieb in den Moderationsabteilungen sozialer Netzwerke und bei Eltern. Der Clip, der einen 33-jährigen US-Amerikaner dabei zeigt, wie er sich selbst erschießt, tauchte vor einigen Tagen bei Tiktok auf, erreichte kurzfristig virale Verbreitung und wurde auch auf andere Plattformen wie Instagram, Facebook und Reddit gespült. Die Betreiber kämpfen seitdem darum, den Clip wieder loszuwerden.

Schulen warnen

Sie sind dabei nicht alleine. Schon bald nach Bekanntwerden informierte etwa das Unternehmen Safe on Social darüber und empfahl, das Video zu ignorieren, wenn es auftauchen sollte. Auf diesem Wege erspare man sich nicht nur den verstörenden Inhalt, sondern "ermuntere" die Algorithmen auch nicht dazu, es noch mehr Nutzern in ihre Timelines und Feeds zu spülen. Auch Schulen in verschiedenen Ländern warnten explizit vor dem Clip und riefen Eltern auf, mit ihren Kindern über die Aufnahme zu reden, so sie sie bereits gesehen haben oder gegebenenfalls professionelle Hilfe zu suchen.

Die Empfehlungsalgorithmen von Tiktok waren es, die das Video ursprünglich einem großen Publikum zugänglich gemacht haben. Mittlerweile habe man diese aber so konfiguriert, dass sie es in den meisten Fällen automatisch erkennen und sperren.

Trolle verbreiten Version mit Welpen und Kätzchen

Notwendig geworden ist dies auch, weil nach der Entfernung der ursprünglichen Aufnahme zahlreiche Nutzer damit begonnen haben, sie neu hochzuladen, wofür Tiktok nun Accountsperren verhängt. Einige Trolle sind jedoch dazu übergegangen, manipulierte und somit schwerer automatisch zu identifizierende Versionen ins Netz zu stellen. Eine zeigt in den ersten Momenten und am Vorschaubild Kätzchen und Hundewelpen, was potenziell vermehrt Kinder dazu bringen könnte, mit dem gefilmten Suizid konfrontiert zu werden.

Nicht nur die Netzwerke selbst, sondern auch viele Nutzer versuchen, dem etwas entgegen zu setzen. Sie posten Hinweise und ausdrückliche Warnungen. Manche Eltern berichten auch von ihren Kindern, die auf das Video gestoßen sind und welche Auswirkungen dies auf sie hatte.

Der Fall zeigt einmal mehr die Gefahren von Empfehlungsalgorithmen auf. Diese bieten zwar viele Vorteile, können aber auch verstörende Inhalte massenhaft an Nutzer ausspielen, wenn diese anfänglich oft angeklickt werden. Sie tragen außerdem zur Entstehung sogenannter "Filterbubbles" bei, etwa wenn sie basierend auf angesehen Inhalten und konsumierten Medien immer ähnlichere und somit einseitigere Beiträge auf ihren Startseiten angezeigt bekommen. (gpi, 8.9.2020)