Die 25-jährige Marokkanerin Imani (Name geändert) arbeitet in der Moderation des boomenden Social Networks Tiktok. Im Dienste des luxemburgischen Outsourcing-Spezialisten Majorel sichtet sie in ihrer Einzimmerwohnung in Casablanca Inhalte, die automatisch oder von Nutzern als anstößig markiert wurden.

Und dabei stößt sie nicht nur auf Nacktheit, Beschimpfungen und Drohungen. Eines Tages, schildert sie gegenüber "Business Insider", öffnete sie ein Video aus ihrer Moderationsschleife, in dem ein junger Mann eine Katze in die Luft warf, um das Tier anschließend auf einem Schwert aufzuspießen. "Ich liebe Katzen", beschreibt Imani ihre Eindrücke. "Ich konnte mir nie vorstellen, so eine Szene in echt zu sehen. Es ist kein Film. Es ist kein Scherz. Es ist real."

Den Clip hat sie bis heute nicht vergessen. "Ich habe eine Mauer zwischen meinem Job und meinem Leben errichtet", sagt sie. Sie musste sich um ihr Baby kümmern und wollte sich nach ihrer Schicht nicht mehr mit ihrem Beruf befassen, auf den sie bei einer Bezahlung von umgerechnet etwa zwei Euro pro Stunde angewiesen war.

"Man wird langsam krank, ohne es zu bemerken"

In Nordafrika und im Nahen Osten hat Tiktok einen Erfolgslauf. Dem Zustrom an Nutzern und Inhalten begegnet das Netzwerk auch mit einer Erweiterung seines Moderationsteams. Imani ist nur eine von vielen Content-Wächterinnen und Content-Wächtern, die sich häufig mit verstörenden Beiträgen beschäftigen müssen und dabei kaum Hilfe erhalten.

Bei "Business Insider" meldeten sich neun ehemalige und derzeit noch tätige Moderatoren, um von ihren Erfahrungen zu berichten. Alle traten dabei anonym auf, da sie aufgrund der Schweigeverpflichtungen in ihren Arbeitsverträgen sonst nicht frei über das Erlebte sprechen könnten und rechtliche Konsequenzen fürchten müssten.

"Das Teuflische an diesem Job ist, dass man langsam krank wird, ohne es zu bemerken", so Wisam, ein ehemaliger Tiktok-Moderator, der nun andere Mitarbeiter für Majorel ausbildet. Erst mit der Zeit komme man drauf, wie schwer man eigentlich belastet werde. Zuvor arbeitete er in der Moderation von Facebook. Dort gab es zwar mehr problematische Inhalte zu kontrollieren, weil die Plattform mehr User in der Region hatte. Doch er rechnet damit, das mit dem Erfolg von Tiktok auch hier das Problem zunehmen werde. Heuer will das Netzwerk hier seine Nutzerbasis um 30 Prozent vergrößern.

Hoher Arbeitsdruck

Wie andere Plattformen setzt auch Tiktok auf automatisierte Unterstützung der Moderation durch künstliche Intelligenz. Doch diese Systeme sind stark auf englischsprachige Inhalte trainiert und funktionieren in anderen Sprachräumen mitunter nur unzuverlässig. Auch das trägt dazu bei, dass viele verstörende Videos letztlich von Menschen gesichtet werden. Ökonomischer Druck, fehlende Perspektiven auf eine andere Arbeit führen auch dazu, dass immer wieder Personen in den Dienst eintreten, die bereits in der Einführungszeit Schwierigkeiten hatten.

Damit einher geht auch hoher Arbeitsdruck. Eine 23-jährige Moderatorin namens Samira berichtet von einem Pilotprogramm zur Kontrolle von Tiktok-Livepostings. Ursprünglich sollte sie 200 Videos pro Stunde überprüfen und einordnen. Drei Monate später erhöhte ihr Teamleiter die Vorgaben derart, dass ihr pro Clip nur noch zehn Sekunden blieben. "Das Management hat uns nicht als Menschen betrachtet, sondern als Roboter", sagt sie. Auch sechs der anderen Whistleblower bestätigen, dass die Vorgaben oft kaum zu erreichen waren. Wer es nicht schaffte, wurde zurechtgewiesen und fiel um eine Bonuszahlung von rund 50 Euro um – was in Marokko eine beträchtliche Summe ist.

Klagen gibt es auch über zu wenige Pausen, willkürliche Dienstplanänderungen und zwölf Stunden lange Arbeitseinsätze bis in die Nacht. Mitunter sei auch nicht auf religiöse Bedürfnisse – etwa Essenspausen außerhalb der Fastenzeiten während des Ramadan – Rücksicht genommen worden.

Hilfsangebote offenbar unzureichend

Auch Samira sah während ihrer Zeit bei Tiktok Videos gewalttätiger Natur. Etwa eine Gruppe Teenager, die einen Senioren mit einer Axt verletzt, oder ein Mann, der Suizid mit einem Jagdgewehr begeht. Weil das Moderationssystem vorsieht, dass Videos mit präzisen Tags zum Inhalt versehen werden, waren die Moderatoren auch angehalten, sie in voller Länge zu konsumieren.

Tiktok erklärte gegenüber "Business Insider" zu den Vorwürfen, dass man mit den Partnerfirmen zusammenarbeite, um die Mitarbeiter zu unterstützen. Majorel erläuterte, dass es verschiedene Werkzeuge gibt, um die Darstellung verstörender Inhalte zu mildern – beispielsweise mittels Darstellung in Grautönen statt Farbe. Sämtliche befragten Mitarbeiter und Ex-Mitarbeiter bestritten jedoch, so etwas zur Verfügung gehabt zu haben.

Die Firma spricht auch von Betreuern, die den Bediensteten zur Verfügung stünden, ebenso von zusätzlich möglichen Sitzungen mit Psychologen für jene, die sich mit besonders heiklen Inhalten beschäftigen mussten. Wie viele solche Sitzungen den Betroffenen gewährt werden, verriet man nicht.

Weitere Mitarbeiter berichteten, dass die monatlichen Treffen mit den Betreuern nicht genug gewesen seien, um mit dem Druck durch ihre Arbeit umzugehen. Manche gaben auch an, dass sie fürchteten, dass die Betreuer vertrauliche Gesprächsinhalte an die Personalabteilung weitergeben würden. Laut Majorel gäbe es auch das Angebot, dass das Unternehmen psychologische Betreuung außerhalb des Unternehmens bezahlt. Vier der Moderatoren gaben an, dass ihnen Derartiges nie angeboten worden war. Psychologische Dienste auf eigene Faust in Anspruch zu nehmen ist für sie hingegen kaum möglich, da Therapeuten teuer sind und in der Regel bereits eine lange Warteliste haben.

Erschwerend kommt hinzu, dass die Moderatoren auch Angst davor haben, öffentlich über ihre Erfahrungen mit Majorel zu sprechen. Das Unternehmen gehört zum Teil der Investmentfirma von Moulay Hafid Elalamy. Er war einst marokkanischer Handelsminister, gehört zu den Beratern des autoritären Königs und ist eine der reichsten Personen Afrikas. Diese politischen Verbindungen bedeuten, dass eine Klage gegen Majorel wahrscheinlich aussichtslos wäre.

Erleichterung

Für Samira hat sich seit ihrem Abschied aus der Tiktok-Moderation vieles zum Positiven geändert. Sie lebt nun in der Küstenstadt Agadir und arbeitet als Englischlehrerin. Damit verdient sie das Doppelte. Zudem habe sie gelernt, höhere Standards bei der Wahl des Arbeitgebers zu setzen.

Dennoch verfolgen sie ihre Erfahrungen immer noch, weswegen sie sich nach psychotherapeutischen Angeboten umsieht. "Ich habe mein Verlangen, Kinder zu bekommen, verloren", sagt sie. "Ich fürchte mich davor, dass mein Kind (…) eines Tages so etwas ansehen könnte." (gpi, 2.8.22)