Im Kino: "The Cleaners"

Die Dokumentation "The Cleaners - Im Schatten der Netzwelt" der Regisseure Hans Block und Moritz Riesewieck dreht sich um einen wenig bekannten Industriezweig: Auf den Philippinen betrachten, bewerten und löschen zehntausende junge Menschen kritische Inhalte auf Facebook, Twitter und Co. - und kämpfen mit den Folgen. Der Film feierte Anfang Mai 2018 Deutschland-Premiere beim Internationalen Dokumentarfilmfestival in München und kommt nun (17. Mai) in die deutschen Kinos. 

Deutsche Welle: Ihr Film heißt "The Cleaners". Was wird denn da eigentlich gesäubert?

Hans Block: Es geht um eine gigantische, versteckte Schattenindustrie auf den Philippinen, in Manila, wo Tausende junge Leute täglich vor den Monitoren sitzen und all das aussortieren in den sozialen Netzwerken, die wir täglich nutzen, was wir nicht sehen sollen oder was wir nicht sehen dürfen. Das heißt in erster Linie, Sachen wie Kindesmissbrauch, Terrorismus, Gewalt, Hass. All die Dinge, die auch durch die sozialen Medien schwappen. Gleichzeitig aber auch Inhalte, bei denen es kritisch wird darüber zu entscheiden, ob sie im Netz auftauchen dürfen, politische Inhalte beispielsweise.

Mit diesen Leuten sind wir während des Filmemachens in Kontakt getreten. Wir haben sie in den Mittelpunkt unseres Films gestellt. Gleichzeitig haben wir auch überprüft, was diese Arbeit, die "Content Moderation" heißt, für Auswirkungen auf die Welt hat. Wir haben Fälle von Zensur in unserem Film, von Leuten, die berichten, dass sie in den sozialen Medien zensiert wurden. Und wir überprüfen, welche Auswirkungen heutzutage die großen digitalen Unternehmen wie Facebook und Google auf unsere Gesellschaft haben.

Das ist natürlich ein globales Geschäft. Insofern ist es egal, wo so etwas passiert. Aber man fragt sich natürlich, warum ausgerechnet auf den Philippinen?

Moritz Riesewieck: Das haben wir uns auch gefragt und sind bei der Recherche auf einige Promotion-Videos der ortsansässigen Outsourcing-Unternehmen gestoßen. Die werben damit, dass die Arbeitskräfte dort angeblich besonders gut unsere Werte einschätzen können und sehr gut nachvollziehen können, was westliche User sehen wollen und was nicht - als Folge von 300 Jahren Kolonisation durch die Spanier und noch fast einhundert Jahre durch die Amerikaner. Das heißt, die Firmen dort machen eine Art Standortvorteil daraus, dass die Menschen jahrhundertelang kolonisiert wurden!

Wir haben uns gefragt: Um was geht's denn da? Was hat das für Auswirkungen auf die Menschen gehabt? Wir haben festgestellt, dass über 90 Prozent der Menschen auf den Philippinen Christen sind - teilweise auch ziemlich strenggläubige Christen. Für die Arbeiter in diesem Job ist es dann auch oft tatsächlich eine Art christliche Mission zu sagen: Wir machen das eigentlich wie Jesus und nehmen die Sünden der Welt auf uns und sorgen dafür, dass die verschwinden, nehmen dafür sogar in Kauf, dass wir zwar nicht unseren Körper, aber unser Seelenheil opfern.

Man kann aber auch vermuten, dass das etwas mit Geld zu tun hat, dass die Arbeit wahrscheinlich aus westlicher Sicht schlecht bezahlt ist.

Moritz Riesewieck: Genau, das sind erst mal ganz grundsätzliche Dinge. Aber man hätte ja auch noch Standorte wie Indien oder Pakistan wählen können. Der Stundenlohn liegt zwischen einem und drei Dollar. Das ist für philippinische Verhältnisse keine Mittelklasse mehr, es ist ziemlich lau. Sie können damit aber ihre Familien, die auf dem Land leben, teilweise mitfinanzieren. Was natürlich einen Anreiz darstellt. Aber es wird dann zum Problem, wenn jemand sagt, dass er diesen Job eigentlich nicht mehr machen kann, weil er einen fertig macht. Die bleiben trotzdem in dem Job, weil sie sich sagen, ich muss mich aufopfern, das machen ja alle hier auf ihre Weise. Was ist das schon gegen die Belastung, die viele andere Menschen hier auf sich nehmen, um ihre Familien durchzubringen?

Es geht um Facebook, Youtube, Twitter, die sozialen Netzwerke, die jedermann kennt. Von welcher Größenordnung sprechen wir hier? Wieviele Menschen sind auf den Philippinen damit beschäftigt?

Hans Block: Die Industrie ist riesig, aber sie ist gleichzeitig auch sehr verschlossen. Deswegen ist es schwierig eine genaue Zahl zu nennen. Die Unternehmen selbst sagen dazu nichts. Man kommt gar nicht an sie ran. Während der Recherche haben wir tausendfach versucht die Outsourcing-Unternehmen, aber auch Facebook, Google oder Twitter zu befragen, wie viele Leute sie als "Content Moderatoren" beschäftigen.

Experten auf dem Gebiet schätzen die Zahl auf über 10.000 allein auf den Philippinen. Es ist wirklich eine riesige Menge. In einem öffentlichen Hearing hat Facebook vor kurzem gesagt, dass sie 10.000 Mitarbeiter beschäftigen und die Zahl verdoppeln wollen auf 20.000. Wobei bei dieser Zahl noch gar nicht einmal klar ist, ob das nur die Leute sind, die tatsächlich einen Vertrag mit Facebook unterschrieben haben. Und ob sie die Leute gar nicht mitzählen, die ein Vertrag bei einem Outsourcing-Unternehmen unterschrieben haben, die also gar nicht offiziell für Facebook arbeiten. Die Zahlen gehen also bis in die 100.000.

Moritz Riesewieck: Die Unternehmen tun alles, um diese Arbeit geheim zu halten. Sie geben dem Job andere Namen. Die sprechen von "Community-Operation-Analysts" oder "Data-Analysts". Selbst die Menschen, die sich um den Job bewerben, wissen größtenteils gar nicht, wofür sie sich bewerben und kriegen das dann erst im Training mit. Sie haben drei- bis fünftägige Qualifizierungskurse, um "Content Moderator" zu werden.

Jetzt könnte man ja sagen, das ist doch eine prima Sache, da wird alles, was mit Gewalt, mit Sexualität usw. zu tun hat, gelöscht. Aber Sie beschreiben auch eindrucksvoll Fälle, bei denen die Grenzen nicht so klar sind, etwa wenn es um Satire geht. War das auch ein Anliegen Ihres Films, auf diese Grenzfälle hinzuweisen?

Hans Block: Natürlich brauchen wir eine Art von Filterung oder Moderation der sozialen Netzwerke. Wir wollen wirklich nicht alles sehen, zu was der Mensch fähig ist, was er jeden Tag hochlädt. Dennoch muss man sich bewusst machen, dass die Arbeit, die diese jungen Philippinos dort leisten, eine extrem wichtige, gesellschaftliche Arbeit ist. Es ist sehr schwer zu unterscheiden, ob ein Video gewaltverherrlichend ist oder ob es zum Beispiel Gewalt dokumentiert.

Wir haben ein Beispiel im Film: Eine Nichtregierungsorganisation, die sich darum kümmert all die Handy-Videos von Syrern aufzulisten, die das Kriegsgeschehen dokumentieren. Die dokumentieren das Kriegsgeschehen, um herauszufinden, wo Zivilisten getötet werden. Dafür bietet Facebook natürlich auch eine Plattform. Wenn nun solche Videos rausgenommen werden, weil sie von "Content Moderatoren" als zu gewalttätig angesehen werden, dann werden ganz wichtige Fakten einfach gelöscht.

Moritz Riesewieck: Es ist extrem wichtig zu wissen, wer dort sitzt und wer die Richtlinien auslegt. Die Unternehmen versuchen durch die Community-Standards und in den wenigen Pressemitteilungen, die es gibt, uns weiszumachen, dass das objektive Richtlinien seien, die dann nur noch exekutiert werden müssen. Das ist es beileibe nicht! Deshalb wird es auch in absehbarer Zeit nicht möglich sein, dass auf artifizielle Intelligenz auszulagern.

In ganz vielen Fällen mussten die Kontrolleure, wie sie uns berichtet haben, tatsächlich Entscheidungen aus dem Bauch heraus treffen, über Dinge, die eigentlich Redakteurinnen und Redakteure in oft stundenlang Sitzungen treffen müssten. Weil es eben ganz oft völlig unklar ist, ob man beispielsweise das Persönlichkeitsrecht vorne anstellt oder den Nachrichtenwert, wie etwas gemeint ist, hoch genug einschätzt, wie man den Faktor Ironie bei einer Veröffentlichung einschätzt. Da ist natürlich viel kulturelles Hintergrundwissen und eine Kontextualisierung nötig. All das kann in wenigen Sekunden von jungen College-Absolventen auf den Philippinen natürlich nicht eingeschätzt werden.

Sie gehen in Ihrem Film auch darauf ein, was das persönlich für die einzelnen Menschen, die sich tagtäglich damit beschäftigen, bedeutet. Das hat ja gewaltige psychologische Auswirkungen.

Moritz Riesewieck: Ganz genau! Diese Arbeit hinterlässt natürlich Spuren bei den Arbeiterinnen und Arbeitern. Wenn man sich acht bis zehn Stunden vollballern lassen muss mit all den Grausamkeiten, die die Welt produziert, dann hat das Folgen. Diese Folgen sind sehr unterschiedlich zu messen bei den einzelnen Arbeitern. Einige der Protagonisten haben uns erzählt, dass sie sich nicht mehr in Menschenmassen trauen, weil sie täglich Videos mit terroristischen Inhalten und Anschläge anschauen. Andere erzählen von Libido-Verlust.

Es kommt aber auch zu den schlimmsten vorstellbaren Folgen, dem Suizid. Die Suizidrate ist sehr groß. Warum ist das so? Die Arbeiterinnen und Arbeiter unterschreiben Verträge, die ihnen vorschreiben, dass man über diese Arbeit nicht reden darf. Wenn man mit Psychologen über Traumatisierungen redet, dann ist der erste wichtige Punkt, dass man diese Traumatisierungen artikuliert, dass man mit Leuten darüber spricht, um sie zu verarbeiten, um sie einschätzen zu können. Und das wird ihnen per Vertrag verboten. 

Das Gespräch führte Jochen Kürten.