Anja: Ihr seid also jahrelang an dem Thema drangeblieben.

Moritz Riesewieck: Ja. Wir haben da ein echte Herausforderung angenommen. Wie macht man etwas sichtbar, dass absichtlich total unsichtbar gestaltet ist? Unser Label heißt nicht umsonst Laokoon. Das war in Troja der Seher, der das trojanische Pferd als etwas sichtbar gemacht hat was damals keiner angenommen hat – nämlich das es kein Geschenk ist, sondern eigentlich ein gefährlicher Trug. Einem ähnlichen Prinzip folgen wir in unserem Film. Was ist Social Media hinter dem, was wir alle sehen? Wie kann man transportieren, was da in Manila passiert? Wie kann man das fassen? Wie kann man die Komplexität der Entscheidungen fassen? Wie kann man fassen, dass etwas was in Manila entschieden wird, gravierende Auswirkungen auf Menschenleben hat? Wir wollten auch zeigen, dass da Menschen dahinter stecken, Menschen die über Drittanbieter für Facebook, Google und Twitter arbeiten und Entscheidungen darüber treffen, was wir sehen können. Wir wollten Menschen hinter den Klicks zeigen, diesen Menschen nahe kommen,  die Menschen in ihrer Widersprüchlichkeit und ihrer Prägung zeigen – das war die Zielsetzung.

Anja: Wie seid ihr denn an die rangekommen? An die Moderatoren selber?

Hans: Das war ein ganz langwieriger Prozess. Wir haben von Berlin aus angefangen, uns durch einen Dschungel von Outsourcing-Unternehmen zu kämpfen. Es gibt nicht nur eine Firma sondern Hunderte. All diese Unternehmen tragen Namen, die man noch nie gehört hat und ihre Jobs, wie “Community Operations Analyst” oder “Data Analyst”, klingen alle ganz wunderbar. Aber im Grunde beschreiben sie nicht den dreckigsten Jobs des Internets.

Als wir dann hingereist sind, haben wir rausgefunden, dass in dieser Industrie Codewörter benutzt werden. Also es heißt dann nicht: “Ich arbeite für Facebook”, denn das dürfen die Mitarbeiter gar nicht sagen, das ist per Vertrag ausgeschlossen und verboten. Sondern sie sagen dann im Falle von Facebook: „Wir arbeiten fürs ‚Honey Badger Project’. Wir wussten dann also, alle, die fürs ‚Honey Badger Project’ arbeiten, arbeiten eigentlich für Facebook.

Da ist eine riesige Maschinerie von Druck und Verängstigung, die da täglich auf die Mitarbeiter einprasselt.

Für uns war also klar, dass wir von unserer Seite den Druck rausnehmen müssen. Wir haben versucht, erstmal eine ganz menschliche Beziehung zu den Leuten aufzubauen. Teilweise haben wir lange Zeit gar nicht über die Arbeit geredet – bis man an den Punkt kam, darüber reden zu können und das Vertrauen da war.

Ein weiterer Grund warum einige sich dann doch entschieden haben mit uns zu reden, war der, dass sie selbst sehr stolz sind, auf das was sie da täglich leisten. Das haben wir vorher gar nicht erwartet. Wir haben eher damit gerechnet auf traumatisierte Arbeiter zu treffen, die Hilfe benötigen. Das Gegenteil war aber der Fall: Die Leute waren sehr stolz und wollten darüber reden, was sie machen. O-Ton der Content Moderatoren war oft: „Stell dir mal vor wir würden einen Tag nicht arbeiten, wie das Internet dann aussähe – ohne uns. Du würdest es nicht glauben!“

Anja: Habt ihr auch mit der anderen Seite gesprochen. Mit den Auftraggebern? Seid ihr an Facebook und Co. herangetreten?

Moritz: Immer wieder, aber es gab keine Reaktionen. Gar nicht. Wir haben mit etablierten Journalisten kollaboriert, wir haben es selbst auf verschiedenen Wegen probiert, auf verschiedenen Levels angefragt von Monika Bickert bis zur Deutschen Head of Public Policy von Facebook Eva-Maria Kirschsieper. Wir haben es eben auch über die Presseleute und Pressevertreter der jeweiligen Firmen probiert. Nicht nur von Facebook, sondern auch von YouTube, Twitter und so weiter. Keine Reaktion. Wir haben den Unternehmen sogar den den fertigen Film zukommen lassen, noch bevor er auf dem Sundance lief. Ich weiß nicht ob der jetzt immer noch dort im Briefkasten liegt. Ich glaube, sie folgen der Idee das man sich wegducken kann und das konnten sie die letzten 10 Jahre auch ganz gut.

Anja: Aber das Thema ist viel zu präsent, als das der ungesehen bleibt, oder?!

Moritz: Das hoffen wir. Uns geht es ja nicht darum, die Firmen schlecht zu machen, oder sie zu verdammen oder zu dämonisieren, sondern es geht darum das sie begreifen müssen, dass Social Media zur digitale Öffentlichkeit geworden ist, und dementsprechend auch die Mitglieder dieser neuen weltumspannenden Öffentlichkeit in alle Prozesse eingebunden werden müssen und nicht wie passive User behandelt werden dürfen.

Anja: Habt ihr euch auch über rechtliche Folgen Gedanken gemacht? Kam da schon was?

Hans: Bis jetzt zum Glück nicht. Wir sind auch nicht unvorbereitet an die Sache rangegangen. Wir haben uns vorher Strategien überlegt: Was könnte passieren und das durchgespielt. Deswegen haben wir zum Beispiel auch die DVD vorher an die Unternehmen gesendet mit der Bitte um Stellungnahme, um einer einstweiligen Verfügung entgegenzuwirken. Wir sind da schon sehr sehr vorsichtig, aber tatsächlich bis jetzt noch nichts passiert. Zum Glück.

Moritz: Wir sind auch mit den Content Moderatoren, die im Film sichtbar werden täglich im Kontakt. Uns war von Anfang wichtig, dass die Moderatoren in gewisser Weise zu Co-Autoren des Films werden. Und wir haben ihnen schon während des Dreh immer die Aufnahmen gezeigt. In ein paar Tagen fahren wir nochmal nach Manila, um den Protagonisten die Möglichkeit zu geben, den Film mit Freunden und Bekannten zu sehen. Das ist uns sehr wichtig. Es freut uns sehr, dass die Protagonisten sehr stolz sind, auf dass was wir da alle gemeinsam geschaffen haben.

Anja: Hattet ihr das Gefühl dass euer Interesse an dem Thema bei den Moderatoren ein anderes Denken angeregt hat?

Hans: Naja, letztlich sind sie schon größtenteils überzeugt davon, dass ihre Arbeit alternativlos ist. Dadurch, dass die Content Moderatoren die ganze Zeit mit dem menschlichen Giftmüll konfrontiert sind, entsteht bei ihnen natürlicherweise das Gefühl: ‚Wenn ich diesen Job nicht mache, was dann?’ Denn dann prasselt all das ungefiltert auf alle Nutzer ein. Auch auf Kinder, Jugendliche, einfach auf alle. Ich verstehe schon, dass sie die Notwendigkeit ihrer Jobs besonders deutlich wahrnehmen. Ein Gefühl dafür zu entwickeln, dass der Job auch problematisch sein kann, im Sinne von Zensur, stellt sich nur sehr schwer ein, wenn man diesen Job so abgeschottet von der Welt macht.

Es gibt auch ein strukturelles Problem. Die Content Moderatoren werden vollkommen in eine Blase gepackt – das wird ganz bewusst so gemacht. Ihre Arbeit findet an einem Ort statt, der richtig abgeschottet wird. Klar, das kann über Outsourcing Firmen ganz gut gelingen. Dann sitzt du da, als Content Moderator, auf der zwanzigsten Etage eines riesigen Gebäudes, hoch über der Stadt. Als Content Moderator kommst du nie in Kontakt mit den Usern, die es betrifft. Sie hören höchstens Mal einen weit entfernten Hall, wenn sich irgendwo ein Skandälchen auftut – weil sich User beschweren.

Anja: Also sind diese Jobs gerade so strukturiert und aufgebaut, das das Gefühl der Erhabenheit und des Stolzes unweigerlich Teil des Ganzen wird?

Hans: Ja, genau. Und das wird ganz bewusst so gemacht, um die Motivation oben zu halten. Es gibt sogar Fälle, da bekommen die Content Moderatoren noch mal ein ganz neues Level von Heldentum übergestülpt. Bei Kindesmissbrauchsfällen kollaborieren diese Outsourcing-Firmen mit einer Stelle in den USA, bei der die IP Adressen und sonstige privaten Informationen desjenigen, der so ein Video hochgeladen hat, ausgewertet und dann weitergeleitet werden an die entsprechenden Polizeibehörden. Wenn dabei ein Straftäter gefasst wird, bekommen die Content Moderatoren eine Meldung, dass sie dazu beigetragen haben, eine Straftat aufzuklären und das sie echte Polizeiarbeit machen.

Anja: Sind die Content Moderatoren in bestimmte Bereiche aufgeilt oder bekommen alle immer alles zu sehen?

Hans: Du kannst als Content Moderator  alle Inhalte bekommen, die möglich sind. Von Terror über Kindesmissbrauch aber eben auch ein Blumenbild, weil es fälschlicherweise geflaggt wurde. Rein theoretisch haben die Moderatoren die Möglichkeit, Inhalte weiterzuleiten, falls sie sich nicht sicher sind oder ähnliches. Aber diese Möglichkeit bleibt meistens nur Theorie. Denn Weiterleiten heißt auch einen schlechten Job zu machen. Und davor haben viele Angst. Man entscheidet sich lieber für „Delete“ oder „Ignore“, auch wenn man eigentlich nicht wirklich sicher ist.

Moritz: Wir haben uns diese Frage auch gestellt: Welche Inhalte verwaltet wer? Wie lange muss man dabei sein, um Terrorfälle zu bearbeiten oder Kindesmissbrauch? Wird da ein bestimmter Erfahrungswert vorausgesetzt? Was wir aber erfahren haben ist eher, dass diese Entscheidung relativ willkürlich von den Vorarbeitern getroffen werden. Manchmal heißt das eben auch, dass ein absoluter Anfänger gleich mit den schweren Geschützen konfrontiert wird.

Anja: Es klingt so ein bisschen, als gäbe es in Manila eine Realitätsmaschine. Einen Ort, an dem Realität gebaut wird. Welchen Anteil hat eurer Meinung nach Social Media an einer globalen Realitätsbildung? Sind wir nur noch, was Social Media mit uns macht?

Moritz: In meinem Buch vergleiche ich Social Media mit einem Walled Garden, zu dem Facebook & Co. geworden sind. Das Internet, das ja mal als emanzipatorisches Projekt begonnen hat, ist mittlerweile aufgeteilt zwischen ein paar wenigen Großunternehmen, die diese Plattformen bereitstellen. Und diese Großunternehmen tun alles dafür, um sämtliche Inhalte und Services einzubetten, die man sich als Nutzer nur wünschen kann. Warum? So wird eine perfekte Utopie, eine Blase geschaffen, in dem der Nutzer alles hat und sich nicht mehr weiterbewegen muss. So verlieren die Nutzer irgendwann das Gefühl, sich in einem privatwirtschaftlichen Rahmen zu bewegen mit eigenen Hausregeln. Vielmehr etabliert sich ein Gefühl, dass Social Media Plattformen das Internet sind, eine Landschaft, in der alles stattfindet und man nichts außerhalb dessen braucht.

Anja: Und diese Landschaft hat sich extrem weit ausgebreitet.

Moritz: Genau. Wir vergessen dabei aber, dass das eine künstlich angelegte Landschaft ist, ein kuratierter Garten. Was dort nicht „angepflanzt wird“ also nicht vorhanden ist (an Meinungen, Eindrücken, Nachrichten) ist dann eben auch für alle, die sich ausschließlich in dieser Landschaft bewegen, nicht existent! Also für Milliarden von Menschen. Und was dort nicht existent ist, wird entweder nicht als gesellschaftliches Problem oder als gleichberechtigter Teilnehmer der Gesellschaft wahrgenommen. Es fehlt Realität.

Anja: Und was in diesen Landschaften, bzw. auf Social Media Plattformen real – also sichtbar ist, wird von den Menschen entschieden, die zwischen „Delete“ und Ignore“ entscheiden?

Moritz: Na klar. Und davon, wie diese Menschen geschult wurden oder welche Checklisten sie haben. Das Problem ist, dass die Frage danach, was auf den sozialen Medien vorkommen darf und was draußen bleiben muss, nicht nach Aufklärungsprinzipien entschieden wird – sondern nach Profitinteressen. Diese Plattformen sind es ihren Anteilseignern schuldig, den größtmöglichen Profit zu erzielen. In dem Moment, in dem Zuckerberg erlaubt hat, dass Facebook monetarisiert wird, hat er den Pakt mit dem Teufel unterschrieben. Jetzt entscheidet Profit und nichts Anderes. Da müssen wir jetzt aber als Gesellschaft STOPP schreien und uns sagen, es ist höchste Eisenbahn, das Ding zurückzuholen. Social Media ist die digitale Öffentlichkeit und wir können nicht akzeptieren, dass diese digitale Öffentlichkeit nach Profitinteressen organisiert wird und uns alles vorenthalten wird, was nicht unter diesen Profitinteressen zu fassen ist.

Anja: Was bedeutet das? Wie zeigt sich denn diese extreme Profitorientierung auf den Plattformen?

Hans: Man kann das an der Architektur dieser Plattformen besonders gut erkennen: Social Media Plattformen sind darauf ausgerichtet, dass alles was extrem ist, besonders gut funktioniert. Je kürzer, prägnanter , aufmerksamkeitserhaschender du auf den sozialen Medien bist, desto mehr Likes und Shares wirst du haben. Und diese Likes und Shares können wiederum von Unternehmen in Werbegelder umgewandelt werden. Das bedeutet Gewinn. Deswegen fördern sie auch solche Sachen.

Anja: Könnt ihr uns ein Beispiel nennen, wo das ganz besonders deutlich wird?

Moritz: An Myanmar sieht man, wohin so ein Businessmodell führen kann. Da wurden Falschinformationen, Hetze gegen Leute – also all diese extremen Sachen, die existieren, auf den Plattformen gelassen, weil sie dort für profitablen Traffic sorgen. Das führt dann dazu, dass eine ganze Minderheit wie die Rohingya verdrängt wird. Das sind wirklich reale Konsequenzen. Da wurden Leute tot geschlagen, und all das durch die Realitätsbildung auf Facebook. In Myanmar gibt es tatsächlich keine Alternative mehr außer Facebook. Facebook ist das Internet. Man hat ihnen Facebook da zur Verfügung gestellt, sie können das frei nutzen, zahlen nichts für diesen Dienst und glauben, es ist die einzige Welt, in der man sich informieren kann.

Hans: Wenn Zuckerberg oder all die anderen von diesen Unternehmen sagen, sie würden mit ihren Diensten lediglich neutrale Plattformen oder Tools bereitstellen und jeder einzelne würde unabhängig entscheiden, wie damit umgegangen wird, ist das schlichtweg falsch! Die Plattformen sind per Design so konstruiert, dass sie alles Extreme belohnen und Aufmerksamkeit generieren. Ich glaube, uns als Gesellschaft fehlt noch viel zu sehr das Bewusstsein dafür, was da eigentlich von statten geht. Wir als User könnten auch etwas Anderes fordern – ein anderes Businessmodell. Eines, das Verständnis fördernd ist, was verbindend ist, was nicht trennend ist. Gäbe es ja alles.

Moritz: Die Plattformen sind auch darauf angelegt, uns dauernd dazu aufzurufen, eine Meinung zu haben- zu allem. “What’s on your mind” steht ja immer oben. Du wirst dadurch angetriggert und lernst, was funktioniert. Hier zieht die eingebaute Verhaltensökonomie. Die Nutzer lernen etwas zu produzieren, was möglichst viel Zustimmung erfährt. Denn Zustimmung ist die Währung in dieser digitalen Öffentlichkeit. Das heißt, wir werden von diesen Plattformen sozialisiert.

Anja: Gibt es auch eine Verantwortung auf der Seite des Users?

Moritz: Definitiv.

Hans: Der Zeitpunkt wäre eigentlich schon gestern gewesen. Social Media ist eben nicht mehr ein lustiges Tool für Urlaubsbilder, sondern ist die digitale Öffentlichkeit geworden, in der wir jeden Tage sehr viel Zeit verbringen und die auch unsere analoge Welt stark formt. Wir selbst als User hinterfragen leider nicht, wie die Verfassung dieses Raums aussieht. Wir fragen nicht nach Verantwortung, nach Regeln. Aber all das würde man doch in einem normalen gesellschaftlichen Leben machen. Irgendwie scheinen wir immer noch zu denken, das Internet wäre irgendein Raum, in dem man alles machen kann und nichts bedeutet etwas. Das muss sich ändern. Wir brauchen neue Institutionen und Organe für den digitalen Raum.

Anja: Aber wie schafft man, dass ein normaler Nutzer all diese Implikationen versteht und ein Bewusstsein für die Notwendigkeit neuer Institutionen erkennt?

Moritz: Wir hoffen, das unser Film hierzu beitragen kann. Es geht um Menschen. Es geht hier nicht um abstrakte technische Fragen. Was auch häufig schwer zu begreifen ist, ist, wie sich eine Entscheidung, bzw. ein Klick in Manila auf eine Gesellschaft Millionen Kilometer entfernt auswirken kann. Diese Verzahnungen versuchen wir zu zeigen. Aus einer absolut menschlichen Perspektive. Indem wir die Menschen hinter den Klicks zeigen, auf allen Seiten. Nicht nur die Menschen hinter den Löschentscheidungen und nicht nur die Menschen in den versteckten Räumen im Silicon Valley, sondern auch die Künstler*innen, die Kritiker*innen, die Aktivist*innen, die etwas hochladen, und dann betroffen sind von der Zensur. Wir zeigen auch die Menschen, die am Ende darunter zu leiden haben, wenn die Entscheidung zwischen „Delete“ und „Ignore“ zu einem Genozid führt. Wir wollen zeigen, wie all diese Menschen eigentlich zusammenhängen.

Anja: Seht ihr eine Alternative? Was können wir tun, um das Ruder noch herumzureißen?

Hans: Klar gibt es da jetzt nicht die eine Lösung. Was aber ganz klar und unübersehbar ist, ist das Problem der Zentralisierung, dieses Aufteilen des Internets zwischen ein paar mächtigen Firmen. Das ist gefährlich. Wir müssen uns also dafür einsetzen, das Internet zu dezentralisieren. Alternativen nutzen, Open Source Projekte unterstützen, nicht immer nur das Maul des GAFA füttern.

Wir können uns das Projekt Internet zurückerobern. Das Internet als emanzipatorisches Projekt, in dem wir selbst aktiv werden können. Wir können alternative Informationskanäle nutzen und neue Institutionen schaffen. Man muss auch mal überdenken, ob wir diese Demokratie in dieser digitalen Welt wirklich ernst nehmen wollen. Das würde für mich heißen, dass man mal sowas wie eine digitale Vereinte Nation gründet und sagt: wirklich alle Mitgliedsstaaten, die diese Plattformen nutzen, müssen an einen Tisch und darüber diskutieren, welche Richtlinien wir eigentlich für den digitalen Raum wollen.

Moritz: Die Lösung ist eben nicht das, was Zuckerberg tatsächlich schon manchmal in der Vergangenheit angebracht hat: „Wir hoffen, dass eines Tages die Technik soweit sein wird, das wir jedem einzelnem User Filter ermöglichen, sodass er oder sie für sich einstellen kann, was er oder sie sehen möchte und was nicht.“

Im Grunde spricht er da von einer Art Pipi-Langstrumpf-Tool. „Ich mach mir die Welt, wie sie mir gefällt. Ich bin nicht so an Krieg interessiert, ich bin mehr so der Typ Brüste.“ Das ist eine Horrorvision. Denn dann fehlt jegliche Grundlage für gesellschaftliches Bewusstsein.

Anja: Ist es nicht genau das, was gerade auch passiert? Bewegen wir uns nicht schnellsten Schrittes genau auf so eine Pipi-Langstrumpf-Welt hin?

Hans: Ja. Stimmt. All diese Sachen kosten Schweiß, kosten Arbeit, die sind langfristig, die kann man nicht von einem Tag auf den anderen beheben. Ich muss immer lachen, wenn Zuckerberg sagt: “Ja, wir fixen das!“ Als ginge es um ein zwei Schrauben und morgen ist es besser. Das ist ein ganz anderer Prozess. Wir sprechen hier von Demokratie – auch im digitalen Raum. Die muss sich erarbeitet werden und das ist eine langfristige Sache, in die keiner so richtig investiert.

Anja: Die Zeit ist da, das zu ändern.

Moritz: Wir hoffen sehr, dass unser Film und die Dystopie, die er zeigt, vielen Leuten hilft, sich darüber klarzuwerden, dass wir nicht mehr warten können. Es ist jetzt an der Zeit, das Ding zu stoppen und zu sagen, wir brauchen JETZT die Debatte über die Institutionen, die wir schaffen müssen, um uns daran zu beteiligen, was im digitalen Raum passiert. Wenn wir noch länger warten, ist irgendwann der Tippingpoint endgültig überschritten und die Monopolstellung dieser Unternehmen so groß geworden, dass wir nicht mehr ohne sie können und uns in eine solche gesellschaftliche Abhängigkeit begeben haben, dass wir gar nicht mehr umhin kommen, sie zu akzeptieren. Wir können aber noch etwas ändern. Daran glauben wir.