De Torre Glories, van architect Jean Nouvel, in Barcelona.

Tech Moderatoren van Facebook

Vanuit deze kleurige toren in Barcelona werken de vrolijke schoonmakers van Facebook

De Torre Glories, van architect Jean Nouvel, in Barcelona. Beeld AFP

Om de buitenwereld te laten zien dat er veel ten goede is veranderd, wordt de pers voor het eerst uitgenodigd in een iconische toren in Barcelona. Hier werken jonge meisjes en jongens om Facebook schoon te houden. Het voorgeschotelde beeld staat in schril contrast met eerdere berichten.

Een foto van Barack en Michelle Obama die digitaal zijn bewerkt en er nu als aap uitzien. Een bericht met als strekking dat ‘dat smerige kamelenvolk’ moet worden afgeknald. Het is nog niet eens de grootste ellende die Facebook-moderatoren te zien krijgen en die nu, op een zonnige herfstdag, in de vorm van een quiz aan het trosje aanwezige journalisten wordt voorgeschoteld. Dit zijn de simpele voorbeelden: iedere moderator moet binnen een fractie van een seconde beslissen dat dit verwijderd moet worden. Sommige dingen zijn lastiger. Simpelweg het zekere voor het onzekere nemen en bij twijfel toch zomaar berichten verwijderen, is er niet bij. 

Holocaust-ontkenningen en naaktbeelden

Nog maar een paar weken terug stuurden Amerikaanse burgerrechtenorganisaties een brandbrief naar Facebook. Hun boodschap: mensen moeten meer mogelijkheden krijgen om in beroep te gaan als Facebook een bericht heeft verwijderd. Facebook is voor miljarden gebruikers het venster op de wereld en het bedrijf worstelt openlijk met die verantwoordelijkheid. Het koord tussen censuur en vrijheid van meningsuiting is dun. Of, in Mark Zuckerbergs woorden: het gaat om de juiste balans tussen vrije meningsuiting en een veilige omgeving. De geplaagde topman zei dit afgelopen zomer nadat hij zwaar onder vuur was komen te liggen omdat hij ervoor pleitte Holocaust-ontkenningen niet te verwijderen. ‘Mensen maken fouten. Ik denk niet dat zij het expres fout hebben’, zei hij toen.

Naaktbeelden, nog zo’n hoofdpijndossier. Facebook voert een wereldwijd beleid over wat mag en wat niet mag en moet daarmee doelbewust lokale verschillen negeren. Dat leidt nog wel eens tot protest of op zijn minst tot opgetrokken wenkbrauwen. Vlaamse musea schreven eerder dit jaar een open brief aan Zuckerberg omdat ze vinden dat de ban op naaktafbeeldingen is doorgeschoten. Facebook verwijdert ook geschilderd naakt van Vlaamse meesters en dat is té streng, vinden ze. Zo mocht de Kruisafneming van Peter Paul Rubens niet worden getoond, omdat Jezus er vrijwel naakt op is te zien. Een internationaal bekend voorbeeld is de foto van het naakte meisje in Vietnam dat op de vlucht is voor een napalmaanval. Dit voorbeeld komt ook voorbij in de quiz die de journalisten krijgen voorgeschoteld. ‘We hebben hier van geleerd en ons beleid aangepast’, zegt Siobhan Cummiskey van Facebook, ‘Head of Public Policy’ binnen Europa. ‘En we blijven ons beleid constant aanpassen.’

Alleen drank helpt nog

Facebook vindt de locatie in Barcelona bij uitstek geschikt om deze week een positief beeld te schetsen. Dat valt te begrijpen: de kleurige toren uit 2005 van architect Jean Nouvel torent indrukwekkend boven de skyline uit. Hier werken achthonderd vooral jonge mensen 24 uur per dag in ploegendiensten om Facebook schoon te houden. Ze zijn niet in dienst bij Facebook zelf: Facebook huurt verschillende gespecialiseerde bedrijven in. In Barcelona is dat CCC. 

De Volkskrant beschreef eerder vanuit Berlijn ‘de hel achter de façade van Facebook’ en ook de VPRO zond een documentaire uit waarin een wereld opdoemt van moderatoren die op geen enkele wijze zijn voorbereid op de extreme vormen van geweld die ze dagelijks voor de kiezen krijgen. Sommigen weten zich alleen nog met drank op de been te houden. Anderen zijn totaal afgestompt na het zien van kinderporno of onthoofdingsfilmpjes van de IS.

Een ‘funruimte’ vol familie

Niets van dit alles bij de zes geselecteerde jongens en meisjes die in Barcelona met de pers mogen praten, geflankeerd door de baas van CCC en vertegenwoordigers van Facebook. Zij herhalen wat hun baas eerder ook al zei: hoe fijn het is om hier te werken. Gratis fruit, drinken en lunches; een even gigantische (zeshonderd vierkante meter) als kleurige ‘funruimte’ met pingpong- en tafelvoetbaltafels, Playstation, poolbiljarts en matten en kussens; yogalessen; psychologische hulp: het kan allemaal niet op. ‘Ik heb een spamfilter voor alle wellness-berichten die we van onze baas krijgen’, grapt een van hen. 

Maar die verhalen uit Berlijn dan? Hoe kijken ze daar dan tegenaan? ‘Daar herken ik echt helemaal niets in. Het voelt hier bijna als een familie.’ Een ander wil graag perspectief aanbrengen in de hoeveelheid gewelddadige beelden die voorbij komen: ‘Wij krijgen alles te zien waarvan een melding binnen komt. Relatief weinig gaat om beeld. Mensen klagen over werkelijk alles, soms zelfs over het gebruik van specifieke emoji.’ 

Verbeteringen

In Nederland ligt de nadruk op haatzaaien en online pesten. Dat gaat met pieken en dalen. De zwarte pieten-periode is zo’n piek. En die beelden, ach, je raakt er ook aan gewend: ‘De tweede keer is al gemakkelijker. Je raakt niet meer zo in shock als de eerste keer.’ De CCC-baas wijst even later op de stickers die overal hangen: ‘Voel je je gestrest, overweldigd of geraakt? Neem je tijd’. Om maar aan te geven dat er veel tijd een aandacht is voor de mensen die dit belangrijke werk doen. Facebook en CCC ontkennen dat er harde targets zijn. De 1.800 tickets die iedere moderator dagelijks in Berlijn zou moeten oplossen? Geen sprake van. Cummiskey: ‘Het is een misconceptie dat we mensen in donkere kelders hebben zitten die dit werk doen.’

Haar collega Dave Geraghty (Director of Global Market Operations bij Facebook) geeft toe dat het geen toeval is dat de deuren nu opengaan. ‘We hebben de laatste tijd veel geïnvesteerd, dus ja, jullie zijn nu welkom. We hebben veel verbeterd: er zijn meer mensen, betere richtlijnen en meer transparantie.’ Die richtlijnen zijn tegenwoordig openbaar. In totaal zijn nu dertigduizend mensen bezig met de veiligheid op Facebook, een verdubbeling in een jaar tijd. En iedere dag worden miljoenen posts, video’s en berichten bekeken en indien nodig verwijderd. 

Daarnaast verbetert de technologie ook, zegt Geraghty. In toenemende mate filtert kunstmatige intelligentie ongewenste inhoud uit de onvoorstelbare berg die elke dag over Facebook wordt uitgestort. Daaronder zijn alleen al één miljard foto’s. Foto’s met seksueel misbruik kunnen er zo in veel gevallen al worden uitgevist. Hetzelfde gebeurt met teksten met terroristische propaganda. Uit het laatste ‘transparantierapport’ van Facebook blijkt dat 99 procent van dat soort inhoud wordt verwijderd vóórdat het door mensen is gerapporteerd. Het betekent niet dat Facebook op zijn lauweren kan rusten, beseft Geraghty. ‘We zullen moeten blijven investeren. Deze strijd blijft doorgaan. Het is niet meer de wereld van vroeger.’ 

Ook op ander vlak trouwens niet. Onderzoeksbureau Newcom zag onlangs ‘voor het eerst sinds 2010 een duidelijk verband’ tussen het gebrek aan vertrouwen in social media (met name Facebook) en het afnemende gebruik van ditzelfde Facebook.

De aantallen

Het in november gepubliceerde Transparency Report laat zien op hoeveel foto's, video's en berichten Facebook de laatste maanden actie heeft ondernomen. Actie kan zijn: verwijderen, verbergen voor andere gebruikers met een waarschuwing of complete accounts blokkeren. Van juli tot september:

Naakte volwassenen en seksuele activiteit: 31 miljoen 

Geweld en schokkende beelden: 15,4 miljoen

Naakte kinderen en seksuele uitbuiting: 8,7 miljoen

Terroristische propaganda: 3 miljoen

Haatzaaien: 2,9 miljoen

Pesten en intimidatie: 2,1 miljoen

754 miljoen nepaccounts verwijderd

Verder lezen:

De hel achter de façade van Facebook

Een afbeelding van Trump als nazi, een opgehangen kat die met een snijbrander wordt bewerkt, wraakporno, plastische kunstwerken: wat is wel en wat is niet toegestaan op Facebook? Voor het eerst zijn de regels uitgelekt.

Geen blote billen, ‘tenzij gephotoshopt op bekende persoon’ (en andere Facebookhuisregels)

Interview met internetcriticus Andrew Keen: ‘Facebook is op zijn retour, de volgende Yahoo. Mark Zuckerberg is een totaal visieloze leider, hij heeft echt geen idee. De man had gewoon geluk.’

Nee, zo had Tim Berners Lee het in 1989 niet bedoeld toen hij het world wide web ontwierp: enkele grote techbedrijven als Facebook en Google die de dienst uitmaken

Meer over

Wilt u belangrijke informatie delen met de Volkskrant?

Tip hier onze journalisten


Op alle verhalen van de Volkskrant rust uiteraard copyright. Linken kan altijd, eventueel met de intro van het stuk erboven.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar copyright@volkskrant.nl.