Facebook worstelt met censuur

Een afbeelding van Trump als nazi, een opgehangen kat die met een snijbrander wordt bewerkt, wraakporno, plastische kunstwerken: wat is wel en wat is niet toegestaan op Facebook? Voor het eerst zijn de regels uitgelekt.

Facebooks steeds prominentere rol als wereldwijd moderator van controversiële meningen, foto's en video's gaat gepaard met de nodige groeipijnen. Wat mag wel en wat mag niet op het gebied van geweld, seks en terrorisme? Niet alleen de buitenwereld is in verwarring, ook medewerkers van Facebook zelf.

De Britse krant The Guardian wist de hand te leggen op ruim honderd interne Facebook-documenten, zoals trainingen, handleidingen en concrete voorbeelden. Deze geven eindelijk inzicht in de regels die Facebook zelf hanteert. Het socialemediabedrijf ligt van verschillende kanten onder vuur vanwege die regels. Te streng, zeggen sommige critici. Neem de beroemde foto van het blote Vietnamese meisje dat wegrent na een napalmaanval, of het expliciete naaktschilderij door de 19de-eeuwse schilder Gustave Courbet. Facebook had met beide problemen. Tegelijk is er groeiende kritiek omdat Facebook op andere momenten juist te traag is met ingrijpen, bijvoorbeeld bij live-uitzendingen van moorden. Fundamenteler nog is het bezwaar dat de regels van Facebook niet transparant zijn, terwijl het bedrijf ondertussen wel bepaalt wat wel en niet mag in de (virtuele) publieke ruimte.

De door The Guardian geopenbaarde documenten maken de regels in elk geval voor een deel inzichtelijk. Maar erg duidelijk zijn ze niet bepaald. Facebookmedewerkers noemen het beleid tegenover de krant inconsistent. De regels over seksueel getint materiaal bijvoorbeeld zouden erg verwarrend zijn. Ook klagen ze over de hoeveelheid werk. In tien seconden moeten ze besluiten of iets is toegestaan of niet. 'Facebook kan geen controle houden op de content. Het is te snel te groot geworden', zegt een van hen. Facebook heeft nu al 4.500 moderators in dienst; dit jaar komen er daar nog eens 3.000 bij. Verder hoopt Facebook in de toekomst gebruik te kunnen maken van kunstmatige intelligentie voor het herkennen van bijvoorbeeld geweld in video's. Maar deze pogingen bevinden zich nog in een experimentele fase. Bovendien zegt het bedrijf te geloven in een combinatie van mens en machine.

Wat zijn de richtlijnen op basis waarvan de internetscheidsrechters binnen tien seconden moeten beslissen of een foto of bericht mag blijven staan? Hiernaast vier heikele thema's.

De hoofdregel is nu dat 'handgemaakte kunst' met naakt of seksuele activiteiten is toegestaan. Met andere woorden: het schilderij l'Origine du monde van Gustave Courbet, met de vulva van een wijdbeens poserende vrouw, mág. De vraag blijft natuurlijk wat kunst is en wat niet. Anders ligt het met digitaal vervaardigde afbeeldingen waarop naakt te zien is: die zijn niet toegestaan.

Livestreams van zelfmoorden

Dierenmishandeling

Seks en naakt

Foto's van mensen die tegen beesten aan schoppen? Het mag: volgens Facebook kunnen de beelden bijdragen aan bewustwording van dierenleed. Er zijn uitzonderingen: sommige 'extreem schokkende beelden' moeten worden voorzien van de waarschuwing: 'schokkend'. Voorbeelden zijn het verbranden van dieren of foto's waarop botten zijn te zien.

Daarmee zijn de moderators er nog niet: uitzonderingen op uitzonderingen zijn ook mogelijk. Als een beeld te maken heeft met de bereiding van voedsel mag het weer wel zonder waarschuwing worden getoond. Een gruwelijke foto van een opgehangen kat waarop een vrouw een brander richt in een 'restaurant' is dus geen punt.

Oproepen tot geweld

Facebook staat live uitgezonden videobeelden toe waarop mensen zichzelf geweld aandoen. Dat is een fenomeen dat steeds vaker voorkomt: vorig jaar zomer meldden moderators in twee weken tijd van maar liefst 4.531 'incidenten'. Die moeten worden gerapporteerd aan 'senior managers', die er verder mee aan de slag gaan. Facebook wil dergelijke videobeelden niet verbieden omdat het naar eigen zeggen 'geen censuur wil plegen en mensen in nood wil straffen die een poging tot zelfmoord doen'.

De trainingsvoorbeelden laten zien hoe groot de verantwoordelijkheid is van Facebook, dat de omgangsregels voor maar liefst 2 miljard mensen moet bepalen.

Monika Bickert, die bij Facebook over dergelijke regels gaat, zegt tegenover The Guardian dat het lastig is om wereldwijd consensus te bereiken. 'Mensen hebben heel verschillende ideeën over wat wel en niet kan. Er zullen altijd grijze gebieden zijn.'

Als voorbeeld noemt Bickert humor en satire, waarvan de invulling erg cultuurgebonden is.

Zodra een geweldsoproep concreet is (gericht tegen een bepaalde persoon), is het verboden. Het bericht: 'Laat iemand Trump neerschieten' is niet toegestaan. De richtlijnen geven veel voorbeelden van wat nog net wel en wat net niet mag. 'Om een bitch haar nek te breken, moet je zoveel mogelijk druk op haar hals zetten': mag. 'Laten we dikke kinderen aftuigen': mag. 'We moeten alle buitenlanders in gaskamers stoppen': mag niet. Ook hier dus weer een grijs gebied waarmee de moderators worstelen.

dit mag wel Courbets L'Origine du monde, handgemaakte kunst. Beeld RV
DIT MAG Het blote 'napalmmeisje' mocht eerst niet maar nu wel. Beeld AP
DIT MAG NIET Digitale gemaakte porno. Beeld Tom Zaunbr000
DIT MAG Satire is een grijs gebied, maar Trump met Hitlersnor kan. Beeld RV
DIT MAG Dierenleed kan in principe niet, tenzij het in de keuken is. Beeld RV
DIT MAG Ongerichte agressie. Beeld RV
DIT MAG NIET Plaatjes van terroristen als Bin Laden kunnen niet. Beeld RV
DIT MAG NIET Nazi's verheerlijken kan niet door de beugel. Beeld RV
Meer over

Wilt u belangrijke informatie delen met de Volkskrant?

Tip hier onze journalisten


Op alle verhalen van de Volkskrant rust uiteraard copyright. Linken kan altijd, eventueel met de intro van het stuk erboven.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar copyright@volkskrant.nl.