Mogen Trump en Zwarte Piet terug op Facebook? Daar beslist deze raad over

Facebook heeft sinds kort een soort ‘hooggerechtshof’ om besluiten te herzien. Deze maand beslist de raad of Trump en Zwarte Piet terecht zijn verbannen. Wie zitten daarin? En is dit een goede oplossing om te bepalen wat wel en niet mag op het grootste sociale netwerk?

Een groepje van twintig mensen besluit deze maand of het terecht is dat een van de machtigste mannen ter wereld van het grootste sociale netwerk ter wereld is verbannen. Voor Donald Trump, op dat moment nog president van de Verenigde Staten, was geen plek meer op Facebook toen een meute het Capitool in Washington bestormde nadat hij de megafoon van het netwerk had gebruikt voor zijn onbewezen bewering dat de verkiezingen gestolen zijn door zijn rivaal.

De leden van de Oversight Board bepalen of die verbanning terecht is. De raad van toezicht werd in juni 2019 door Facebook zelf in het leven geroepen om de beslissingen van het netwerk te heroverwegen. In de wandelgangen werd het al snel: Facebooks Hooggerechtshof. Deze maand publiceert de raad haar beslissing over de verbanning van Trump. Ook volgt het oordeel in een andere zaak: die van Zwarte Piet. Een video van een sinterklaasintocht waarin een zwarte piet te zien is werd verwijderd, omdat racistische blackface-karikaturen zijn verboden op Facebook en Instagram. Een gebruiker tekende protest aan tegen dat besluit.

Nu zou je kunnen zeggen: trek je niets aan van wat op Facebook staat. Maar Facebook is het grootste sociale netwerk ter wereld, met drie miljard gebruikers, van wie 80 procent buiten de Verenigde Staten. En wat op Facebook verschijnt, heeft consequenties. Soms voor iemand die meent dat een bedrijf uit Californië niet kan beoordelen hoe een ‘onschuldige Nederlandse traditie’ moet worden opgevat. Soms voor iemand die gediscrimineerd wordt. Soms als democratische instituties door horden mensen worden bestormd of een bevolkingsgroep de ruimte krijgt op te roepen tot moord op een andere bevolkingsgroep. En dat terwijl de ambitie van het bedrijf is, zoals oprichter Mark Zuckerberg het noemt, van platform te veranderen in een ‘sociale structuur’. Wie bepaalt dan wat daarbinnen mag?

Publieke ruimte

Facebook is, kun je zeggen, een deel van onze publieke ruimte. Een publieke ruimte waar moderatoren erop toezien dat iedereen zich aan de huisregels houdt. Kort samengevat: geen bloed, geen bloot, geen racisme. En, in toenemende mate de laatste jaren: geen desinformatie, geen complotten.

Het bedrijf bouwde daar met de Oversight Board nog een laag bovenop, in een poging tot meer transparantie. Twintig mensen die wereldwijd beslissen over, zoals hoogleraar media en digitale samenleving José van Dijck het noemt, het moeilijkste onderwerp te wereld: wat je binnen het platform wel en niet kunt zeggen.

De term hooggerechtshof voor die groep is misleidend, want Facebook is geen overheid, met publieke instellingen, grondwetten en een onafhankelijk rechtssysteem. Wel zijn er een paar gelijkenissen met de juridische wereld in de manier waarop de raad werkt.

Zo kunnen gebruikers een zaak aandragen bij de raad als ze het niet eens zijn met de beslissing om iets van het platform te verwijderen. Dat gebeurde bij de kwestie-Zwarte Piet. Facebook zelf kan, om het eigen oordeel te toetsen, ook beslissingen aandragen. Dat gebeurde met de zaak-Trump.

De raad oordeelt vervolgens of er terecht iets is verwijderd. Om het verwijt voor te zijn dat de slager zijn eigen vlees keurt, is de Oversight Board ondergebracht in een stichting buiten het bedrijf en zijn leden aangetrokken die niet voor Facebook werken. Beslissingen van de raad zijn bindend. Dus mocht de Oversight Board straks besluiten dat Trump ten onrechte is verbannen, dan krijgt hij zijn account terug.

Om de besluiten van de raad enig gewicht te geven, werden de twintig leden ervan aangetrokken uit verschillende landen en werd gezocht naar mensen met verschillende expertises en achtergronden. Tawakkol Karman is een Jemenitische activist die in 2011 de Nobelprijs voor de Vrede kreeg uitgereikt. Julie Owono is directeur van Internet Sans Frontières vanuit Kameroen. Oud-premier van Denemarken Helle Thorning-Schmidt zit in de raad. Net als Alan Rusbridger, oud-hoofdredacteur van de Britse krant The Guardian. Via een videoverbinding vertelt hij: ‘Ik vond dat Facebook geen geweldig werk deed in kwesties rond de vrijheid van meningsuiting. En niemand wil dat Mark Zuckerberg wereldwijd over de vrijheid van meningsuiting gaat. Mark Zuckerberg zelf ook niet. Ik dacht dat ik daar iets aan kon bijdragen.’

Het samenstellen van de Oversight Board ging niet vanzelf, beschreef Kate Klonick begin dit jaar in een grondig verhaal in The New Yorker. Al bij de samenstelling waren bijvoorbeeld Republikeinen in de Verenigde Staten bang dat er te veel Democraten in zouden zitten (naar verluidt is oud-president Obama gevraagd om mee te doen). Verdeeld over landen zijn negen van de twintig leden afkomstig uit een ‘westers’ land. Vier van hen wonen en werken in de Verenigde Staten. 80 procent van de gebruikers van Facebook woont daar niet, maar de overige 16 leden wonen elk afzonderlijk in een ander land.

Dat is belangrijk om nog een keer te vermelden, want Facebook is in het ene land niet wat het in het andere is.

Myanmar

Om dat wat voelbaarder te maken: na een coup door het leger zit Myanmar op slot. Terwijl via de paar onafhankelijke media die er nog zijn berichten naar buiten komen over demonstranten die door schijnbaar willekeurig geweld van het leger om het leven komen, is voor staatsmedia iets als het naderende warme weer het grootste nieuws. Die staatsmedia zijn in handen van het leger, dat internationaal wordt verdacht van genocide op de Rohingya-moslimminderheid in het land.

Myanmar is niet een land van snelle vaste internetverbindingen, maar er is wel een goed werkend draadloos netwerk. Bijna elke telefoon wordt er verkocht met de app van Facebook alvast geïnstalleerd, en voor het gebruik van het platform betalen gebruikers geen extra datakosten. Vraag je Mark Farmaner van mensenrechtenorganisatie The Burma Campaign in Londen naar het belang van Facebook in Myanmar, dan zegt hij dat ze in het land zelf zeggen dat Facebook in veel opzichten synoniem is voor internet. ‘Facebook ís internet.’

Toen in Myanmar in 2017 in de woorden van de Verenigde Naties een etnische zuivering ‘volgens het boekje’ plaatsvond, waren op Facebook cartoons en teksten te vinden waarin in het mildste geval Rohingya werden gediscrimineerd en in het slechtste vrijuit werd gefantaseerd over het doden van moslims. Er zijn moorden gepleegd en dat zou ook zijn gebeurd zónder Facebook, zegt Farmaner, maar het platform is wel gebruikt voor propaganda en om publieke steun voor het leger te vergaren.

Datzelfde leger kon het platform gebruiken om ook na de coup van dit jaar nieuwe leden te rekruteren. Advertenties van bedrijven die in handen zijn van de generaals mochten blijven staan en het regime kon doorgaan met het verspreiden van leugens en onwaarheden, zegt Farmaner, die Facebook het meest irrationele en ondoorzichtige bedrijf noemt waar hij in 35 jaar mensenrechtenwerk mee te maken heeft gehad. ‘Waarom Trump verbannen en het Myanmarese leger niet?’ Inmiddels is dat wel gebeurd, zegt hij, maar slechts zeer gedeeltelijk.

Aan de andere kant van de strijd hebben activisten weinig anders dan Facebook om aan te tonen dat er schijnbaar willekeurig mensen worden vermoord en dat protesten worden neergeslagen. Ze waarschuwen elkaar via Facebook voor naderend geweld. Uit het land worden filmpjes gestuurd van dode demonstranten als bewijs voor het geweld, soms nog met een telefoon in de hand om het geweld vast te leggen.

Facebook heeft altijd óók het platform willen zijn om onderdrukte stemmen te laten horen. Maar langs de huisregels zouden foto’s van al te verminkte lichamen niet komen. Wie bepaalt dan dat zo’n foto nieuwswaarde heeft en er andere regels voor gelden? Facebook is zich ervan bewust geworden dat het een cruciale rol speelt in wat we te weten komen over Myanmar, zegt Farmaner. De beelden blijven staan, maar met waarschuwingen over wat er is te zien. Om preciezer te kunnen beoordelen wat de lokale context is waarbinnen iets wel of niet moet worden verwijderd, zijn de afgelopen jaren meer medewerkers aangenomen die Birmaans spreken. Maar het wringt.

Dat snapt raadslid Alan Rusbridger ook wel, zegt hij via de videoverbinding. Het is te beperkt om alleen door de bril van de huisregels naar dit soort berichten te kijken, zoals traditioneel gebeurde. Wat hem betreft wegen mensenrechten juist mee in besluiten. ‘Dat vergt alleen wel netwerken van mensen die lokaal heel goed begrijpen wat er aan de hand is en het voor de raad kunnen interpreteren. Die worden nog opgebouwd en dat kost tijd.’

Rusbridger is een van de eerste leden van de raad. Sinds oktober 2020 behandelen hij en collega’s zaken. Daarvoor probeerde de organisatie uit te vogelen wat de procedure moest zijn en om wat voor soort zaken het zou gaan. Dat gebeurde in proefpanels. Leden daarvan kregen verwijderde posts te zien en de vraag of de verwijdering terecht was. Een van die proefzittingen is de moeite van het navertellen waard, omdat het iets laat zien van de moeilijkheid die kan schuilgaan achter wat oppervlakkig beschouwd misschien overduidelijk lijkt.

Een tekstballon met ‘Kill all men’

Marcia Belsky is een cabaretier van rond de 30 uit New York en een feminist die van het einde van het patriarchaat haar thema heeft gemaakt. Bijvoorbeeld in liedjes (‘Alle oude witte mannen moeten dood / behalve mijn vader’), en door een foto op Facebook te plaatsen van zichzelf als 7-jarige met in een tekstballon ‘Kill all men’.

Die cartoon werd door Facebook verwijderd omdat hij in strijd is met de huisregels voor hate speech, haatzaaien. En dat had niet gemoeten, zei Facebook zelf destijds, want dit was overduidelijk geen oproep om over te gaan tot het doden van mannen. Maar toen de zaak tijdens een training van de Oversight Board in Nairobi werd overgedaan, vonden sommige panelleden het verwijderen terecht. Een van hen woont in Ethiopië.

Waarom dat van belang is, wil Endalk Chala wel uitleggen. Hij was een van de eerste politieke bloggers van Ethiopië, wat het land voor hem onveilig maakte. In 2013 vluchtte hij.

Vanuit Saint Paul in het Amerikaanse Minnesota vertelt hij telefonisch hoe in 2015 protesten tegen de zittende regering werden aangevuurd door Jawar Mohammed, een Ethiopiër die op dat moment zelf in de Verenigde Staten woonde en met zijn 1,4 miljoen volgers een even groot bereik had op Facebook als Ethiopische nieuwsorganisaties. De protesten hebben succes, er komt een nieuwe regering geleid door premier Abiy Ahmed, die later de Nobelprijs voor de Vrede zou krijgen.

Jawar Mohammed keert terug naar Ethiopië en verandert van toon. Hij begint via Facebook berichten te plaatsen over de etnische groep die voor de protesten in 2015 aan de macht was en waartoe hij niet behoort. En op een avond bericht hij zonder enig bewijs dat hij bang is vermoord te worden door leden van andere etnische groepen. Onder zijn berichten wordt opgeroepen leden van die groepen te vermoorden – en dat gebeurt. In 2019 vallen er bij rellen in één nacht zeker 86 doden. ‘De ironie is dat de verandering in het land er juist ook is gekomen door steun van Mohammed. Via Facebook’, zegt Endalk Chala.

Dit om te illustreren waarom panelleden in Nairobi, toen ze zonder verdere context een plaatje zagen met ‘kill all men’, dachten: dat zou ik niet op Facebook laten staan. Endalk Chala, die eerder zijn verhaal deed in de podcast Radiolab: ‘Hate speech in Californië is iets anders dan hate speech in Ethiopië. We hebben daar alleen Facebook geïmporteerd. Niet de grotere vrijheid van meningsuiting zoals die in de Verenigde Staten geldt en niet de instituties die je bijvoorbeeld beschermen tegen de staat als je een onwelgevallige mening uit.’

Het is ook een probleem, zegt hij, dat er vijftien talen worden gesproken in Ethiopië. Het kan gebeuren dat van Facebook iets in het Amhaars wordt verwijderd dat in het Tigrinya blijft staan. En afhankelijk van waar je bent in het land kunnen berichten net een andere betekenis hebben. Zo kan de ene bevolkingsgroep verwijzen naar een andere als ‘ezels’, en dat klinkt onschuldig, maar het ontkent plaatselijk in feite het recht van die ‘ezels’ om in Ethiopië te mogen wonen, zegt Chala. ‘In de VS zijn extreem-rechtse nationalisten van het platform verbannen, in Ethiopië mogen etnische nationalisten gewoon hun gang gaan.’

Kritiek op status raad

Los van kritiek op dit regionale precisiewerk is er kritiek op de organisatie en status van de raad zelf. Helemaal onafhankelijk van Facebook is de Oversight Board namelijk niet. De raad is ondergebracht in een stichting met het hoofdkantoor in Londen, die wordt gefinancierd met geld van Facebook, in eerste instantie 130 miljoen dollar. De besluiten van de raad gaan over beslissingen van Facebook om iets te verwijderen. Niet over wat nog op het platform is blijven staan. De raad mag beleidsadvies geven aan Facebook, maar dat is vrijblijvend.

Linnet Taylor werkt aan de Universiteit van Tilburg als hoofddocent data governance. Ze zegt ervan uit te gaan dat de leden van de Oversight Board van goede wil zijn. Misschien dat ze zelfs geloven dat ze iets kunnen veranderen aan Facebook. Maar deze ‘hoge raad’ wekt door haar opzet ten onrechte de indruk dat er echt onafhankelijk, transnationaal toezicht is, vindt ze.

‘Er wordt door Facebook een volgende bureaucratische laag gebouwd rond moderatie. Individuele landen blijken er vervolgens, anders dan bij de wapenhandel en olieproductie bijvoorbeeld, niet goed in om grote bedrijven als Facebook te reguleren. Omdat zulke bedrijven de schijn wekken dat zelf te doen.’

Door de samenstelling van de raad, en doordat Facebook het beeld van een hooggerechtshof in elk geval zelf niet corrigeert, hangt er iets juridisch rond de besluiten. Hoogleraar Informatierecht Natali Helberger van de Universiteit van Amsterdam heeft daar moeite mee. ‘Er is echt geen sprake van een rechtsproces. En als je het niet eens bent met een beslissing van deze raad, kun je in Nederland nog naar de rechter. Maar er zijn landen waar dat niet zomaar kan. Het is problematisch als een commercieel bedrijf daar zo’n groot aandeel heeft in de publieke sfeer. Want deze organisatie is ook daar geen rechtbank, maar een heel dure adviesraad.’

Die ook nog opereert binnen een vrij fundamenteel Amerikaans idee, zegt hoogleraar José van Dijck van de Universiteit Utrecht: dat de media een marktplaats zijn voor ideeën en er altijd nog een rechter is als je het ergens niet mee eens bent. Die manier van denken is niet zomaar te exporteren naar alle delen van de wereld.

‘Verdienmodel is het probleem’

Linnet Taylor ziet een probleem in het model van Facebook. ‘Extremen worden uitvergroot en beloond en in de vorm van advertenties verdient Facebook er geld aan. Niet moderatie is het probleem, maar het verdienmodel.’

In discussies over de macht van Facebook gaat het al snel over het reguleren van de marktmacht van een van de grootste advertentiebedrijven ter wereld, zegt hoogleraar Van Dijck. Nooit over wat hoogleraar Helberger ‘meningmacht’ noemt: de politieke macht van Facebook zelf.

Vanuit het Verenigd Koninkrijk zegt Alan Rusbridger echt te geloven in de wil van Facebook om de raad onafhankelijk te houden. ‘Zijn’ The Guardian wordt ook gefinancierd uit een stichting zonder zeggenschap over de inhoud. De raad wordt uitgebreid met nog eens twintig leden het komende jaar, zodat er sneller gewerkt kan worden, en in al gepubliceerde besluiten suggereert de raad al dat Facebook transparanter moet worden over bijvoorbeeld zijn algoritmen. Die adviezen over beleid van het bedrijf gaan aan gewicht winnen naarmate er meer deskundigen bij komen en als het aan hem ligt kan er straks ook besloten worden over wat er nog op Facebook staat, in plaats van alleen over wat er van is verwijderd.

Vergeet niet, zegt hij, dat het internet nog niet zo lang bestaat. ‘Vergeleken met de uitvinding van de boekdrukkunst zitten we een jaar nadat Johannes Gutenberg in 1439 zijn eerste loden letters goot. Er zijn honderd boeken gedrukt en iedereen is in rep en roer. Over welke kant het op moet met het internet denken en debatteren we de komende honderd jaar nog. En iedereen wil volgende week dinsdag een antwoord op die vraag.’