Moeten we al die onlinemodder op social media blijven accepteren?

Joden zijn de ratten van deze wereld.' Zomaar een commentaar op Facebook. Nou ja, zomaar: een van de vele walgelijke, discriminerende opmerkingen op social media. Net als die stortvloed aan racistische commentaren op de selfie van Oranje-voetballer Leroy Fer en acht donkere ploeggenoten. Want hoe moet je 'FC Aap', 'Losgebroken van de ketenen en dan krijg je dit' en 'Allemaal zwarte pieten' anders noemen?

Beeld Ivo van der Bent

Op social media is een racistische opwelling in luttele seconden leesbaar voor een groot publiek. Met homo's, joden, moslims, zwarten en gehandicapten geregeld als mikpunt.

Heel naar en vervelend, vinden ook veel politici. Lodewijk Asscher organiseert deze maand daarom een bijeenkomst om te kijken of er iets tegen gedaan kan worden. Facebook en Twitter zijn uitgenodigd door de minister van Sociale Zaken. Als je naaktfoto's kunt censureren, zoals Facebook doet, kun je misschien ook racisme eruit filteren? Wie een duik neemt in de onlinemodderpoel, komt erachter dat dit toch ietsje ingewikkelder ligt.

Lodewijk Asscher. Beeld anp

Registratie

Sinds twee jaar registreert het Meldpunt Internet Discriminatie namens de overheid discriminerende uitingen op internet. MiND krijgt de subsidie die voorheen naar het Meldpunt Discriminatie Internet (MDI) ging. Officieel om kosten te besparen, al beweren boze tongen dat het MDI antisemitische uitingen serieuzer nam dan anti-islamitische. Zelfs in antidiscriminatieland zou niet iedereen gelijk behandeld worden.

MDI vond elders geld en naar goed Nederlands gebruik beschikken we nu over twee meldpunten. Opvallend is dat het 'oude' meldpunt ook vorig jaar nog veel meer meldingen ontving dan de officiële opvolger MiND, te weten 1.117 om 305. Als we voor het gemak ervan uitgaan dat er geen dubbelingen zijn, komen we in totaal tot 1.412 uitingen. Ruwweg de helft daarvan is afkomstig van social media, een stijging ten opzichte van 2013.

Alleen vallen veel uitingen die een discriminerende ondertoon hebben niet onder discriminatie, maar onder belediging, smaad of laster. Ze gaan niet over een groep, maar over een individu. Dan kun je zelf naar de rechter stappen, maar de strafbaarheid ervan is (nóg) lastiger aan te tonen. Een smerige opmerking als 'vuile kankermoslim!' is gewoon op Facebook te vinden en mag ondanks een verwijderingsverzoek blijven staan van het bedrijf.

Strafbaarheid

Volgens de meldpunten was dan ook minder dan de helft (593) van alle meldingen strafbaar. En een flink deel daarvan (518) wordt op hun verzoek snel verwijderd van de website, in sommige gevallen zelfs al voor ze het verzoek hebben gedaan. Pas wanneer de eigenaar of beheerder van een website niets doet met de melding of als het gaat om een notoire recidivist, wordt aangifte gedaan bij het Openbaar Ministerie. Dat gebeurde vorig jaar 15 keer.

Het OM kan niet exact zeggen hoe vaak het werkelijk tot vervolging overgaat in dit soort zaken. Rechtszaken over onlinediscriminatie zijn in elk geval amper te vinden, mede doordat het OM kan besluiten de zaak af te doen met een boete. Pas als de verdachte daarmee niet akkoord gaat, komt de rechter in beeld.

Het systeem werkt dus goed, zou je zeggen. Klacht, check, delete. De oceaan aan onlinediscriminatie wordt zo teruggebracht tot een overzichtelijk meer. Maar ho even, roepen critici. Die klachten vormen slechts het topje van de ijsberg. Lang niet iedereen neemt de moeite om uit de bocht vliegende tweets of posts te melden.

Woordenstroom

Je kunt je afvragen of het wel zo'n groot probleem is, als een simpel webformulier invullen al te veel gevraagd is, maar laten we veronderstellen dat er inderdaad een hoop vuilspuiterij onopgemerkt blijft en niet wordt verwijderd of vervolgd. Zeker gezien de enorme woordenstroom die zo'n negen miljoen Facebookers en drie miljoen twitteraars dagelijks produceren, is dat niet onmogelijk. Zouden social media, of andere instanties, daar misschien wat actiever doorheen kunnen gaan?

'Technisch is het niet zo moeilijk', vertelt Ronald Prins van adviesbureau Fox-IT, gespecialiseerd in de beveiliging van ict. 'Er is hele coole software, waarmee je steekwoorden kunt filteren, ook als het gaat om miljoenen tweets of Facebook-posts. Dus ook racistische of discriminerende termen. Dat kan gemakkelijk.'

Die miljoenen tweets en posts kunnen bedrijven - tegen betaling - realtime ontvangen van Twitter of Facebook via speciale filters, legt Prins uit. 'Maar dan weet je nog niet wie racistische berichten erop gezet heeft. Zowel bij Twitter als Facebook weet je nooit zeker wie er achter een uiting zit. Deze bedrijven zullen niet zomaar de echte identiteit prijsgeven.'

Wie precies juridisch verantwoordelijk is voor het uit de lucht halen van illegale content - of dat nou kinderporno, schending van auteursrecht of racisme is - is onduidelijk, stelt Bart Schermer, docent ict-recht aan de Universiteit Leiden. Dat zou dus mooi aan bod kunnen komen op de bijeenkomst met Asscher.

'Internetplatforms worden soms overvraagd door de politiek', meent Schermer. Ze moeten optreden als ze eenmaal op de hoogte zijn van een strafbare uiting, maar hebben geen plicht om te monitoren, Voor giganten als Facebook, Twitter of YouTube is dat in de praktijk ook ondoenlijk. 'Als ze op de stoel van de rechter moeten gaan zitten, hebben ze daarvoor al snel een speciale afdeling van een paar honderd man nodig', schat hij.

Slim

En dan wordt het een stuk lastiger om geld te verdienen voor een bedrijf als Facebook, dat vorig jaar in de hele Benelux niet meer dan 25 medewerkers telde. Tenzij je een slimme manier verzint om dat proces te automatiseren. Laat nu uitgerekend Facebook naaktfoto's met behulp van een algoritme en filter censureren. Dan zou je toch ook berichten met die discriminerende termen op voorhand kunnen blokkeren?

Prins: 'Dan loop je het risico dat ook onschuldige uitingen verwijderd worden, alleen omdat een bepaald woord er toevallig in voorkomt. Zo gemakkelijk is dat niet bij woorden. Overigens, zelfs bij afbeeldingen vraag ik me dat af. Volgens mij plopt er altijd nog ergens bij Facebook een schermpje op met de bewuste foto, voor die definitief van het web wordt gehaald.'

De context volledig snappen, dat lukt zelfs de geniaalste software nog niet. En juist dat zal nodig zijn, omdat anders satire en ironie net zo goed als verdacht aangemerkt zullen worden. Precies het punt dat Schermer maakt. 'Als Facebook of Twitter een filter zou maken voor ongewenste woorden, dan zijn dat er al gauw te weinig of te veel. Dan raak je bovendien aan de vrijheid van meningsuiting.'

Als geen ander weet Prins dat veiligheidsdiensten social media allang in de gaten houden om radicalisering en extremisme op te sporen. 'Maar die zijn volgens mij ook een graad erger dan een comment als: daar komt weer een dobberneger.' Hij denkt niet dat de diensten zich geroepen zullen voelen om hun voelhorens ook te richten op onlinediscriminatie. 'Ik vraag me serieus af hoe je dit wilt inrichten zonder afbreuk te doen aan de cultuur van een vrij en open internet, nota bene een van de stokpaardjes van het huidige kabinet.'

Misschien werkt het om af en toe een voorbeeld stellen, zoals met de zaak rond de selfie van Leroy Fer. Ook ict-jurist Schermer vindt het logisch dat de magistraten van het OM hier iets mee deden, aangezien het maatschappelijke effect meespeelt in hun afwegingen. Het Nederlands elftal levert meer media-aandacht op dan twee nobody's die elkaar voor rotte vis uitmaken.

Toch laat uitgerekend die zaak ook zien hoe gecompliceerd onlinediscriminatie eigenlijk is. Hoewel er tientallen grove commentaren onder de bewuste selfie stonden, kregen uiteindelijk maar drie verdachten een boete van 360 euro. Mogelijk werden de vele smakeloze, maar niet ronduit discriminerende vergelijkingen met Zwarte Piet buiten schot gelaten, maar zeker weten we dat niet. Het OM wenste niet openbaar te maken welke uitingen beboet waren, omdat - zo luidde de verklaring - iedereen dan kan achterhalen om welke daders het ging.

Leroy Fer in Brazilië tijdens het Wereldkampioenschap in 2014. Beeld anp

Context

'Ik denk dat ze dat ook liever niet naar buiten brengen, omdat een losse uiting op zichzelf niet zoveel zegt', analyseert Schermer. 'Die is heel contextgevoelig: wat in de ene situatie een grapje is, kan in een andere context strafbaar zijn. Het maakt nogal verschil of je een donkere profvoetballer, die je verder niet kent, uitscheldt voor aap of dat je datzelfde woord met een knipoog gebruikt tegen je vriendinnetje.'

Ondanks al die haken en ogen beloofde Facebook-oprichter Mark Zuckerberg deze week persoonlijk aan Angela Merkel werk te maken van de racistische en xenofobe commentaren die in Duitsland lijken mee te groeien met de vluchtelingenstroom. Eerder zegde Facebook al toe om beter samen te werken met Duitse instanties die onlinehaatzaaierij in de smiezen houden. En om ze financieel te ondersteunen.

Een pot geld, zomaar voor het oprapen, daar zal ook Asscher vast geen bezwaar tegen hebben. Maar hoe Zuckerberg het verder voor zich ziet, is nog onduidelijk.

Mark Zuckerberg. Beeld anp

'Ze kunnen het proces wat gemakkelijker maken', oppert Schermer. 'Bijvoorbeeld met een voorlichtingspagina, of een speciale meldknop.' Op dit moment is het geen abc'tje om aan Facebook door te geven dat een bepaald bericht discriminerend is. Je moet eerst het uitklapmenuutje vinden, en dan word je - ongeveer zoals bij een callcenter - door een keuzemenu geleid. Pas in het derde scherm kun je kiezen voor de optie 'Dit is haatdragend' en aanvinken wat voor soort groep (ras, geloof, handicap, seksuele geaardheid) het mikpunt is.

Dat kan misschien simpeler. Maar de keerzijde van vrijheid is dat het ook weer niet te simpel moet worden.

Meer over

Wilt u belangrijke informatie delen met de Volkskrant?

Tip hier onze journalisten


Op alle verhalen van de Volkskrant rust uiteraard copyright. Linken kan altijd, eventueel met de intro van het stuk erboven.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar copyright @volkskrant.nl.
© 2019 DPG Media B.V. - alle rechten voorbehouden