Silicon Valley gelooft heilig in algoritme bij de bestrijding van terrorisme

Loes Reijmer werpt in deze rubriek een blik op onlinecultuur. Deze week in nieuw venster: algoritmes in de strijd tegen terrorisme.

Facebookoprichter Mark Zuckerberg behandelt zijn contentwerknemers als ondergeschoven kindjes. Beeld getty

Je kan het ze niet kwalijk nemen, beroepsdeformatie is ook de allerslimsten der aarde niet vreemd: Silicon Valley heeft eindeloos veel vertrouwen in technologie. Dat bleek donderdag weer, toen Facebook bekendmaakte dat het bedrijf kunstmatige intelligentie inzet tegen terrorisme.

Het bedrijf reageerde in een blogpost op de recente aanslagen en de vraag wat techbedrijven eigenlijk doen tegen de online verspreiding van terroristische propaganda. Het is nogal wat dat Facebook openheid van zaken geeft over de eigen richtlijnen en de maatregelen die het bedrijf neemt, want tot een paar maanden geleden wisten we niet veel meer dan dat een vrouwentepel het grote kwaad is. Het sociale medium gebruikt inmiddels fotoherkenning, zodat beelden die ooit zijn herkend als terroristisch, niet opnieuw geüpload kunnen worden. Ook heeft het een algoritme ontwikkeld dat steeds beter moet worden in het herkennen van lovende teksten over IS en Al Qaida. 'Wij geloven dat technologie, en Facebook, een deel van de oplossing kan zijn', schrijft topvrouw Monica Bickert.

Vooruit, er komen ook nog wel mensen van vlees en bloed aan te pas, erkent het bedrijf in het tweede gedeelte van de post. Context is belangrijk - een IS-vlag kan ook onderdeel zijn van een nieuwsfoto - en de algoritmen zijn daar niet zo goed in als mensen. 'Nog niet', schrijft Bickert.

Dat geloof in de heilzame werking van het algoritme en zo min mogelijk opgeheven vleselijke vingertjes zit natuurlijk in het libertarische DNA van Silicon Valley. In 1996 plaatste John Perry Barlow zijn 'Declaration of the Independence of Cyberspace' online, een tekst die de grondbeginselen van internet formuleert. Overheden en organisaties moeten zich vooral ver houden van regelgeving, stelde Barlow, want wij maken zelf wel uit wat online wel en niet geoorloofd is. En dat zou dan gebeuren op basis van de gulden regel: behandel anderen zoals je zelf behandeld wilt worden. Het manifest is van grote invloed geweest op technologiebedrijven en onlinecultuur, maar klinkt in een wereld van terrorisme, wraakporno, nepnieuws, trollenlegers, intimidatie en gescheld inmiddels ook een béétje naïef.

De Facebookwerknemers die ongewenste content moeten beoordelen zijn inderdaad ondergeschoven kindjes, bleek vorige maand uit berichtgeving van The Guardian. De krant schetste een beeld van een soort sweatshop waarin arme zielen de hele dag naar onthoofdingen en kinderporno moeten kijken. Ze lopen kans op een posttraumatische stressstoornis en worden slecht betaald.

Zelf deed ik in mijn studententijd hetzelfde werk voor Hyves - minus de blootstelling aan onthoofdingen en kinderporno dan, want vergeleken met Facebook was het Nederlandse netwerk een eldorado bevolkt door dansende bananen. De officiële functie was 'community manager', maar in de wandelgangen en op het netwerk heetten we - pakt u er even snel een teiltje bij - Hyves-angels. Als angel laveerde je als een online Natasja Froger tussen vechtscheidingen en familievetes en trad je actief en streng op. Op Facebook zijn beelden van automutilatie en kindermishandeling geoorloofd, evenals een tekst als 'om de nek van een bitch te breken moet je vooral veel druk uitoefenen op het midden van de keel'. Hyves had die zaken waarschijnlijk verwijderd.

Ja, het Nederlandse netwerk was niet bestand tegen Zuckerbergs zucht naar wereldheerschappij. In vergelijking met de twee miljard leden die Facebook wereldwijd heeft, was Hyves met zijn zeven miljoen een gezapig braderietje in de Achterhoek. Maar toch. Wat als Zuckerberg vanaf het begin af aan wat minder autoriteit had gegeven aan zijn algoritme en wat meer aan zijn community managers? Misschien hadden de angels het dan wel gewonnen van de trollen.

Meer over

Wilt u belangrijke informatie delen met de Volkskrant?

Tip hier onze journalisten


Op alle verhalen van de Volkskrant rust uiteraard copyright. Linken kan altijd, eventueel met de intro van het stuk erboven.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar copyright @volkskrant.nl.
© 2019 DPG Media B.V. - alle rechten voorbehouden