COLUMNSheila Sitalsing

De fraude-obsessie in dit land richt zich op de mensen die het minst bezitten

null Beeld

Het zinnetje dat meedingt naar een podiumplaats in de wedstrijd Meest Universeel Toepasbare ­Opmerking stond donderdag in de krant: ‘Er wordt wel over nagedacht, maar niet naar gehandeld.’ Kan over alles gaan. Over meer hardlopen en minder Netflix. Over een ‘nieuwe bestuurscultuur’ in Den Haag met dualisme en dunne regeerakkoorden, ­geschraagd door ‘nieuw leiderschap’. Over burgers netjes en rechtvaardig behandelen wanneer ze aankloppen bij een overheidsloket.

Allemaal dingen waar ontzettend veel over wordt na­gedacht, gelezen en gepraat, en die er in de barre praktijk telkens jammerlijk bij inschieten.

In het krantenartikel ging het over computeralgoritmes die voor het gemeentebestuur van Rotterdam uitkeringsfraudeurs proberen op te sporen. De Rekenkamer Rotterdam onderzocht of dit soort berekeningsmethodieken ­eerlijk zijn. De schrik zit erin sinds uit het schandaal met de kinderopvangtoeslag bleek dat mensen op basis van een ­rijtje kenmerken automatisch etiketjes met ‘opzet/grove schuld’ opgeplakt konden krijgen. Waarop ze in het verderf werden gestort, omdat tot in de allerhoogste regionen van dit fantastisch bestuurde land niemand in staat bleek te zeggen: ‘Stop.’

En schrikken blijft het, als je het rapport Gekleurde Technologie van de Rotterdamse Rekenkamer leest. Kort samen­gevat komen de bevindingen neer op: bij het automa­tiseren van fraudeopsporing doen ze maar wat bij de gemeente. Want wie legt de computer uit dat je in een democratische rechtsstaat niet zomaar kunt wijzen: schulden, arm, moeilijke achternaam, moeite met lezen, zal wel een fraudeur zijn? Angstwekkend weinig mensen. Bij het ontwikkelen van de fraudesoftware ‘speelden ethische principes geen rol’, schrijft de Rekenkamer. En ambtenaren hebben amper benul van de risico’s. Over het principe van de zelfversterkende feedbackloop, inherent aan profileren, wordt niet gesproken. Of: ‘Er wordt wel over nagedacht, maar niet naar gehandeld.’

Daardoor kan, zo lichtte Rekenkamerdirecteur Paul ­Hofstra in de Volkskrant toe, ‘een bepaalde vooringenomenheid in het systeem sluipen. En dat is in strijd met een ethisch principe: eerlijkheid.’

Niemand weet op welke plekken de gemeente Rotterdam algoritmen gebruikt. In elk geval ‘ook bij de gemeentebelastingen’, zegt Hofstra. Hij weet ook dat ambtenaren niet werken ‘met de Ethische Data Assistent, een model dat teams helpt ethische problemen te herkennen in data­projecten’.

Bijna twee jaar geleden stopte de gemeente Rotterdam na een hoop commotie met het Systeem Risico-indicatie SyRi, een systeem dat gegevens van individuele burgers over schulden, inburgering, inkomen, onderwijsniveau en meer aan elkaar knoopte en daaruit ‘verwonderadressen’ destilleerde – nieuwspraak voor ‘daar wonen vast fraudeurs’. SyRi werd over arme wijken heen gelegd, want belastingoptimaliserende proleten uit de betere wijken krijgen zelden een algoritme aan hun broek. De fraude-obsessie in dit land concentreert zich op de mensen die het minst ­bezitten en de minste mogelijkheden tot verweer hebben.

SyRi kon niet door de beugel, stelde de rechter vast. Het stelt niet gerust dat de gemeente Rotterdam na deze ervaring niet dacht: laten we alle algoritmen even onderzoeken.

Nog een bevinding uit het rapport die opvalt: wie er door het algoritme wordt uitgepikt voor een hercontrole, wordt ‘niet vanzelfsprekend’ ingelicht over de achtergrond van deze controle. Omdat de gemeente mensen ‘niet wil over­informeren over waarom zij precies zijn uitgenodigd’.

Burgers bewust niet ‘overinformeren’, want het wijzer maken van mensen leidt maar tot gedoe: zo sloop de rot in de bestuurscultuur. Hoedt u voor regenten met een computer.

Meer over

Wilt u belangrijke informatie delen met de Volkskrant?

Tip hier onze journalisten


Op alle verhalen van de Volkskrant rust uiteraard copyright. Linken kan altijd, eventueel met de intro van het stuk erboven.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar copyright @volkskrant.nl.
© 2021 DPG Media B.V. - alle rechten voorbehouden