Bard van de Weijer
Bard van de Weijer © Cigdem Yuksel

Het weren van foute algoritmes: een lovenswaardig en ogenschijnlijk onuitvoerbaar streven

Control-Alt-Delete

Bard van de Weijer bespreekt de logica en onlogica van technologica. Deze week: foute algoritmes.

New York wil foute algoritmes gaan weren. Software die groepen burgers discrimineert of buitensluit, mag niet langer draaien op de stadscomputers. Een lovenswaardig en ogenschijnlijk onuitvoerbaar streven. Het weren van slechte algoritmes is alsof McDonald's de strijd aanbindt met calorieën en president Trump zegt dat de Amerikaanse samenleving best eens baat kan hebben bij nivellering.

De aanleiding voor New Yorks besluit is een softwarepakket dat werd gebruikt voor forensisch dna-onderzoek. Deze Forensic Statistical Tool hanteerde onder meer te grote foutmarges, waardoor nu mogelijk duizenden misdaden opnieuw onderzocht moeten worden.