Column Kunstmatige intelligentie

Week in Techno: Boeven vangen met data

Een inval van de politie in het Amsterdamse Westelijk Havengebied. Bij de actie is een groep Roemenen aangehouden op verdenking van het plegen van diefstallen in het hele land. Beeld ANP

Mooie, nieuwe belofte: de politie wil verdachten oppakken vóórdat ze in actie komen. Heeft een auto een Roemeens kenteken? Vinkje. Rijdt deze richting winkelcentrum? Vinkje. Zitten er vier personen in? Bingo. Zo moet het ongeveer werken. De politie zet kunstmatige intelligentie aan het werk die gevoed wordt met zoveel mogelijk gegevens. Bijvoorbeeld van camerasystemen, van databases met gestolen auto’s en van systemen die kunnen uitlezen welke telefoons de potentiële winkeldieven of zakkenrollers gebruiken. Door dit alles te combineren, moet de computer verdachte profielen er zo uit kunnen pikken. Het resultaat: de gestolen Golf met de vier Roemenen gaat rechtsomkeert en het outletcentrum in Roermond – waar de proef begint – haalt opgelucht adem. Of toch niet?

Het is zo’n heerlijk neutrale term: data. De objectiviteit straalt er vanaf. En dat is nou net het probleem. Data zijn namelijk niet neutraal. In elk geval niet als ze worden gebruikt in combinatie met algoritmes om zo tot voorspellingen te komen. Kunstmatige intelligentie is zo goed als de data waarmee ze gevoed wordt. AI is het recept, data de ingrediënten. Daar wringt de schoen. 

Een van de grote problemen van AI is vooringenomenheid, in het jargon bias genoemd. De computer lijkt hiermee wel menselijk. Maar het gaat verder dan dat. Als het systeem gevoed wordt met voorbeelden van foute Roemenen, zullen automatisch de alarmbellen afgaan bij een auto vol Roemenen. Waarmee er nóg meer data komen van foute Roemenen. Een zichzelf versterkend effect dus. 

Het zou prettig zijn als de politie zich van dit gevaar bewust is. Worden er geen onschuldige mensen uit gepikt? Die kans is volgens de politie klein. Op de site van de NOS zegt iemand van de Nationale Politie het als volgt: ‘Ik denk dat de kans groter is dat je als crimineel wordt aangehouden, dan dat je als burger verkeerd wordt aangehouden.’ Dat is niet per se geruststellend. Als Elon Musk dit over een zelfrijdende auto zou zeggen (‘hij neemt de bocht vaker goed dan fout’) zouden we ons ernstige zorgen maken.

Meer over

Wilt u belangrijke informatie delen met de Volkskrant?

Tip hier onze journalisten


Op alle verhalen van de Volkskrant rust uiteraard copyright. Linken kan altijd, eventueel met de intro van het stuk erboven.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar copyright @volkskrant.nl.
© 2019 DPG Media B.V. - alle rechten voorbehouden