NieuwsWenselijkheid gezichtsherkenning
D66 en CDA: stop op verdere gebruik van software voor gezichtsherkenning
Regeringspartijen D66 en CDA willen een stop op het verdere gebruik van software voor gezichtsherkenning. Zij vinden dat er eerst een politiek debat moet komen over de wenselijkheid ervan. Ook willen ze duidelijke kaders voordat gezichtsherkenning ingezet wordt: wie doet het, met welk doel en is de inzet omkeerbaar?
De software wordt snel beter en is aantrekkelijk voor zowel het bedrijfsleven als de overheid. Schiphol doet momenteel een test om te onderzoeken of fysieke paspoortcontroles vervangen kunnen worden door camera’s met gezichtsherkenning. In voetbalstadions van voetbalclubs, onder andere Ajax en PSV, wordt de techniek al ingezet.
En de Nederlandse politie gebruikt de software om in databases geautomatiseerd te zoeken naar gezichten van verdachte personen. In die database zijn de foto’s van 1,3 miljoen Nederlanders opgenomen. Voordat er nieuwe technieken van gezichtsherkenning komen, willen de regeringspartijen regels opstellen.
Chris van Dam, Kamerlid voor het CDA: ‘Gezichtsherkenning is een volgende stap in indringendheid waarbij mensen als een verzameling data worden gezien. Dat kan ten koste gaan van de menselijke waardigheid.’ CDA en D66 willen naast regels ook inventariseren waar de techniek allemaal ingezet wordt. De oppositiepartijen GroenLinks, SP en PvdA zijn al langer kritisch op gezichtsherkenningssoftware.
Uitgebreid pamflet
Het plan is onderdeel van een breder initiatief van D66 om de ‘indringende datamacht’ van overheden en bedrijven te beperken. In een uitgebreid pamflet roept D66-Kamerlid Kees Verhoeven dinsdag op tot een ‘digitale revolutie’.
Verhoeven: ‘Het wordt met de dag duidelijker dat overheden en techbedrijven hongerig zijn naar onze persoonsgegevens. Dat heeft gevolgen voor onze vrijheid en grondrechten. Discriminatie ligt op de loer en privacy verdwijnt.’
Verhoeven ervaart als Kamerlid een ‘machteloos gevoel’ door de wildgroei aan nieuwe technieken. ‘De politiek moet soms ook een streep in het zand durven zetten: tot hier en niet verder.’
Verhoeven maakt zich zorgen over diverse technologische ontwikkelingen. Uit een inventarisatie van de NOS onder gemeenten bleek onlangs dat die op grote schaal experimenteren met de inzet van voorspellende algoritmes. Om woninginbraken te voorkomen, schoolverlaters te voorspellen, zorgvragen te inventariseren en om fraude en criminaliteit op te sporen.
Verhoeven: ‘We weten niet hoe die technieken werken, terwijl er besluiten worden genomen op basis van de resultaten. Ik wil niet dat we ons over tien jaar realiseren dat er fouten zijn gemaakt omdat niemand nagedacht over de gevolgen.’
Grote zorgen
Een andere ontwikkeling is het koppelen van databestanden. Verhoeven vroeg aan minister Grapperhaus (Justitie en Veiligheid) een overzicht waar de overheid dat allemaal toepast. ‘De minister kon dat overzicht niet geven. Daar maak ik me grote zorgen over.’
Een voorbeeld van datakoppeling is het omstreden SyRI-systeem, ontwikkeld in 2013 door Sociale Zaken om uitkeringsfraude op te sporen. Het systeem koppelt data uit overheidsdatabases en zoekt met een onbekend algoritme naar verdachte patronen.
Acht partijen, waaronder Privacy First, schrijver Tommy Wieringa en rechtsfilosoof Maxim Februari, spanden eerder een rechtszaak aan tegen de Staat vanwege SyRi. Zij laken de massale profilering van vaak kwetsbare burgers.
Verhoeven vindt dat SyRi in strijd is met het onschuldbeginsel en het recht op privacy. ‘Algoritmes kunnen bepaalde vooroordelen versterken. Kwetsbare mensen zijn daarvan het slachtoffer. Met SyRI hollen we de rechtsstaat uit.’
Hij roept het kabinet op te stoppen met SyRI. Eerder maakte de Rotterdamse burgemeester Ahmed Aboutaleb bekend niet verder te gaan met SyRi vanwege onduidelijkheid over de bescherming van data.
