De week in tech Laurens Verhagen

San Francisco legt gezichtherkenning aan banden en dat is terecht

Als eerste stad heeft San Francisco deze week het gebruik van gezichtsherkenningstechnologie door de politie en overheid verboden. De reden van het verbod laat zich raden: dergelijke software is te gevoelig voor fouten. Bovendien zou het gebruik een te grote inbreuk maken op de privacy van de inwoners. Deze krachtige druk op het rempedaal is verstandig. Specialisten op het gebied van kunstmatige intelligentie (AI) waarschuwen al langer voor de nadelen die kleven aan door algoritmes aangedreven automatische beeldherkenning. Of, breder nog: überhaupt voor beslissingen die op basis van AI worden gemaakt. Er gaat namelijk nog wel eens iets fout. Omdat er vooroordelen (‘bias’) in de algoritmes sluipen, waarmee de al bestaande vooroordelen alleen maar worden versterkt. Ander nadeel: de slimme hacks waarmee de gezichtsherkenning kan worden gefopt. Maar bovenal is de vrees dat camera’s die nu al in de openbare ruimte hangen een ideale basis zijn om een uiterst efficiënte vorm van massatoezicht via gezichtsherkenningstechnologie te maken. Logisch dat China zo dol is op de techniek.

Het verbod vanuit San Francisco, het centrum van technologische ontwikkelingen en innovatie, is – naast verstandig – vooral ook moedig . De stad wordt gezien als de ultieme ‘technotoop’ (een term van de Franse denker Jacques Ellul), een plek waarin het leven door de techniek wordt gevormd en bepaald. Thuishaven ook van het technologisch determinisme en techoptimisme waar de mensheid wordt voortgedreven door innovaties die noodzakelijk plaatsvinden. San Francisco zou nu eenvoudig kunnen worden weggezet als de bakermat van een stelletje angstige luddieten – fanatieke strijders tegen technologische ontwikkelingen. Dat kan, maar is te gemakkelijk. Zolang niet duidelijk is wat de nadelen zijn van gezichtsherkenningstechnologie is het goed om pas op de plaats te maken, zeker bij de politie.

Natuurlijk kan de stad de ontwikkelingen die al in gang zijn gezet niet tegenhouden. Commerciële toepassingen in Silicon Valley op dit vlak gaan gewoon door. Onderzoek net zo. De ontwikkelingen gaan met een verbijsterend tempo. En ze zijn al lang geen speeltje meer van vermogende techbedrijven. The New York Times deed onlangs nog een experiment waarmee de krant wilde aantonen hoe simpel het is mensen in de stad te volgen. De krant liet gezichtsherkenningssoftware van Amazon naar openbare camerabeelden kijken. Het spotgoedkope systeem detecteerde uit negen uur beeldmateriaal 2.750 gezichten. De software wist ook een aantal mensen te herkennen. Je moet sterk in je schoenen staan om tegen dit soort spotgoedkope en efficiënte toepassingen ‘nee’ te zeggen. San Francisco doet dat. Nu andere steden nog.

Meer over

Wilt u belangrijke informatie delen met de Volkskrant?

Tip hier onze journalisten


Op alle verhalen van de Volkskrant rust uiteraard copyright. Linken kan altijd, eventueel met de intro van het stuk erboven.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar copyright @volkskrant.nl.
© 2019 de Persgroep Nederland B.V. - alle rechten voorbehouden