Sleutelen aan gezichtsherkenning levert meer op dan ermee stoppen

IBM stopt met gezichtsherkenning, maar daarmee zijn de kwalijke kanten van de techniek niet verholpen.

Je kunt de tandpasta niet terug de tube induwen. Toch is dat wat IBM nu probeert. Het techbedrijf baarde deze week opzien met zijn verklaring dat het niet langer producten op het gebied van gezichtsherkenning zal ontwikkelen en verkopen.

In een brief aan het Amerikaanse Congres zegt topman Arvind Krishna dat IBM niet langer wenst mee te werken aan de verspreiding van een techniek die gebruikt wordt voor ‘massasurveillance, etnische profilering en schendingen van fundamentele mensenrechten en vrijheden’.

Krishna meent dat technologie de politie kan helpen om gemeenschappen te beschermen. Maar, zegt hij ook: dezelfde technologie kan discriminatie of raciale onrechtvaardigheid bevorderen. Verkopers en gebruikers van systemen met gezichtsherkenning hebben een verantwoordelijkheid om ervoor te zorgen dat AI (kunstmatige intelligentie) wordt getest op vooringenomenheid, aldus Krishna.

Allemaal waar. De risico’s waarop Krishna wijst liggen op de loer. De voorbeelden van AI-systemen waardoor vooroordelen en discriminatie worden versterkt, zijn legio. Soms relatief onschuldig, zoals het bekende voorbeeld van de zeepdispenser die zwarte handen niet herkent. Heel vaak ook een stuk minder onschuldig. Denk aan het in de VS gebruikte Compas dat voorspelt of gevangenen weer in de fout zullen gaan. Dit systeem bleek bevoordeeld te zijn en voorspelde ten onrechte dat zwarte gevangenen bijna twee keer zoveel kans maken om in herhaalgedrag te vervallen dan witte.

Gelukkig is hier de laatste tijd steeds meer aandacht voor. ‘Garbage in, garbage out’ is bij kunstmatige intelligentie de regel. Als je er rommel instopt, komt er ook rommel uit. Eigenlijk is het nog erger: de rommel wordt ook nog eens versterkt.

Terug naar IBM. De door Krishna aangedragen oplossing om dan maar helemaal te stoppen is niet de meest logische. Gezichtsherkenning verdwijnt niet en de enige manier om die – en andere vormen van AI – te verbeteren is om er constant aan te blijven sleutelen, de fouten eruit te vissen en zo transparant mogelijk te zijn.

Dat IBM – niet de belangrijkste speler op het gebied van gezichtsherkenning – zijn handen ervan aftrekt, is hooguit symbolisch. De technologie staat pas aan het begin van zijn ontwikkeling. Overheden en opsporingsinstanties zijn er dol op. Het besluit van Amazon, afgelopen woensdag, dat de politie een jaar lang verbiedt gebruik te maken van zijn gezichtsherkenningstechnologie zet wat dat betreft meer zoden aan de dijk.

Ondertussen schieten er ook allerlei bedrijven uit de grond die de technologie gewoon aan consumenten aanbieden. Een voorbeeld is PimEyes. Net als Google zoekt deze Poolse dienst naar vergelijkbare afbeeldingen op internet, maar dan geraffineerder. Waar Google naar compositie en kleur kijkt, zoekt PimEyes echt op gezicht. Het bedrijf roept iets over privacy, maar heeft een duidelijk verdienmodel. Wie wil weten waar zijn gezicht (of dat van iemand anders) precies overal opduikt, moet de portemonnee trekken. Gezichtsherkenning is in alle opzichten lucratief. Alleen dat al zorgt ervoor dat ze niet snel verdwijnt. Het gaatje dat IBM achterlaat, zal snel worden gevuld. Ook door bedrijven met minder nobele bedoelingen.