ColumnFleur Jongepier

Digitale au? Hoe correcter de uitleg over de geautomatiseerde beslissing, hoe zinlozer die vaak is

Fleur Jongepier Beeld volkskrant
Fleur JongepierBeeld volkskrant
Fleur Jongepier

Een computer in het ziekenhuis besluit dat een kijkoperatie niet nodig is; het systeem van de bank dat je geen hypotheek krijgt; de Belastingdienst stuurt je een brief dat je volgens hun computersystemen geen recht hebt op toeslag. Wat hebben deze gevallen met elkaar gemeen? Dat je in elk geval recht hebt op uitleg.

Volgens de Algemene verordening gegevensbescherming (AVG), die nu zo’n vier jaar in werking is, heb je wanneer je wordt onderworpen aan geautomatiseerde besluitvorming, ‘recht op uitleg’. Digitale uitlegbaarheid is, net als ‘transparantie’ bij artificiële-intelligentiesystemen, een populaire term waar velen hun hoop op vestigen en gemoedsrust uit halen. We hebben recht te weten waarom en hoe computersystemen tot hun beslissingen komen, vooral als die beslissingen voor ons wezenlijke consequenties hebben. Maar aan de uitleg over een geautomatiseerde beslissing hebben we niet altijd veel.

Technische brabbeltaal

Stel, de medewerker van de bank deelt je mee dat je geen hypotheek krijgt, omdat het computersysteem dat zegt. Als goed geïnformeerd burger weet je dat je recht hebt op uitleg en dus eis je die. Na weken geëmmer, krijg je eindelijk een e-mail. Vol goede moed klik je op het attachment, om te worden geconfronteerd met een lange lijst volstrekt onbegrijpelijke technische brabbeltaal.

Het is wel degelijk een uitleg. Sterker nog, het is dé uitleg. Je hebt er alleen niets aan. Een correcte uitleg van waarom een computersysteem tot een beslissing of voorspelling komt, zal vaak precies geen bruikbare uitleg zijn. Hoe correcter de uitleg, hoe zinlozer die vaak is.

Als ik mijn kleine nichtje zeg dat ze haar handen bij het stopcontact vandaan moet halen omdat daar stroom op staat, is dat geen juiste uitleg. Als er geen stekker in een stopcontact zit, is er namelijk ook geen stroom. Wel staat er spanning op. (Dat soort dingen leer je als je vader elektrotechnisch ingenieur is.) Dat zal mijn nichtje natuurlijk worst wezen, want voor haar is de correcte uitleg niet van belang. De uitleg die zij nodig heeft, is dat je grote au krijgt als je je vingers in die gaatjes steekt.

De AVG spreekt van ‘betekenisvolle informatie over de logica’ van geautomatiseerde beslissingen. Een lang technisch verhaal waarom je hypotheekaanvraag is afgewezen, is evident niet betekenisvol. De oplossing is natuurlijk: volhouden. Je hebt immers recht op betekenisvolle uitleg!

Doorzetten dus, tot je uitleg krijgt waar je wat mee kunt. Nu komen we alleen bij een ander probleem: de meesten van ons weten niet wat onze digitale rechten precies zijn, laat staan dat we de tijd, zin en energie hebben om ze uit te oefenen.

Coded Bias

In de Netflix-documentaire Coded Bias die vorig jaar uitkwam, gaat de onstuitbare en daadkrachtige Joy Buolamwini het gevecht aan met big tech. Ze kwam erachter dat standaard gezichtsherkenningssoftware haar gezicht niet herkende, omdat de software primair is getraind met foto’s van witte mannelijke gezichten. Ook in de context van huisvesting, onderwijs en zorg worden vaak geautomatiseerde beslissingen genomen waardoor personen van kleur en vrouwen veel vaker aan het kortste eind trekken. Buolamwini richtte de Algorithmic Justice League op, een organisatie die racistische en seksistische vooroordelen in algoritmische systemen aan de kaak stelt.

Buolamwini is niet alleen activist, maar ook computerwetenschapper bij MIT. Haar tanden zetten in digitaal onrecht is niet alleen haar drive als burger, maar ook haar werk. Wij hebben allemaal recht op uitleg, recht om te weten of een algoritmische beslissing voortkomt uit onacceptabele vooroordelen, maar wij zijn niet allemaal Joy Buolamwini.

De AVG en het recht op uitleg zijn belangrijke stappen vooruit wat betreft digitale bescherming van burgers. Maar het frame waarop deze rust – dat individuen rechten hebben die ze kunnen claimen – schiet vaak tekort. De meesten van ons zijn helemaal niet in de positie om die strijd aan te gaan. Als we dat wel zijn, is de kans klein dat we een uitleg krijgen van het type grote au die ook volwassenen nodig hebben.

Fleur Jongepier is filosoof en essayist voor Bij Nader Inzien. Zij schrijft om de week een wisselcolumn met Erdal Balci.

Meer over

Wilt u belangrijke informatie delen met de Volkskrant?

Tip hier onze journalisten


Op alle verhalen van de Volkskrant rust uiteraard copyright.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar copyright @volkskrant.nl.
© 2022 DPG Media B.V. - alle rechten voorbehouden