Boekrecensie Algoritme

Als AI-ondernemer is Stolze goed ingevoerd, maar vergeleken bij Fry scheert hij meer aan de oppervlakte (drie sterren)

Zowel wiskundige Hannah Fry als de Nederlandse ondernemer Jim Stolze beschrijft in nuchtere en heldere bewoordingen waarom algoritmes tegenwoordig in het dagelijkse leven zo’n belangrijke rol spelen.

Illustratie bij stuk over algoritme Beeld Leonie Bos

De films en series die u krijgt aangeraden door Netflix of de wekelijkse lijstjes met verrassende nieuwe muziek waarmee Spotify op de proppen komt: ze werken zo goed dankzij de ingenieuze algoritmes die op de achtergrond hun werk doen. Het zijn onschuldige toepassingen; er is geen man overboord als Netflix met een suggestie komt die de plank misslaat. Anders is het bij de gezondheidszorg (een algoritme dat voorspelt wat de kans is dat iemand kanker heeft), in het strafrecht (de robotrechter) of in het verkeer (de autonoom rijdende auto). Ook in die gebieden spelen algoritmes de laatste jaren een steeds grotere rol. Helaas gaat het lang niet altijd goed. In Algoritmes aan de macht van Hannah Fry en Algoritmisering, wen er maar aan! van Jim Stolze komt een lange stoet voorbeelden voorbij.

Als het om algoritmes gaat, valt vaak de vergelijking met koken. De data zijn de ingrediënten, terwijl de algoritmes gelijk staan aan het recept waarmee het gerecht wordt gemaakt. Stolze en Fry beschrijven wat er allemaal fout kan gaan als er iets mis is met de gegevens waarmee een zelflerende algoritme wordt gevoed. Zoals in het systeem dat de ideale kandidaat in een sollicitatieprocedure moest selecteren en werd gevoed met gekleurde data. Het gevolg: vrouwen werden achtergesteld. Het zijn niet de enige gevaren. Fry schrijft uitgebreid over de nieuwe industrie die is ontstaan rond de gegevens die iedereen op internet achterlaat. Datamakelaars verdienen hier goed geld mee: ‘Ze hebben jouw meest persoonlijke, vertrouwelijke geheimen tot handelswaar gemaakt.’ En diezelfde data worden vervolgens gebruikt om de consument te manipuleren.

Is het dan allemaal ellende? Nee. Fry noemt juist de neiging alles zwart-wit te zien – algoritmes óf als almachtige bazen óf als nutteloze troep – een groot probleem. Zo waarschuwt ze voor het fenomeen ‘algoritme-aversie’: mensen verdragen de fouten van een algoritme minder goed dan die van henzelf, zelfs als hun eigen fouten groter zijn. Tegelijkertijd moeten we algoritmes van hun voetstuk halen, schrijft ze, ‘ze zorgvuldiger bestuderen en ons afvragen of ze echt in staat zijn te doen wat ze beweren. Dat is de enige manier om te beslissen of ze de macht verdienen die ze gegeven is.’

En dat is precies wat Fry in het boek doet: inzicht geven in de algoritmes die aan het werk zijn. Dat werkt bijzonder verfrissend. Neem de misdaad-voorspellende systemen van het Amerikaanse bedrijf Compas waar veel ophef over was. Gewoon een kwestie van statistiek: ‘Als je het eenmaal hebt uitgerekend, blijken meer onschuldige mannen dan onschuldige vrouwen onterecht te worden beschuldigd. Dit heeft niets met de misdaad zelf te maken, of met het algoritme: het is gewoon een wiskundige zekerheid. De uitkomst is vooringenomen omdat de werkelijkheid vooringenomen is. Meer mannen plegen moorden, dus meer mannen zullen er valselijk van beschuldigd worden dat ze in potentie een moordenaar zijn.’

Algoritmes zijn niet feilloos, betoogt Fry. Maar mensen zijn dat ook niet. Sterker: mensen maken nog veel vaker fouten. Bestuurders van auto’s, medisch specialisten, rechters: allen hebben hun vooroordelen, hun zwakke momenten en hun blinde vlekken. Maar de mens is nodig om te kunnen beoordelen of algoritmes betrouwbaar zijn. Of om de ethische regels te expliciteren waaraan systemen moeten voldoen. Want die systemen zelf hebben geen moraal; die bedrijven statistiek. Het menselijke element is dus essentieel in de wereld van de geautomatiseerde beslissingen: ‘Fouten kunnen alleen op een zinnige manier worden voorkomen als er een persoon met vetorecht is om de suggestie van een algoritme te beoordelen.’ 

Een concreet voorbeeld is hier weer de rechter. Het algoritme is onovertroffen in het voorspellen of iemand opnieuw in de fout zal gaan, maar het is uiteindelijk de menselijke rechter die beslist wat de strafmaat is. Ook bij medische diagnoses pleit Fry voor een samenwerking tussen mens en machine. Bij auto’s? Net zo: de vaardigheden van de computer moeten die van de mens aanvullen. ‘We moeten het idee overboord gooien dat auto’s elke keer perfect dienen te functioneren.’ Vergissingen zijn onvermijdelijk, wat ons geen andere keus laat dan de onzekerheid en de imperfectie te omarmen. 

Opvallend genoeg lukt het Fry niet om deze symbiose tussen mens en machine het hele boek door te denken. Zodra het over kunst gaat (machines kunnen immers ook muziek componeren of schilderijen maken), is het ineens óf óf. ‘De algoritmes zijn ongetwijfeld goede imitators, alleen niet erg goede vernieuwers.’ Fry concludeert dan ook dat er op dit vlak ‘grenzen zijn aan de reikwijdte van algoritmes’. Ze vergeet dat ook in de kunst diverse voorbeelden zijn waarbij mensen met algoritmes samenwerken om zo op nieuwe ideeën te komen. Het is een klein detail in een verder kraakhelder en toegankelijk boek dat een plek verdient naast het inmiddels klassieke Weapons of Math Destruction van Cathy O’Neil.

Ook Stolze hint in zijn boek op een samenwerking tussen mens en kunstmatige intelligentie (AI). En ook hij komt met de nodige voorbeelden die de lezer aan het denken zetten. Soms ook uit onverwachte hoek. De pomp bij het tankstation die even aarzelt als u wilt tanken? Komt door de algoritmes die aan het werk worden gezet om te berekenen wat de kans is dat u zonder te betalen wegrijdt. Of die mededeling die u krijgt dat het gesprek met het callcenter voor trainingsdoeleinden kan worden opgenomen: ‘Die gesprekken worden niet opgenomen om de menselijke medewerkers te trainen, maar om de algoritmes te trainen!’ 

Als AI-ondernemer is Stolze goed ingevoerd, maar vergeleken bij Fry scheert hij meer aan de oppervlakte. Een slordige 170 pagina’s is voor zo’n complex onderwerp net te karig, zeker gezien het grote aantal onderwerpen dat Stolze wil behandelen. Net als bij Fry is ook zijn boodschap echter helder: we moeten hard aan de slag om systemen te bouwen die we wél begrijpen.

Jim Stolze: Algoritmisering, wen er maar aan! Boom; 175 pagina’s; € 24,99. Drie sterren.

Hannah Fry: Algoritmes aan de macht. Vertaald uit het Engels door Johannes Jonkers. De Geus; 272 pagina’s; € 21,99. Vier sterren.

Meer over

Wilt u belangrijke informatie delen met de Volkskrant?

Tip hier onze journalisten


Op alle verhalen van de Volkskrant rust uiteraard copyright. Linken kan altijd, eventueel met de intro van het stuk erboven.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar copyright@volkskrant.nl.