Hoogleraar computerwetenschappen vreest opmars AI: ‘Wilt u 50 euro extra betalen voor een mens? Toets 1’

‘Dit is het einde der tijden, hè? Zo voelt het echt.’ Ergens halverwege het interview voert Felienne Hermans (39) haar toch al hoge spreektempo nog wat verder op. Terwijl ze overal halleluja-verhalen hoort over de ontwikkelingen die kunstmatige intelligentie (AI) doormaakt, heeft ze zelf het gevoel verzeild te zijn geraakt in een sciencefictionfilm van de dystopische soort.

Nee, Hermans hoort niet bij het groepje onverbeterlijke techoptimisten dat reikhalzend uitziet naar de komst van het soort AI dat de mens op alle vlakken overvleugelt en de wereld beter gaat maken. De hoogleraar computerwetenschappen aan de Vrije Universiteit in Amsterdam én docent computeronderwijs aan een middelbare school in Kralingen gelooft niet in beide aannamen.

De gevaren liggen op een ander vlak: de gigantische energieconsumptie en CO₂-uitstoot van de stampende AI-computers, de stortvloed aan desinformatie die op ons afkomt en het verdwijnen van intermenselijk contact.

Vanuit haar werkkamer op de tiende verdieping van een modern universiteitsgebouw buiten de ring van Amsterdam beschrijft ze de slechte film waarin ze terecht lijkt te zijn gekomen, met Sam Altman in de hoofdrol. Altman is de topman en oprichter van OpenAI, de maker van het meest besproken AI-gereedschap uit de geschiedenis: ChatGPT.

‘Aan het begin van de film zie je hem zeggen dat hij met zijn software de wereld gaat redden. Iedereen vindt dat fantastisch, op een vrouwelijke, zwarte programmeur na die haar twijfels uit. Maar Altman wil geen bezwaren horen en duwt op een rode knop. En dan fast forward naar vijf jaar later waarin je ons als zombies in een grot ziet leven.’

Hermans’ voortdurende spraakwaterval wordt begeleid door een breiwerkje op schoot: ‘Dat helpt me een beetje te concentreren, ik ben nogal snel afgeleid.’ Haar gedachten gaan een stuk sneller dan de breipennen.

Die vrouwelijke zwarte engineer uit Hermans’ zombie-apocalyps-fantasie komt niet uit de lucht vallen. De wereld van de computerwetenschappen wordt nog altijd gedomineerd door mannen. Witte mannen, terwijl veel kritiek op AI-ontwikkelingen volgens Hermans vooral afkomstig is van de weinige vrouwen die in het veld werkzaam zijn, zoals de bij Google ontslagen Timnit Gebru, die al langer waarschuwt voor de gevaarlijke kanten van AI.

Waarom is diversiteit juist onder computer- en AI-wetenschappers zo belangrijk?

‘Software wordt nu vaak gemaakt door witte mannen. Die kijken logischerwijs vanuit hun eigen perspectief naar het eindproduct. Neem apps die bijhouden waar je je begeeft. Voor vrouwen, die misschien last hebben van een stalker, is dat op een heel andere manier akelig dan dat je het gewoon niet zo fijn vindt als mensen weten waar je woont.’

Critici waarschuwen al langer voor het feit dat in AI-systemen onbewust voorkeuren sluipen als gevolg van niet-neutrale data waarmee ze zijn getraind. Onlangs werd dit weer eens pijnlijk geïllustreerd door ChatGPT, dat bij het ‘trolley-probleem’ van een duidelijke voorkeur voor het redden van mannen boven vrouwen blijk gaf. Dit is een ethisch gedachtenexperiment waarbij een systeem moet beslissen wie hij redt bij een naderende calamiteit: de inzittenden van een trolley of de kwetsbare voetgangers.

‘Vrouwen moeten vanaf het begin meedenken. Hetzelfde geldt voor mensen van kleur. De weinige vrouwen zijn witte vrouwen uit de middenklasse, die weer andere problemen hebben dan zwarte vrouwen. Er is hier aan de VU een interessante rechtszaak geweest van een zwarte studente die ondervond dat de verplichte antispieksoftware die ze hier gebruikten tijdens examens in coronatijd haar niet goed herkende.’

Hoe doet Nederland het op dit vlak in vergelijking met andere landen?

‘Slecht. Nederland bungelt steevast onderaan in de lijsten van participatie van vrouwen in de techniek. En nog altijd ligt het landelijk percentage van meisjes op informatica-opleidingen hier op 9 procent. De meisjes die we hier hebben, komen voor een groot deel uit Oost-Europa en Azië.’

Waarom kiezen Nederlandse meisjes nog altijd niet voor ict?

‘Het zijn veel dingen bij elkaar. Allereerst hebben jongens een aanzienlijk grotere kans op voorkennis. Ik krijg mailtjes van vaders van een kind van 3: ik wil mijn zoon leren programmeren, wat zal ik doen? Ga lekker naar de speeltuin, denk ik dan. Verder hebben meisjes te maken met rolmodellen en stereotypes en een omgeving die een carrière in de ict subtiel ontmoedigen. Áls ze daarna al op school voor het eerst in aanraking komen met computeronderwijs, beginnen ze met een achterstand. De wijze van lesgeven lijkt neutraal, maar is dat niet. Veel programmeeronderwijs is gewoon uitproberen. Kinderen krijgen een soldeerbout en wat printplaatjes en vage instructies: maak maar een spelletje. Meisjes vinden dat spannender dan jongens, juist omdat ze al een achterstand hebben.’

Naast haar werk op de universiteit, waar ze als hoogleraar computer science education onderzoekt hoe mensen kunnen leren programmeren, geeft ze sinds 2013 ook één dag in de week les op een middelbare school in Kralingen. Gezien haar onderzoek aan de universiteit lijkt dit een bewuste stap, maar dat is het niet: ‘Ik wist op dat moment niet zo goed wat ik eigenlijk wilde met mijn leven. Wil ik wel in de wetenschap werken?’ Lacht: ‘Dat weet ik eigenlijk nog steeds niet. Maar goed, ik zat toen wat vast in mijn onderzoek. En mijn relatie raakte ook uit. Dus ik dacht: nou, wat moet ik nou toch met mijn leven? En toen ging ik op een school werken.’

Die school in Kralingen is uniek in Nederland omdat het het enige officiële codasium is. Het vak Programmeren en Modelleren is hier examenvak. Hermans hoopt zelfs dat programmeren al op de basisschool verplicht wordt. Ze zit in een commissie die minister Wiersma van Onderwijs adviseert over nieuwe leerdoelen op het gebied van digitale geletterdheid.

Zelf is Hermans een uitzondering. Begin jaren negentig staat thuis ineens een glimmende Commodore 64. Haar vader is verteld dat zo’n ding handig is voor zijn werk, maar het is de kleine Felienne die ’s avonds naar de werkkamer rent en achter de computer plaatsneemt. ‘Er zat niks op en je had toen ook nog helemaal geen internet. Dus als je een spelletje wilde doen, moest je dat zelf typen.’ Zo begint het. Via bibliotheekboeken met code en enthousiasmerende wiskundeleraren wordt het steeds serieuzer. Ze is het enige meisje in een jongenswereld.

Waarom is het zo belangrijk dat iedereen leert programmeren?

‘Omdat we deze kennis niet kunnen overlaten aan een klein clubje. Wil je de wereld om je heen begrijpen, dan moet je ook snappen hoe code werkt. Dat geldt voor burgers, maar ook voor de overheid. En kijk naar ChatGPT. Als je zelf niet een klein beetje kunt programmeren, dan snap je ook niet hoe zo’n programma werkt. En dan krijg je dus mensen die denken dat zo’n programma gevoelens heeft of echt slim is.’

Is dat erg?

‘Ja. Het is gevaarlijk als mensen te hoge verwachtingen van dat soort programma’s hebben en alles blind geloven. We hebben nu al een gigantisch desinformatieprobleem, maar dat is nog niets vergeleken bij wat op ons af komt. Die AI-modellen gaan bullshit spugen en dat wordt weer herverpakt door andere modellen, totdat niemand meer weet wat echt is. Kwaadwillenden kunnen nu heel eenvoudig wetenschappelijk uitziende papers produceren, inclusief bronnen en namen van echte wetenschappers, maar met gemanipuleerde tabellen en data. De verwarring wordt immens. Ik lig daar echt wakker van.’

Maar er worden ook mooie dingen voorgespiegeld. Sam Altman heeft het over medische hulp door AI voor mensen die geen echte dokter kunnen betalen.

Veert op van haar stoel: ‘Dat is toch juist een doodeng scenario? Want dit gaat er dan gebeuren: jij en ik hebben straks het geld voor menselijk contact. Maar anderen hebben dat niet en krijgen te maken met een chatbot. Wilt u 50 euro extra betalen voor een mens? Toets 1.’

Ook daarvan kun je je afvragen: is dat erg? Stel dat de medische robotinformatie nou even accuraat is en mensen tevreden zijn?

‘Ho, dit is iets fundamenteels. Overal en altijd hebben mensen de behoefte met elkaar te communiceren. Dat is het meest menselijke wat er is. Dat is een baby’tje dat tegen mammie zegt dat het honger heeft. Als we dat gaan outsourcen, dan kunnen we net zo goed gelijk in onze kist gaan liggen. Toch? Ik ben niet zo positief nee.’

Kunnen we nog terug?

‘Moeilijk. Soms denk ik: programma’s als ChatGPT zouden verboden moeten worden, waarbij ik natuurlijk weet dat dat onmogelijk is. Ik zou willen dat we de tijd konden terugdraaien en alsnog de stopknop indrukken. Waarom werken programmeurs hier überhaupt aan? Ik begrijp dat niet. Net zomin als ik begrijp wat voor probleem dit soort programma’s oplossen. Blijkbaar stellen te weinig mensen die vraag.’

En dat vrouwenprobleem in de ict? Ook daar is Hermans tegenwoordig sceptisch over: ‘Vroeger dacht ik dat dit wel zou zijn opgelost als ik 40 was. Nu ik bijna 40 ben, denk ik: dat ga ik niet meer meemaken voor mijn pensioen.’ Maar misschien zitten we tegen die tijd wel als zombies in grotten, te staren naar chatbots die met elkaar praten.