DE BEWUSTE DIGIBETE BURGEROLAF TEMPELMAN

Fauxtomation is met goedkope arbeid een chic algoritme veinzen

Olaf Tempelman artikel ColumnBeeld .

Vorige maand zag ik op Canvas de documentaire The Inventor: Out for Blood in Silicon Valley. Een 19-jarige geneeskundestudent heeft een visioen van een bloedtestmachine die mensenwerk in laboratoria overbodig maakt. Specialisten zeggen dat ze utopisch denkt, zij zegt dat de jonge Steve Jobs ooit hetzelfde te horen kreeg. Miljardairs en politici vallen massaal voor ‘de Steve Jobs van de geneeskunde’, de trein van haar utopie gaat rijden, op haar 22ste is ze de jongste ceo van Silicon Valley. 

In het laboratium van haar glanzende kantoortoren ontaardt de utopie in een dystopie: als bloedtesten daar kloppen, zijn ze niet door de machine maar door mensen uitgevoerd. Overwerkte laboranten die het bedrog naar buiten willen brengen, worden jarenlang door de duurste advocaten geïntimideerd.

Hoe ongemakkelijk veel overeenkomsten er zijn met praktijken in ándere kantoortorens in Silicon Valley, heb ik geleerd uit Frictie – Ethiek in tijden van dataïsme van de jonge Nederlandse filosoof Miriam Rasch. Dit boek bevat een reeks sublieme analyses van tech-voor-een-betere-wereldgoeroes die massa’s weten wijs te maken dat hun uitvindingen niet aan menselijke beperkingen, voorkeuren en vooroordelen onderhevig zijn. Rasch citeert de term fauxtomation: nepautomatisering die moet verhullen dat systemen in feite draaien op menselijke arbeid, vaak onderbetaald.

Bondig samengevat: aan alle algoritmen die ons digitale leven sturen, liggen ook in 2020 nog arbitraire menselijke keuzen ten grondslag. Het etnisch vernuft van die algoritmen laat zo te wensen over dat onderbetaalde arbeidskrachten nare filmpjes van sociale media moeten verwijderen. Yottabytes aan data die over mensen worden verzameld, scheren steevast langs de oppervlakte van wie ze werkelijk zijn, maar op die data wordt wel beleid gebaseerd. Voor iedereen die wordt teruggebracht tot data, is Frictie een aanrader; voor wie dacht dat data tot een betere wereld leiden, is het een must-read.

Meer over

Wilt u belangrijke informatie delen met de Volkskrant?

Tip hier onze journalisten


Op alle verhalen van de Volkskrant rust uiteraard copyright. Linken kan altijd, eventueel met de intro van het stuk erboven.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar copyright @volkskrant.nl.
© 2020 DPG Media B.V. - alle rechten voorbehouden