Interview Lokke Moerel

ICT-hoogleraar: ‘Black Mirror is een goede waarschuwing, we moeten de baas blijven over technologie’

Algoritmes halen ontzettend veel meer gegevens uit een paar likes en iemands surfgedrag dan veel mensen in hun onschuld denken. Als we niet uitkijken wordt de technologie de baas.

Scène uit een aflevering van tv-serie ‘Black Mirror’, waarbij een kind een chip geïmplanteerd krijgt zodat haar ouders haar kunnen volgen. Beeld AP

Een huis dat alleen te koop is voor mensen met de juiste populariteitsscore. Een computeralgoritme dat dicteert wie met wie mag daten – en hoelang die relatie zal duren. Een videogame die zó echt voelt en zo verslavend is, dat mensen hun grip op de realiteit verliezen. Het zijn slechts drie van de thema’s van de razendpopulaire Netflix-serie Black Mirror. Fictie natuurlijk, maar afleveringen haken regelmatig in op huidige maatschappelijke trends. ‘Black Mirror is een goede waarschuwing: pas op dat we als samenleving niet deze kant op gaan’, zegt Lokke Moerel, hoogleraar Global ICT Law aan de Universiteit van Tilburg. ‘Ik ben echter een optimist, ik denk dat we het niet zover gaan laten komen.’ Maandag 16 september is ze in de Amsterdamse Balie een van de gasten bij het KennisCafé, de wetenschappelijke talkshow van onder meer de Volkskrant.

Alwetende computers die ons leven sturen zijn een populair thema in ­sciencefictionfilms. Komt die toekomst dichterbij?

‘Ja, in rap tempo zelfs als we niet oppassen. Mensen denken vaak: ik heb niks te verbergen, wat kan zo’n bedrijf nou met mijn likes en surfgedrag. Het gaat echter niet om die banale gegevens, maar wat je daaruit met kunstmatige intelligentie kan afleiden. De eerste eyeopener was in 2015. Stanford-onderzoekers konden met een handvol Facebook-likes al een betere inschatting maken van je persoonlijkheid dan de traditionele persoonlijkheidstesten. In 2017 bleek dat ze op basis van die gegevens ook je real-time emotionele gemoedstoestand kunnen bepalen, dus of je angstig, depressief, of geagiteerd bent. Dan ligt oneigenlijke beïnvloeding op de loer. Kijk naar de affaire met Cambridge Analytica. Uiteindelijk had dit bedrijf van elke Amerikaan duizenden datapunten, waardoor ze niet alleen wisten wat de politieke voorkeur was van mensen, maar ook wie te beïnvloeden waren en zelfs op welk onderdeel. Daarmee hebben ze de Amerikaanse verkiezingen gestuurd.’

Bent u een technofiel of een technofoob?

‘Ongebruikelijk, maar ik ben allebei. Kunstmatige intelligentie gaat fantastische verbeteringen brengen, bijvoorbeeld door gepersonaliseerde medicijnen mogelijk te maken. Ook bij een dating­algoritme zie ik voordelen. Zo’n algoritme kan soms echt beter voorspellen wie goed bij je past dan jijzelf, en kan je daardoor helpen om niet telkens in dezelfde valkuilen te stappen.

‘Tegelijkertijd ben ik een technofoob. Er is ook altijd een schaduwzijde die we moeten onderkennen en indammen. Vergelijk het met de industriële revolutie. Die bracht gigantische vooruitgang, maar initieel ook kinderarbeid, en je kon in Londen niet ademhalen van de smog. Als bedrijven door algoritmes meer over je weten dan jijzelf, kan je worden gemanipuleerd. Die algoritmes zijn nu vaak nog een zwarte doos, waardoor we niet weten hoe ze tot een uitkomst komen. Wat als een dating- of sollicitatie-algoritme bepaalde groepen volslagen ondoorzichtig uitsluit? We moeten als samenleving grenzen stellen aan welke beslissingen fundamenteel de autonomie van mensen raken en dus niet aan een algoritme kunnen worden overgelaten zonder dat dit transparant en controleerbaar is.’

Lokke Moerel: ‘Ik ben zowel een technofiel als een technofoob.’ Beeld ANP

De macht is in handen van een paar enorme techbedrijven die razendsnel innoveren en hun producten wereldwijd uitrollen. Kunnen wetgevers daar wel tegenop?

’Dat is een enorme uitdaging, zeker ook omdat de innovaties van deze bedrijven er nu ook op zijn gericht om ons offline leven in data om te zetten. Ons huis wordt slim gemaakt met allerlei met het internet verbonden apparaten en digitale assistenten die onze gesprekken thuis kunnen horen. Ons lichaam wordt in kaart gebracht door slimme horloges. Dit levert dataconcentraties op die echt onwenselijk zijn.

‘Hoewel wetgeving per land soms flink lijkt te verschillen, zijn de onderliggende beginselen vaak vergelijkbaar. Bijvoorbeeld dat autonomie cruciaal is voor mensen. Of dat machtsmonopolies onwenselijk zijn. Zulke beginselen kun je gebruiken om een internationale tegenmacht te creëren.

‘Er gebeurt enorm veel op dat front, momenteel. De techbedrijven liggen bijna bij alle privacy- en anti-trust-autoriteiten onder vuur. In de Verenigde Staten was het beleid lange tijd om de techbedrijven vooral hun gang te laten gaan. Zelfs daar zijn anti-trust-onderzoeken gestart en staat privacywetgeving in de steigers. Dit zijn hoopvolle ontwikkelingen. We moeten zelf de baas blijven over onze technologie – niet andersom.’

KennisCafé Black Mirror: Hoe wetenschap en techniek onze toekomst sturen. Maandag 16 september, 20:00 uur. De Balie, Amsterdam. Kaarten zijn hier verkrijgbaar.

Meer over

Wilt u belangrijke informatie delen met de Volkskrant?

Tip hier onze journalisten


Op alle verhalen van de Volkskrant rust uiteraard copyright. Linken kan altijd, eventueel met de intro van het stuk erboven.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar copyright @volkskrant.nl.
© 2019 DPG Media B.V. - alle rechten voorbehouden