Controle over de toekomst

Vorig jaar nog juichte Viktor Mayer-Schönberger over de mogelijkheden van big data. Nu waarschuwt hij voor gevaren: ze worden gebruikt om voorspellingen te doen en straks worden we veroordeeld om wat we wellicht gaan doen.

Hij is een van de profeten van de big-data beweging - het geloof dat de geweldige hoeveelheid digitale gegevens die we opslaan een overvloedige nieuwe bron van nieuwe kennis is. De Big Data revolutie, heet zijn bijbel, en de ondertitel is veelzeggend: 'Hoe de data-explosie al onze vragen gaat beantwoorden.' Dat boek verscheen vorig jaar.


Maar nu, een jaar later, kijkt Viktor Mayer-Schönberger er wat anders tegenaan. Iedereen wil wat met big data: de NSA zoekt naar terroristen, de ING wil de betalingsgegevens van zijn klanten vermarkten, verzekeraars willen medische gegevens gebruiken. De hoogleraar aan het Oxford Internet Institute is zijn eigen hype voorbij. 'Als we dit verkeerd gebruiken, krijgen we een dystopie in plaats van een utopie. Het is een krachtig stuk gereedschap, maar we moeten ervoor uitkijken.'


Wat is er veranderd?

'Edward Snowden, dat is wat er veranderd is. Niet dat ik zulke praktijken niet had verwacht van de inlichtingendiensten. Natuurlijk zoeken inlichtingendiensten naar informatie, waar ze maar kunnen. Maar ik was verrast door de omvang van hun zoekwerk. Ik was verrast dat ze big data al zo goed begrijpen.'


Waar bent u bang voor?

'Dat ze de opgevangen informatie niet alleen gebruiken om een situatie te beschrijven of in te schatten, maar ook om voorspellingen te doen. Minority Report komt steeds dichterbij - die film waarin mensen worden veroordeeld niet om wat ze gedaan hebben, maar wat ze volgens de voorspellingen gaan doen. Dat baart mij grote zorgen. Tien jaar geleden maakte ik mij zorgen dat de overheid incompetent was. Nu met de NSA denk ik: ze doen hun werk te goed. En moeten we ons afvragen: willen we dat ze hun werk zo goed doen?'


Welke voorspellingen gebruikt de NSA dan om mensen te veroordelen?

'Die metadata zijn levensgevaarlijk, letterlijk. Dat is de kern van mijn zorgen. Het gaat om de topologie van sociale netwerken, het in kaart brengen van wie met wie praat. Dat geldt trouwens ook voor commerciële exploitatie van big data. Waarom heeft Facebook zo veel over voor WhatsApp? De inhoud van communicatie is niet zo waardevol als je zou denken. Praten is goedkoop: op internet kun je zeggen wat je wilt; betrouwbaar is het niet.


'Sociale contacten kun je veel minder makkelijk vervalsen. Dat zijn eerlijke signalen, dat is informatie die veel meer waard is. En daarom worden ze gebruikt voor voorspellingen. Kijk naar de NSA: het maakt hun nauwelijks uit wie wie is. Maar puur door het patroon van de contacten zien ze dat iemand belangrijk is. En dan sturen ze er een drone op af. Hij hoeft niets slechts te hebben gedaan, hij hoeft er alleen maar slecht uit te zien. '


De NSA weet wel meer over die doelwitten dan dat ze alleen belangrijk zijn. En dan nog, dit is toch een uitwas?

'Klopt, maar het is veel breder. Los van Snowden is er een algemene tendens naar voorspelbaarheid, naar het reduceren van risico's. Daar gaan big data enorm bij helpen. Het idee dat je ongelukken kunt uitbannen als je maar meer meet, meer weet. Het is niet voor niets dat kinderen zo veel toetsen krijgen, dat auto's vol zitten met sensoren, dat we steeds meer instrumenten omhangen waardoor we onszelf continu bemeteren. We denken dat we daarmee controle krijgen over de toekomst: we zullen gaan handelen naar die data.


'In Amerika gebruiken 34 staten big data om te beoordelen of een gevangene voorwaardelijk wordt vrijgelaten. We halen beslissingen zoveel mogelijk weg bij individuen. We accepteren niet meer dat die fouten maken.


'Kijk naar het gehuil als een tbs'er op proefverlof iemand vermoordt, of als jeugdzorg een familiedrama niet zag aankomen. Want dat verlangen we van onze instanties: dat ze alles zien aankomen.


'Ik denk ook dat het niet lang meer zal duren voordat, na een scheiding, de toewijzing van de kinderen aan de moeder of de vader zal zijn gebaseerd op een voorspelling wat voor soort moeder of vader je zult zijn - op basis van opleiding, inkomen, sociale achtergrond, psychische gesteldheid.'


Maar als dat tot minder ongelukken leidt, wat is daar dan erg aan?

'Dat is het effectiviteitsargument. Mensen zijn niet perfect, dat klopt. Maar als we het individu weghalen uit dit soort besluiten, dan geven we het principe op dat mensen over mensen moeten beslissen.


'De wil om met big data risico's uit te bannen, zal ook op een andere manier ons leven beïnvloeden. Stel dat je genetisch een grotere kans hebt op een hartaanval op je 65ste. Dan zal de verzekeraar van je verlangen dat je minder rood vlees gaat eten. Er zal grote maatschappelijk druk ontstaan om onszelf te meten en onze gezondheid in de gaten te houden. Het zal ook beloond worden. Nu al krijg je van je autoverzekeraar korting als je een zwarte doos laat inbouwen die bijhoudt wat je met je auto doet.'


Vooralsnog worden big data vooral gezien als een manier om googletje te spelen en je data te gebruiken om persoonsgerichte advertenties te sturen.

'Dat is peanuts! Data gebruiken voor gerichte marketing, dat is zó vorig jaar. Dan heb je nog een small data mind. Natuurlijk, je privacy wordt geschonden, je hebt het gevoel dat je de controle kwijt bent, dat is inderdaad eng. Maar het resultaat is een gerichte advertentie. Een advertentie! Daar ga je niet dood van.


'Maar ik ben wel bang dat dit soort toepassingen een reactie veroorzaken die een echt debat in de weg staan. Over hoe we big data wel kunnen gebruiken op een manier die goed is voor de maatschappij.'


Er zijn dus nog steeds heilzame toepassingen voor big data?

'Ja, als je ze grootschalig gebruikt, als we ervan leren voor de samenleving als geheel. De problemen ontstaan als we de data linken aan een individu en ze gebruiken om een causaal verband te leggen met wat dat individu doet of gaat doen. Dan overschrijden we een grens. We moeten een correlatie niet gaan verwarren met causaliteit.'


Wat bedoelt u daarmee?

'Precies wat ik zeg. Als laagopgeleide vaders vaker hun kinderen slaan, wil dat niet zeggen dat een laagopgeleide vader zijn kinderen gaat slaan. We moeten bescheidener zijn over wat we kunnen met big data. Je kunt erachter komen wat er gaande is, maar niet per se achter het waarom. Bescheidenheid, dat is het kernwoord. '


Zijn big data dan nog wel de revolutie die u predikte? Of een bescheiden revolutie?

'Ik zie nog steeds een paradigmaverschuiving. Die heeft enge kanten, maar ook positieve. Big data zijn een krachtig gereedschap, als je ze op de juiste manier gebruikt. Grootschalig, geanonimiseerd. Je kunt bijvoorbeeld op zoek gaan naar wisselwerkingen tussen medicijnen - daar gaan mensen nu aan dood. Er zijn vijftigduizend medicijnen, je kunt in een lab nooit onderzoeken hoe die elkaar allemaal beïnvloeden. Met data van patiënten kan dat wel. Je kunt er stadsplanning mee verbeteren, door de verkeersstromen in kaart te brengen - die patronen blijken heel anders te zijn dan wat men dacht.


'Je kunt big data ook persoonlijk gebruiken. Ik heb bijvoorbeeld een hoog cholesterol, maar dat is niet per se slecht, mijn lichaam is eraan gewend. Dan moet ik doses medicijnen krijgen die op mij zijn toegesneden. Nu worden patiënten altijd vergeleken met het gemiddelde, maar je moet worden vergeleken met je eigen normaal. Daar heb je data voor nodig, veel data. Die data zijn nu opgeslagen bij ziekenhuizen, verzekeringsmaatschappijen. Daar moet iets veranderen, zodat onderzoekers erbij kunnen.'


Kunnen bedrijven nog wat verdienen met big data?

'Ik heb veel contacten. Grote bedrijven als Google en Facebook zullen verder onder druk komen te staan. Klanten kunnen switchen als ze zich zorgen maken. Die bedrijven realiseren zich dat ook: vertrouwen vervliegt snel en het duurt lang om het terug te winnen. Maar tegelijkertijd moet ik zeggen: ze hebben big data wel begrepen. Neem Google, dat het thermostaatbedrijfje Nest heeft gekocht. Dat klopt helemaal. Daarmee kun je straks perfect de energiebehoefte voorspellen.'


Maar dan breek je weer in op de privacy?

'Dat is als ze het verkeerd doen. Maar als ze het goed doen, maken ze collectieve voorspellingen, geen individuele. Die informatie is veel waard. Vroeger werd energie simpelweg geproduceerd en naar de afnemers gestuurd. Nu wordt alles veel variabeler en gecompliceerder, met windmolens, zonnepanelen, elektrische auto's. Dus als je weet waar en wanneer energie nodig is, dan kun je veel geld verdienen als matchmaker. Voorspellen blijft de kern van big data, alleen moet je het niet persoonlijk maken.'


BESTSELLER


Precies op tijd

'Een verhelderend boek dat precies op het juiste moment verschijnt', schreef The New York Times over De Big Data Revolutie van Victor Mayer-Schönberger en Kenneth Cukier, datajournalist bij The Economist.

Meer over

Wilt u belangrijke informatie delen met de Volkskrant?

Tip hier onze journalisten


Op alle verhalen van de Volkskrant rust uiteraard copyright. Linken kan altijd, eventueel met de intro van het stuk erboven.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar copyright @volkskrant.nl.
© 2020 DPG Media B.V. - alle rechten voorbehouden