INTERVIEW

Privacy, dat wordt iets voor de rijken

Overheden zouden techbedrijven moeten behandelen als fastfood-ketens, die ongezonde producten leveren. Maar in plaats daarvan wordt Silicon Valley omarmd, waarschuwt Evgeny Morozov.

Michael Persson
Als Google belooft de files op te lossen, zal de staat daarnaar luisteren Beeld Gees Voorhees
Als Google belooft de files op te lossen, zal de staat daarnaar luisterenBeeld Gees Voorhees

Bijna geruisloos ging het door de Tweede Kamer. Om uitkeringsfraude tegen te gaan mogen er best grote hoeveelheden gegevens van burgers worden gekoppeld. Unaniem en zonder veel discussie stemde het parlement in met het systeem. Evgeny Morozov, kritisch volger van digitale technologie, kijkt er nauwelijks nog van op. Big data is de droom van de moderne staat, en daar worden in de hele wereld nauwelijks vragen over gesteld, terwijl de gevolgen enorm zijn. 'Er komt een nieuwe manier van besturen aan. Niet met wetten, maar met algoritmen, die zullen beoordelen of je je goed gedraagt. De burger wordt de zondebok.'

De schrijver richt zich de laatste tijd vooral op de wisselwerking tussen de technologiebedrijven uit Silicon Valley en de overheid. Hun manieren van denken sluiten volgens hem naadloos bij elkaar aan: de eigen verantwoordelijkheid van het neoliberalisme past perfect bij de mens die voortdurend wordt bemeterd en beoordeeld - en tegelijkertijd wordt geacht zelf verantwoordelijk te zijn voor zijn leven. 'De keuze voor technologische oplossingen is een politieke keuze. Dat wordt veel te vaak vergeten.'

null Beeld Ivo van der Bent
Beeld Ivo van der Bent

Tegenwicht voor internet-adepten

Evgeny Morozov (Soligorsk, Wit-Rusland, 1984) maakte faam met boeken over de grote beloften van het internet (The Net Delusion en To save everything, click here). Daarin waarschuwt hij vooral voor het in zijn ogen naïeve vooruitgangsgeloof van internet-adepten. Vorige week hield hij de lezing Big data, small politics in de Soeterbeeck-reeks van de Radboud Universiteit Nijmegen.

Welke technologische oplossingen bedoelt u?

'Fraudebestrijding, terreurbestrijding, het voortdurend volgen van kinderen in het onderwijs, het gebruik van gezondheidsapps, robotauto's. Door het meten, gebruiken en combineren van data heeft de overheid het idee dat ze greep heeft op problemen. Maar daardoor worden de oorzaken niet meer onderzocht. Een overheid kan straks een land reguleren zonder te begrijpen wat er aan de hand is. Hoe bestrijden we terrorisme? Door lijsten op te stellen van mensen die mogelijk een vliegtuig zullen opblazen. Geweldige techniek hoor, dat combineren van kenmerken om verdachte patronen te vinden. Maar we onderzoeken nauwelijks hoe die mensen zover zijn gekomen, waarom ze die kenmerken vertonen. Het is symptoombestrijding.'

Het heeft toch effect?

'Op korte termijn kan een nofly-list het vliegen veiliger maken. Maar op lange termijn weet ik het niet. Als je niet naar de oorzaken op zoek gaat, en radicalisering niet veel vroeger probeert aan te pakken, dan is het dweilen met de kraan open. Zo'n lijst kan zelfs averechts werken: onderschat de frustratie niet van mensen die er ten onrechte op terechtkomen. Wat ik vooral wil zeggen, is dat het gebruik van data niet altijd beter is.'

Het is verleidelijk. Het is meetbaar.

'Het probleem is dat in het parlement bijna niemand de techniek, de middelen, ter discussie stelt. De hoe-vragen komen nooit aan de orde. Hoe werkt dit nieuwe, veelbelovende systeem eigenlijk precies? Terwijl dat de belangrijkste vragen zijn. We zijn het grotendeels eens over wat we willen. Veiligheid, goed onderwijs voor iedereen, goede wegen, een gezonde bevolking. Maar hoe gaan we dat bereiken? Door de markt of door regulering, dat is altijd de kernvraag geweest, maar die tegenstelling is sluipenderwijs vervangen door een blind geloof in innovatie. Hoe gaan we dat doen? A, met innovatie! Disruptieve innovatie, liefst. Iedereen vindt alles goed als het uit Silicon Valley komt en het onderwerp is op de eerstvolgende TEDx-conferentie.'

Vorige week stelde minister Kamp van Economische Zaken, op aandringen van D66, dat hij 'wetgeving die innovatie belemmert' snel wil wegnemen. Dit om nieuwe dienstenaanbieders zoals Uber en Airbnb te faciliteren, die de taxi- en hotelmarkt willen openbreken. Kamp liet weten heilig in digitale innovatie te geloven.

Waarom houdt de overheid zo van innovaties?

'Transparantie, de deeleconomie, het zijn woorden met positieve, democratische en zelfs sociale associaties. Maar deze innovaties passen perfect bij de heersende politieke ideologie dat het individu verantwoordelijk is voor zijn eigen lot. Kansloos en werkloos, maar wel een auto of een kamer over? Ga taxirijden, verhuur een kamer in je huis.

'In die transparante deeleconomie wordt iedereen voortdurend door elkaar beoordeeld: als consument, als verkoper van tweedehands spullen, als huurder, als chauffeur. Elke keer dat je wordt gerankt, bouwt dat aan je betrouwbaarheid, en zal dat je kansen op de markt veranderen. De markt zal je straffen als je je niet gedraagt. Ook dat past bij het discours van eigen verantwoordelijkheid.

'En die reputatiedata zullen steeds meer gekoppeld worden. Het begint echt waanzinnig te worden. Je reputatie als huurder bij Airbnb kan straks bepalen hoe hoog je verzekeringspremie wordt. Op Craigslist, de Amerikaanse internetmarktplaats, eisen de verhuurders van appartementen van aspirant-huurders dat ze hun profiel op Facebook kunnen zien. Om te kijken of je geen sociopaat bent.'

Is dat erg?

'Wat is er mooier dan dat je direct op je daden wordt afgerekend? Het geeft je een gevoel van controle. Maar dat is een illusie. Je bent overgeleverd aan de mening van anderen. Iemand mag mij best een eikel vinden vanwege een ruzietje, maar waarom moet een ander dat weten? Iemand die niet weet wat de context was? Wat als ik nou gewoon een keer een slechte dag had?'

Dat bedrijven deze reputaties gebruiken wil niet zeggen dat de overheid er ook iets mee doet.

'Maar de overheid trekt zich terug. De welvaartsstaat is aan het instorten, en dan is dit het verleidelijke alternatief met een grote ideologische aantrekkingskracht.'

Digitalisering en afbraak welvaartsstaat gaan hand in hand Beeld Gees Voorhees
Digitalisering en afbraak welvaartsstaat gaan hand in handBeeld Gees Voorhees

Kan ik me eraan onttrekken?

'Individuen zullen beloond worden als zij zich aan het systeem overgeven. Of andersom: wie geen reputatie heeft, krijgt bepaalde diensten niet meer. Daarnaast zullen mensen ook direct worden beoordeeld op hun gedrag, doordat ze zich vol zullen hangen met sensoren. Apple doet dit al, met de HealthKit. Dat zijn apparaatjes die bijvoorbeeld de bloeddruk meten en het aantal stappen dat je zet in een week. Die informatie kun je als gebruiker delen met zorgverleners en verzekeringsmaatschappijen. Hoeft niet, natuurlijk, maar je krijgt korting als je het wel doet. Wie dat niet doet, zal moeten betalen. Privacy zal heel snel een klassenkwestie worden. Je hebt een elite die het zich kan veroorloven hun data voor zichzelf te houden, en een massa die ze zal prijsgeven. Je zult moeten betalen voor een arts die niets van je leven weet.'

Is het geen eerlijker systeem? Wie gezond leeft, loopt minder risico en hoeft dus minder te betalen,

'De welvaartsstaat is gebouwd op het idee dat mensen pech kunnen hebben. Ik betaal voor iemand die iets minder gezond is. Oneerlijk? Het ging nooit over eerlijkheid, maar over solidariteit. De waarschijnlijkheid dat je ziek wordt, heeft geen invloed op de hoogte van de ziektepremie. Omdat je dat gewoon niet altijd in eigen hand hebt. Ja, misschien loop ik te weinig. Maar waar kan ik lopen, in Palo Alto? Er is geen publieke ruimte meer waar ik kan lopen. Hoe meetbaarder het individu wordt, hoe meer zijn gedrag de schuld zal krijgen. Maar het klopt gewoon niet. Je mag niet verantwoordelijk worden gehouden voor dingen die je niet hebt veroorzaakt.'

Morozov onderzoekt op dit moment de intellectuele geschiedenis van het internet. Onlangs schreef hij in tijdschrift The New Yorker een opmerkelijk verhaal over het gebruik van big data in het Chili van begin jaren zeventig, ten tijde van de socialistische president Allende. In een futuristische controleruimte in Santiago stond onder meer de 'algedonic meter', die aangaf hoe gelukkig het volk was. Morozov beschouwt het Chileense project Cybersyn als begin van de 'feedback-politiek', het sturen op uitkomsten.

Toont dat Chileense verhaal niet aan dat deze manier van besturen zeker niet exclusief neoliberaal is?

'Het verschil is dat de data toen vooral collectief werden gebruikt. Niemand werd individueel beoordeeld en afgerekend. Het is wel een interessant voorbeeld omdat het laat zien hoe de principes van de cybernetica, de halverwege de jaren veertig uitgevonden theorie over het besturen van systemen, voor het eerst in een land werden toegepast. Door een managementconsultant in dienst van een socialist.'

Het is niet voor niets dat ingenieurs hiermee werken. Het leidt tot efficiëntere systemen. Waarom zou je dit niet gebruiken om fraude te detecteren en misbruik uit te bannen?

'Alleen maar kijken hoe we wetten efficiënter maken - dat is een politieke keuze. Je zoekt dan naar degenen die misbruik maken van het systeem, terwijl het systeem zelf niet klopt. In Griekenland zijn het de magnaten en oligarchen die de wet zo veranderd hebben dat ze helemaal niets hoeven te betalen. En ja, dan ga je maar optreden tegen de kleine fraudeurs. Begin bij de wetten zelf!'

Waarom worden die systemen dan toch van links tot rechts omarmd?

'De technologie wordt gepresenteerd alsof de welvaartsstaat wordt gemoderniseerd, terwijl die gewoon wordt ontmanteld. Links trapt daarin. Nu alle andere oplossingen hebben gefaald, is digitale technologie de ultieme utopie. Al die bedrijven in Silicon Valley willen de wereld beter maken, zeggen ze. Mentale geruststelling, noem ik dat, want wie wil de wereld nou slechter maken? Zo omarmen we de infrastructuur waarmee in de toekomst het land wordt bestuurd - infrastructuur uit Silicon Valley, met Google voorop. Als Google straks belooft de files op te lossen, dan zal de staat daarnaar luisteren. En op een gegeven moment is er geen staat meer nodig.'

Dat klinkt als The Circle, de dystopische vooruitblik van Dave Eggers. Er is inmiddels toch een tegenbeweging?

'Met name in Europa zijn er privacywetten en antitrustwetten waarmee tegengas wordt gegeven. Maar ik betwijfel of die sterk genoeg zijn. De tegenbeweging komt deels voort uit jaloezie en frustratie van Europese bedrijven en politici. Maar het probleem is niet opgelost met een Europese variant van Google en Facebook. Alsof alles oké wordt zonder deze monopolies.'

Volgens Morozov moet de staat zelf kritischer worden over nieuwe technologie. Sociale media en andere techbedrijven moeten worden behandeld als fastfood-ketens: de producten zijn misschien best lekker, maar vaak ongezond. We moeten volgens hem een 'alternatieve, decentrale infrastructuur' bouwen, 'zonder de ideologie en massa van Silicon Valley'. Dat moet gebeuren door een radicale beweging van hackers en appbouwers - zwaar gesubsidieerd door de overheid.

Dat klinkt vaag en onwaarschijnlijk. Je kunt de nieuwe technologie toch gewoon negeren?

'Meedoen levert geld op. Bovendien: wat kun je nog zonder de nieuwe technologie? Eruit stappen is onmogelijk, zonder alternatief. Zelf ben ik Google Now gaan gebruiken, de agenda die actief alles voor je bijhoudt. Het zou me enorm veel moeite kosten om me er weer van los te koppelen: als ik dat doe, heb ik een secretaresse nodig. Techbedrijven creëren een nieuw normaal. Zonder alternatief is het onwaarschijnlijk dat we wakker worden.'

Wilt u belangrijke informatie delen met de Volkskrant?

Tip hier onze journalisten


Op alle verhalen van de Volkskrant rust uiteraard copyright.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar copyright @volkskrant.nl.
© 2022 DPG Media B.V. - alle rechten voorbehouden