Oud-Tweede Kamerlid Kathalijne Buitenweg roept op tot verzet tegen dataverzamelaars

Bedrijven en overheden houden allerlei gegevens over burgers bij en dan worden die burgers nog geacht zelf hun privacy te bewaken ook. Kathalijne Buitenweg, net Tweede Kamerlid af, roept op tot verzet.

Haar bezorgdheid begon dik vijf jaar geleden met de aanschaf van ‘die televisie’. Kathalijne Buitenweg (51), net Tweede Kamerlid voor GroenLinks af, wijst naar een smart tv die op de grond staat in de woonkamer van haar huis in het Oostelijk Havengebied in Amsterdam met uitzicht op het loodgrijze water van het IJ. ‘Ik las een jaar na aanschaf dat de fabrikant van dat soort tv’s mee kon luisteren in de huiskamer en dacht: Huh? In mijn eigen huis? Waar is de knop waarmee ik dat uit kan zetten? Die was er niet. Dat was het moment dat tot me doordrong: er gebeurt van alles rond die digitalisering dat diep indruist tegen mijn privacy, waar ik helemaal geen weet van heb.’

Inmiddels is duidelijk hoe diep. Techbedrijven manipuleren op basis van eerdere aankopen, zoektermen, locaties, berichten en likes onze aankopen en de informatie die we zien. Werkgevers bespieden hun werknemers via bossware (het gebruik ervan nam in de coronacrisis wereldwijd met 30 procent toe). En ook de overheid kan de datadrift niet weerstaan en voorspelt inmiddels op basis van zelflerende algoritmen welke uitkeringsgerechtigde het meeste kans heeft om uit te stromen naar werk (en dus hulp krijgt) of wie waarschijnlijk een vroegtijdige schoolverlater zal worden. Of een fraudeur.

De ongekende datahonger verandert de machtsverhoudingen in onze samenleving, vindt Buitenweg. Waarbij de burger het onderspit delft. ‘Maar die machtsverschuiving is geen natuurverschijnsel, geen wet van Meden en Perzen. Daar kunnen we tegenkracht tegen organiseren.’

Het is de belangrijkste boodschap van haar boek Datamacht en tegenkracht – Hoe we de macht over onze gegevens kunnen terugkrijgen, dat deze week verschijnt. Net als bij het klimaatprobleem is veel te lang de verantwoordelijkheid bij de burgers gelegd – ‘die moesten hun data maar beter beschermen en minder makkelijk afstaan’ – maar dat is kul, vindt ze. ‘Dit is een politieke kwestie, dit moet je via wetgeving regelen.’

In de politiek was daar tot voor kort weinig animo voor, omdat kennis in de Kamer ontbreekt en het onderwerp versplinterd is. ‘Er zijn vier bewindspersonen die zich bezighouden met digitalisering.’ Het gevolg is dat het voor de meeste bewindspersonen en Kamerleden maar een heel klein onderdeeltje van hun portefeuille is, waardoor ze nauwelijks expertise ontwikkelen. ‘Ik vond dat volstrekt onbegrijpelijk: dat er dus een enorme transitie gaande is, maar dat er nergens centraal wordt nagedacht over hoe we die vorm gaan geven. We laten het maar een beetje gebeuren.’

Waar heeft de Kamer echt steken laten vallen door een gebrek aan expertise?

‘De invoering van SyRI, een systeem om fraude met sociale voorzieningen te voorkomen, is in 2014 als hamerstuk behandeld: de Kamer heeft er geen woord aan vuilgemaakt. Dat het vorig jaar door de rechter werd verboden, is te danken aan een groep bezorgde burgers en maatschappelijke organisaties. Er werden zoveel gegevens van onschuldige burgers verzameld – van boetes uit het verleden, huisvesting, onderwijs tot energie- en waterverbruik. En de overheid weigerde uit te leggen hoe de algoritmen werkten. Later bleek dat het ook alleen is ingezet in arme wijken. Door een gebrek aan kennis voorzagen Kamerleden dat niet.’

Samen met de enige ict-experts die de Kamer rijk was, Chris van Dam (CDA), Kees Verhoeven (D66) en Jan Middendorp (VVD), maakte Buitenweg zich de afgelopen vier jaar daarom hard voor een vaste commissie Digitale Zaken, die deze maand ook echt is geïnstalleerd.

Haar boek is te lezen als een ‘overdrachtsdocument’ voor de nieuwe collega’s van die commissie, want Buitenweg maakte bekend dat ze na veertien jaar volksvertegenwoordiging (tien jaar in het Europees Parlement en vier in de Tweede Kamer) de politiek verlaat. In 2019 werd bij haar darmkanker vastgesteld en hoewel ze zo veel mogelijk doorwerkte, haar boek schreef en inmiddels genezen is verklaard, wilde ze niet op dezelfde voet verder. ‘Ik ben nooit echt bang geweest dat ik het niet zou halen, al had ik wel uitzaaiingen in de lymfeklieren. Maar je gaat natuurlijk wel nadenken over wat belangrijk is in je leven en wat je nog wil. Die ziekte maakte bij mij een enorme honger los naar nieuwe kanten van het leven.’ En dus begint ze volgende maand bij de Raad van State, het belangrijkste adviesorgaan van de regering, waar ze minder met partijpolitiek en de waan van de dag bezig hoeft te zijn en langer en dieper kan nadenken over het effect van wetgeving op de samenleving en mensenrechten.

U maakt zich grote zorgen over de datawoede van de overheid. Maar die kan ook voor iets goeds aangewend worden. Bijvoorbeeld om huiselijk geweld te voorspellen, zoals in enkele Nederlandse gemeenten gebeurt. Heiligt het doel dan niet de middelen?

‘Je moet daar voorzichtig mee zijn, omdat je gemakkelijk verkeerde conclusies trekt. Uit onderzoek van de Amerikaanse politicoloog Virginia Eubanks bleek dat veel datasets die de Amerikaanse overheid gebruikte om te voorspellen wie een grote kans had om slachtoffer te worden van huiselijk geweld, gekleurd waren.

‘Want welke data had de overheid tot zijn beschikking? Die van armere gezinnen die door hun afhankelijkheid meer in contact waren geweest met de overheid. Kindermishandeling werd daardoor ten onrechte gezien als een armenprobleem. Het geweld tegen kinderen in rijke families werd niet opgemerkt.

‘In Den Bosch werd onderzocht of ze gebruik konden maken van algoritmen om te bepalen welke uitkeringsgerechtigden de grootste kans op uitstroom naar werk hebben: die mensen zouden dan de meeste hulp krijgen. Zo’n algoritme maakt per definitie gebruik van historische data. Als je daar niet op corrigeert, maakt bijvoorbeeld een vrouw met een migratieachtergrond minder kans omdat die groep in het verleden minder werkte. Vanwege beperkte datakwaliteit is het experiment gestopt. Maar de vraag blijft of zo’n algoritme überhaupt wenselijk is.

‘Bij Amazon ondervonden ze iets vergelijkbaars: daar werd de personeelsselectie gedaan door een zelflerende robot – tot bleek dat er alleen maar mannen werden aangenomen. Ook hier zat een bias in de historische data die door het zelflerende algoritme werd versterkt.’

Waarom hebben we zo’n groot vertrouwen in algoritmen?

‘Er heerst sowieso een enorm tech-optimisme, een buitensporig vertrouwen in techniek. We hebben de neiging om beslissingen van de computer voor waar aan te nemen. Bij het Centrum Indicatiestelling Zorg bijvoorbeeld bepaalt een algoritme wie recht heeft op langdurige zorg, maar neemt een medewerker de uiteindelijke beslissing. Alleen vinden die het volgens het CIZ lastig om af te wijken van de uitkomst van de computer omdat ze denken dat computers objectiever oordelen. Maar techniek is niet neutraal. Algoritmen worden gevoed met data die per definitie selectief zijn.’

Wat kun je ertegen doen?

‘Algoritmen moeten om te beginnen openbaar zijn: je moet onder de motorkap kunnen kijken. In de Groene Amsterdammer las ik dat een ambtenaar die in Dordrecht met behulp van algoritmen schooluitval voorspelt soms niets begrijpt van de selectie: dan komt de naam naar boven van iemand die maar één keer heeft gespijbeld, terwijl degene die tien keer is weggebleven ongemoeid gelaten wordt. Daarbij heb je als burger het wettelijk recht op een menselijke blik. Dat betekent dat je goed opgeleide ambtenaren moet hebben die wél tegen een beslissing van de computer in durven gaan. Algoritmen inzetten mag dus nooit een bezuinigingsmaatregel zijn.’

U zegt: privacy is zo belangrijk omdat het een voorwaarde is voor alle andere rechten. Wat bedoelt u?

‘Neem de sociale-mediabedrijven. Dat zij, doordat ze al jouw gegevens minen en verkopen, kunnen bepalen welke advertenties en berichten jij ziet, waardoor je nauwelijks uit je eigen bubbel kunt breken, is een kwalijke inperking van jouw democratische vrijheden en jaagt polarisatie aan. Het druist in tegen het recht op vrije meningsvorming.

‘Ik herinner me de tweet van een Britse journalist die vlak na het referendum vertwijfeld uitriep: ‘Ik zie op Facebook niemand die vóór de Brexit heeft gestemd.’ Zo dicht was zijn bubbel.’

Waardoor je zomaar zou kunnen denken: zie je wel, er is gefraudeerd.

‘Want je ziet de uitslag niet terug op je sociale media. Dat ondermijnt het vertrouwen in de democratie.’

Bedrijven als Twitter en YouTube proberen dat probleem nu aan te pakken door waarschuwingen te plaatsen bij nepnieuws of accounts te blokkeren. Facebook heeft net een soort hooggerechtshof aangesteld waar eigenaren van verwijderde accounts bezwaar kunnen aantekenen. Dat is toch een stap in de goede richting?

‘Dat is om ons af te leiden van de echte discussie die we moeten voeren. Desinformatie wordt zo wijd verspreid omdat de algoritmen van Facebook dat bevorderen. De meest heftige, extreme en gewelddadige berichten worden, zoals we inmiddels allemaal weten, veel sneller verspreid dan feitelijke berichten. De algoritmen zijn het echte probleem en dat pakt Facebook niet aan, want dat is de kip met de gouden eieren.’

Kúnnen we onze privacy nog wel beschermen?

‘Veel mensen hebben inderdaad het gevoel dat privacy niet meer houdbaar is, dat het opgeven daarvan nu eenmaal de prijs is die we betalen voor de vernieuwingen en innovaties die ons leven zo lekker makkelijk en veilig maken. Maar dat is onzin. Dat willen databedrijven politici doen geloven: dat je vooral niet moet willen reguleren, omdat je dan de innovatiekracht in de knop breekt.

‘Maar ook bedrijven kun je verplichten hun algoritmen openbaar te maken. En je kunt grenzen stellen aan het verdienmodel. Er moet een verbod komen op de handel in persoonsgegevens.’

Dan stel je geen grenzen, maar breng je het verdienmodel om zeep.

‘Ook bij een verbod op de handel in persoonsgegevens kunnen sociale mediabedrijven heus nog wel advertenties verkopen. Alleen mogen dat geen gepersonaliseerde advertenties zijn, maar moeten ze contextgebonden zijn. Dus als ik een artikel over mode lees, of zoek op ‘jurk’, mogen ze advertenties met jurken in de kantlijn tonen, maar die mogen dan niet verschijnen als ik vervolgens naar de site van de Volkskrant ga waar ik een stuk over politiek lees.

‘Voor zo’n verbod op de handel in persoonsgegevens is een meerderheid in het Europees Parlement. Op dit moment ligt de Digital Service Act, waarin dat wordt voorgesteld, voor bij de Raad van Ministers. Die wet gaat ook de aansprakelijkheid van bedrijven als Facebook voor hun content regelen. Het duurt nog jaren voor die wet er zal zijn. Maar nu is het moment dat de lidstaten die vorm kunnen geven.’

Tegenstanders van regulering vrezen dat het internet als vrijplaats dan verdwijnt.

‘Ik zie niet hoe het aan banden leggen van de techreuzen de vrijheid meer inperkt dan de manipulatie waar we nu mee te maken hebben. Zelfs het aantal uitroeptekens dat je zet, wordt geanalyseerd om je stemming te peilen voor de juiste advertentie. Dat noem ik geen vrijheid.

‘Ondanks alle nadelen van bubbels en fake news zie ik het internet ook nog steeds als een vrijplaats die bijvoorbeeld de democratiseringsbeweging in Iran mogelijk maakt of vrouwen de kans geeft om hun eigen podium te creëren omdat ze in de traditionele media minder aan het woord komen. Ook tijdens de laatste verkiezingscampagne kregen vrouwelijke lijsttrekkers minder zendtijd dan de mannelijke. Sociale media hebben vrouwen de kans gegeven om toch hun eigen boodschap te laten horen.’

Kan Europa de macht van de techreuzen wel breken?

‘Het is een enorme klus, maar het kan. Uiteindelijk komt het natuurlijk gewoon neer op de strijd tegen het grootkapitaal. Maar als het lukt, heeft het wereldwijd gevolgen. Dat zagen we ook met de AVG-wetgeving, die hoge privacyregels stelt. Bedrijven die internationaal zaken doen en handel willen drijven met Europa hebben geen zin om met verschillende standaarden te werken en kiezen dan wereldwijd voor de hoogste. In die zin heeft strenge Europese wetgeving bijna altijd een wereldwijd effect.’

Wat zou u Tjeenk Willink willen influisteren? Moet er een aparte minister voor Digitale Zaken komen?

‘Daar ben ik voor. Zodat er net als in de Kamercommissie Digitale Zaken vanuit een centrale plek wordt nagedacht over hoe wij de digitale transitie gaan doen en het ons niet alleen maar overkomt. Verder moet de Autoriteit Persoonsgegevens, die een grote rol speelt in naleving van de wet, voldoende geëquipeerd worden. Deze organisatie is zo verschrikkelijk onderbemenst dat ze zelfs haar meest basale taken niet uit kan voeren. Als mensen melding maken van phishingmails of whatsappfraude wordt daar niets mee gedaan. Laat staan dat er actief wordt opgespoord. In een tijd van toenemende cybercriminaliteit en datalekken, daalt het budget in 2022 van 24,6 naar 18 miljoen, terwijl het volgens accountantsbureau KPMG minstens 33 miljoen maar eigenlijk 60 miljoen zou moeten zijn.’

Met u vertrekken toevallig ook de andere drie ict-experts uit de Kamer, juist nu die kennis zo hard nodig is…

‘Dat was een beetje pijnlijk, ja. Maar door de Kamercommissie Digitale Zaken wordt nieuwe expertise opgebouwd.’

Dat duurt jaren. Kunnen we ons dat permitteren?

‘We zagen dat met het ontwikkelen van de corona-app al aparte woordvoerders opstonden in de Kamer. En die hebben er gezamenlijk voor gezorgd dat er nu een privacyveilige app is.’

Hoe is het trouwens afgelopen met die smart tv?

‘Tsja, die staat nog steeds in mijn woonkamer. Fabrikanten kunnen de data gebruiken om hun algoritmen voor de afstandsbediening-op-commando te verbeteren. Het is een naar idee, maar de tv is niet het raam uitgegaan.’

Aanvulling: In een eerdere versie van dit interview zei Buitenweg dat Den Bosch gebruik maakt van algoritmen om te bepalen welke uitkeringsgerechtigden de grootste kans hebben om uit te stromen naar werk. Het blijkt om een pilot te gaan die niet verder is uitgerold.