Analyse Kunstmatige intelligentie

De huiskamer wordt slim. Maar wat doen bedrijven met de verzamelde data?

Beeld Lars Deltrap

De Nederlandse huiskamer wordt slim. Dat levert gemak op, maar ook zorgen over privacy. Want wat gebeurt er met de intieme data die bedrijven verzamelen?

‘Hey Google. Doe mij maar een zonsondergang op de savanne.’ Vanuit de hoek antwoordt een vrouwenstem bevestigend, de lamp in de andere hoek dompelt de huiskamer in een dieporanje gloed. De gebruiker heeft het perfecte licht, Google krijgt de gesproken tekst toegezonden. Iedereen blij, zo lijkt het.

Nederlanders bezitten inmiddels voor 1,7 miljard euro aan smart-home-apparaten, de markt is in 2018 met 70 procent gegroeid, becijferde onderzoeksbureau Multiscope vorige week. Daarbij helpt het dat Google afgelopen oktober een Nederlandstalige slimme speaker op de markt bracht. Niet alleen lampen laten zich via zulke praatpalen aansturen, dat geldt ook voor slimme rolluiken, thermostaten, televisies, zelfs magnetrons en wasmachines.

Deze YouTuber toont hoe dat eruitziet met verlichting (filmpje in het Engels):

De praatpaal waarin de digitale assistent met vrouwenstem huist, stuurt alle tekst die volgt op het ontwaakcommando, zoals ‘hey Google’, door naar het moederbedrijf. Google verzamelt die gegevens om de assistent te verbeteren. Hetzelfde geldt voor Amazon met zijn assistent Alexa en Apple met Siri. Daardoor klinkt in huiskamers steeds minder vaak: ‘Sorry, ik weet nog niet hoe ik hierbij kan helpen.’

Gesproken teksten zijn niet de enige intieme data die techbedrijven uit slimme woningen vissen. Dat geldt ook voor videobeelden van babycamera’s en met camera’s uitgeruste slimme deurbellen. Voor energiegegevens van slimme thermostaten, die zorgen dat het lekker warm is als de gebruiker thuiskomt. En voor gebruikersdata van al die andere apparaten waar het predicaat ‘smart’ voor is geplakt – er bestaat zelfs een slim toilet

Intransparant

Wat bedrijven precies met die gegevens doen? Dat is volslagen intransparant, volgens Colette Cuijpers, lector recht en digitale technologie bij de Juridische Hogeschool Avans-Fontys. Maar gerust is ze er niet op. ‘Doordat gebruikers toestemming geven, krijgen bedrijven veel meer ruimte om gegevens te gebruiken dan veel mensen doorhebben. Het is nu eenmaal moeilijk de ingewikkelde voorwaarden door te worstelen.’

Dat kan vergaande implicaties hebben, vreest zij. Fabrikanten van smart-home-apparatuur hebben niet alleen interesse in de gegevens om hun assistenten te verbeteren, de data zijn ook bruikbaar om online gerichter te adverteren. In de Verenigde Staten is het bovendien mogelijk bestellingen te plaatsen via digitale assistenten. ‘Ik kan geen Pringles proeven. Ik kan ze slechts bestellen’, zegt Alexa in een reclame die deze maand te zien was tijdens de Super Bowl.

Hoe meer bedrijven van iemand weten, hoe beter ze diegene kunnen profileren en vervolgens ‘manipuleren’ om producten te kopen, redeneert Cuijpers. Ter illustratie wijst ze op een rapport van de Universiteit van Colorado uit 2008, dat laat zien hoe dagelijkse handelingen zijn te achterhalen uit energiegegevens. Specifieke apparaten leveren bij het aan- en uitzetten herkenbare energiepieken en -dalen op. Het gebruik van grote huishoudelijke apparaten door de dag heen is daarmee te traceren ‘met herkenningsnauwkeurigheden die de perfectie benaderen’.

Of neem de patentaanvraag van Amazon voor een programma dat accenten kan destilleren uit stemopnames. Google patenteerde op zijn beurt de mogelijkheid om zaken als kledingsmaak af te leiden uit camerabeelden, waarna de slimme speaker suggesties kan doen voor kledingwinkels.

Volgens Amazon zijn de patenten bedoeld om de volle mogelijkheden van de technologie te onderzoeken, niet voor advertentiedoeleinden. Zowel Amazon als Google liet herhaaldelijk weten geen ruwe audio-opnames te gebruiken voor gerichtere advertenties. 

Profilering

Dat techbedrijven gebruikers gedetailleerd profileren om reclame gerichter aan te bieden is geen geheim. Zo biedt Facebook adverteerders de mogelijkheid groepen te benaderen met interesses als ‘homoseksualiteit’, ‘God (islam)’ of ‘Afro-Amerikanen’, zoals hier te zien is in de advertentiemanager van het bedrijf:

‘Een mogelijk gevolg van deze profilering is een vernauwing van het aanbod, op basis van je achtergrond, je gedrag en wat je leuk vindt’, zegt Colette Cuijpers. Het doemscenario is volgens haar dat een paar bedrijven de markt volledig beheersen en grote invloed krijgen op het koopgedrag van mensen. Om te beginnen doordat Alexa bijvoorbeeld de onlinewinkel van moederbedrijf Amazon kan bevoordelen.

Uiteraard zijn techbedrijven gebonden aan regels en wetten, zoals de vorig jaar ingevoerde Algemene Verordening Gegevensbescherming. Daaruit volgt dat bedrijven niet zomaar gegevens mogen verzamelen, aldus Gerrit-Jan Zwenne, hoogleraar recht en de informatiemaatschappij aan de Universiteit Leiden. Doorgaans hebben ze toestemming van de gebruiker nodig. Ze moeten hierbij uitleggen welke gegevens ze verzamelen, wat het doel daarvan is en hoelang ze de data bewaren. Ook moeten gebruikers de verzamelde gegevens kunnen inzien. Onder die voorwaarden is het doorverkopen van data aan derden eveneens toegestaan.

Dataschandalen

Zelfs de strengste privacyregels zijn niet bestand tegen technische fouten en kwade wil. Zo bleken slimme speakers van Google in 2017 permanent opnames te maken. De fout werd na ontdekking snel rechtgezet. Datzelfde jaar bleken praatpalen te hacken met stemcommando’s op frequenties die mensen niet kunnen horen, al was dit een ingewikkelde operatie. En onlangs meldden platforms The Intercept en The Information dat medewerkers van Ring, fabrikant van slimme deurbellen, vrijwel ongelimiteerde toegang kregen tot de camerabeelden van deze deurbellen. Volgens Ring gaat het om beelden waarin medewerkers handmatig labels aanbrengen om de herkenningssoftware te verbeteren, alleen verkregen uit de openbare buurtwacht-app Neighbors of met toestemming van de gebruiker.

En ja, het is onduidelijk wat bedrijven er vervolgens precies mee doen, zegt Zwenne. Maar daar heeft hij wel enig begrip voor. ‘Het gaat ook om bedrijfsgeheimen. Google gaat zijn algoritmen niet vrijgeven, dan gaat de concurrentie ermee vandoor.’

Bovendien, vervolgt hij ‘heb ik moeite met het neerzetten van de consumenten als willoze slachtoffers. Je kunt ze ook zien als mensen die keuzes maken. We moeten ook onderkennen dat bedrijven door te personaliseren betere diensten kunnen verlenen. Je merkt het al bij zoekmachines: Google geeft vaak betere zoekresultaten dan het privacyvriendelijke DuckDuckGo.‘

Maar de privacywetgeving is jong en de technologische ontwikkelingen gaan razendsnel, benadrukt hij. Daardoor loopt de wet achter de praktijk aan. ‘De privacywet leunt zwaar op het idee dat gebruikers de controle over hun eigen data krijgen als je ze goed informeert en de hele tijd om toestemming vraagt. Dat blijkt vaak fictie. We hebben niet de verwerkingscapaciteit om al die privacystatements te lezen, zelfs al gaat het om de persoonlijke data die smart-home-apparaten verzamelen. Nederland heeft de allerstrengste cookiewetgeving van de wereld. Heeft dat ons meer privacy gebracht? Volgens mij niet. We klikken alles ongelezen weg.’

Lees hier over de ervaringen van Anne van Driel met Alexa. ‘Toen ik in de supermarkt de Alexa-app op mijn telefoon opende, bevatte mijn boodschappenlijst één regel: ‘De ingrediënten van tonijnsalade met tomaat.’’

Als de EU zelf dataverzamelende systemen invoert, blijft er weinig over van het recht op privacy, zegt rechtsgeleerde Tijmen Wisman in dit interview met De Volkskrant.

Meer over

Wilt u belangrijke informatie delen met de Volkskrant?

Tip hier onze journalisten


Op alle verhalen van de Volkskrant rust uiteraard copyright. Linken kan altijd, eventueel met de intro van het stuk erboven.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar copyright @volkskrant.nl.
© 2019 de Persgroep Nederland B.V. - alle rechten voorbehouden