In tijden van robots voldoen de 'gewone' mensenrechten niet meer

Robots, kunstmatige intelligentie en het internet-of-things leggen steeds meer druk op onze fundamentele mensenrechten, zoals het recht op privacy. Tijd dus om de huidige mensenrechten aan te scherpen én er tegelijk maar even twee bij te bedenken.

Kuri van de startup Mayfield Robotics.

Facebook schotelde adverteerders onlangs een aantrekkelijk perspectief voor: het kan precies uit zijn gigantische databerg afleiden wat de gemoedstoestand van onzekere tieners is. Onzeker, gestrest of depressief? Een advertentie op maat doet wonderen, zo schreef de Australische krant the Australian op basis van een intern rapport van Facebook. Het is maar een van de vele voorbeelden van de invloed die machtige techbedrijven op de consument hebben.

Er speelt meer. Verhalen over filterbubbels en nepnieuws en over de rol van databedrijven bij de Amerikaanse verkiezingen en de Brexit bijvoorbeeld. Of: is het wenselijk dat kunstmatige intelligentie de rechter vervangt? Dat robots hulpbehoevende bejaarden verzorgen? Wie is er verantwoordelijk als een autonome auto een aanrijding veroorzaakt? Nieuwe technologieën grijpen steeds nadrukkelijker en intiemer in op het dagelijks leven.

De huidige mensenrechten voldoen kortom niet meer in het huidige tijdsgewricht van ongebreidelde dataverzameling, kunstmatige intelligentie en robotica. Dit is althans de conclusie van het Rathenau Instituut, dat op verzoek van het parlement van de Raad van Europa het rapport 'Mensenrechten in het Robottijdperk' schreef.

Dit rapport, waarin zeven bestaande mensenrechten worden geanalyseerd, is inmiddels door dit parlement aangenomen. De huidige wetten moeten worden aangescherpt en daarnaast zijn er twee nieuwe mensenrechten nodig.

Wat is de Raad van Europa?

De Raad van Europa is in 1949 opgericht om de democratie en de mensenrechten in geheel Europa te bevorderen. Het is geen onderdeel van de Europese Unie en heeft veel meer lidstaten dan de EU. Het orgaan moet niet verward worden met de Raad van de Europese Unie of de Europese Raad.

1. Het recht om niet gesurveilleerd of heimelijk beïnvloed te worden

We leven in een 'onlife'-wereld, een fysieke wereld waarin internet overal aanwezig is. In deze wereld moeten de mensen de mogelijkheid hebben anoniem te zijn. Het rapport laat er geen misverstand over bestaan: 'De meeste mensen zijn zich totaal niet bewust van de massasurveillance die door de staat als marktpartijen plaatsvindt.' Deze ontwikkeling heeft volgens het Rathenau Instituut een grote invloed op de mensenrechten.

Het gebrek aan aandacht voor het feit dat ons doen en laten op grote schaal in de gaten wordt gehouden, wordt verzameld én vervolgens wordt gebruikt om ons te manipuleren maakt dit nieuwe mensenrecht nodig, in aanvulling op het bestaande recht op privacy. Want, zegt het rapport: 'We zijn nogal weerloos.'

Als voorbeeld noemen de auteurs de ophef van vorig jaar nadat bleek dat winkels Nederlandse klanten via het wifi-signaal in de gaten hielden. De reactie van minister Kamp van Economische Zaken? Het publiek moet beter worden voorgelicht zodat het kan besluiten gewoon wifi uit te zetten. 'Het lijkt erop dat het in de gaten houden van mensen een belangrijker recht is dan het recht op privacy.'

Kan de weerloze mens nog wel bevrijd worden uit het wereldwijde panopticum waar hij van alle kanten door het alziende oog dat Internet heet in de gaten wordt gehouden? Melanie Peters, directeur van het Rathenau Instituut, zegt dat het een strijd is die op meerdere fronten gestreden moet worden. 'We hebben veel te lang de virtuele wereld als iets bijzonders gezien, als een vrijplaats waar alles maar moet kunnen. Dat is naïef. Technologie is niet neutraal: de virtuele wereld heeft effect op de fysieke wereld.'

We kunnen het ons volgens haar niet veroorloven om achterover te leunen en te wachten op een nieuw moreel kompas in de vorm van nieuwe mensenrechten. 'Nee, ondertussen moeten we bedrijven ook aanspreken op hun verantwoordelijkheid. We hebben onszelf machteloos gemaakt ten opzichte van de Googles en Apples van deze wereld. Heel lang gold het adagium: alles moet wijken voor innovatie. Want: innovatie is goed. Dat is het ook, maar niet ten koste van alles. We moeten weer durven opkomen voor het publieke belang. Want we geven nu veel meer weg dan ons lief is.'

Momenteel voert Google in Nederland een grote campagne waarbij het zijn gebruikers wijst op de mogelijkheid de privacy-instellingen aan te passen. Een goed initiatief, vindt Peters, maar het gaat niet ver genoeg. 'We hebben geen inzicht in hun algoritmes. Hetzelfde geldt voor Facebook.'

2. Het recht op betekenisvol contact

Of het nu de zorg voor ouderen betreft of het opvoeden van kinderen, machines moeten menselijke relaties niet vervangen, maar verbeteren. Zorgrobots kunnen heel nuttig zijn om een deel van de zorgtaken over te nemen, maar kunnen nooit het menselijke contact vervangen, zegt Peters. Ook dit is volgens haar zo belangrijk dat een aanvullend mensenrecht nodig is boven het bestaande recht op familieleven en respect voor de menselijke waardigheid.

Het parlement van de Raad van Europa heeft het rapport met de aanbevelingen inmiddels al overgenomen en de Raad van Ministers opgeroepen het verder uit te werken. Het kan uiteindelijk vele jaren duren voordat dit leidt tot concrete nieuwe wetgeving.


Reacties

Jan Smits - hoogleraar Recht en Techniek TU Eindhoven

Ik ben heel blij met het rapport, omdat het duidelijk maakt dat de bestaande rechten zwaar onder druk staan. De zorgen over ons privacyverlies deel ik volmondig. Wel vind ik het rapport nog redelijk mild op het punt van sensortechnologie: we worden aan alle kanten in de gaten gehouden. Via ons mobieltje dat vol zit met zenders, via verkeers- en beveiligingscamera's en via wifi. En de consument zegt overal maar 'ja' tegen. We laten ons als domme koeien naar de slachtbank leiden. Het probleem is dat er totaal geen sprake van een gelijkwaardige situatie is tussen de consument en de grote machtige techbedrijven. We hebben geen idee wat er in de zwarte dozen van Facebook en Google zit, terwijl ze wel beslissingen over ons nemen. Dat is angstaanjagend.

Frederik Zuiderveen Borgesius - onderzoeker aan het Intituut voor informatierecht van de UvA

De noodzaak om nieuwe mensenrechten toe te voegen voel ik niet, maar het is heel goed dat het rapport de huidige rechten tegen het licht van de technologische ontwikkelingen houdt. Met name ben ik blij met de aandacht voor de gevaren van automatische beslissingen die genomen worden op basis van algoritmes. Die algoritmes zijn logischerwijze volstrekt niet transparant, maar kunnen tot gevolg hebben dat maatschappelijke ongelijkheidheden worden versterkt. Is de maatschappij racistisch, dan zie je dat terug in een algoritme.

Meer over

Wilt u belangrijke informatie delen met de Volkskrant?

Tip hier onze journalisten


Op alle verhalen van de Volkskrant rust uiteraard copyright. Linken kan altijd, eventueel met de intro van het stuk erboven.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar copyright @volkskrant.nl.
© 2019 de Persgroep Nederland B.V. - alle rechten voorbehouden