opinie Deepfake

Laat de grip op uw identiteit niet aan techbedrijf over

Gezichts- en stemherkenning en deepfaketechnologie vergen wetten die onze identiteit beschermen, stellen Sander Duivestein, Thijs Pepping en Menno van Doorn, trendanalisten bij IT-dienstverlener Sogeti.

Het Chinese bedrijf Megvii, dat voor de Chinese staat technologie voor gezichtsherkenning maakt. Beeld EPA

NOS-presentator Dione Stax werd onlangs opgeschrikt door het nieuws dat ze de hoofdrol speelt in een seks­video. Met behulp van deepfaketechnologie is haar hoofd geplakt op het lichaam van een pornoster. In China is de ZAO-app, waarmee je in een handomdraai jezelf hoofdrolspeler maakt in een film, een hit. Met het gebruik van de niet van de echte te onderscheiden stem van een Britse ceo, konden criminelen onlangs 220 duizend euro buitmaken.

Iedereen kan intussen met slimme technologie de bizarste wisseltrucs toepassen. Grappig, maar tegelijkertijd enorm riskant. Als er niet snel maatregelen worden genomen, lijdt de samenleving massaal gezichtsverlies, in tal van opzichten. Het is de hoogste tijd dat burgers de controle terugkrijgen.

Trucage is fluitje van een cent

Technieken als beeldherkenning en software die stemmen herkent, bestaan al langer, maar stelden tot voor kort niet veel voor. Nu kunstmatige intelligentie in een razend tempo beter en slimmer wordt, is ­trucage met andermans gezicht of stem een fluitje van een cent. En juist de combinatie van technische doorbraken en het grootschalige gebruik van beeld- en spraaktechnologie is zo giftig.

Politiekorpsen, vliegtuigmaatschappijen, smartphoneleveranciers, voetbalstadions en fastfoodrestaurants, tal van organisaties zijn bezig met de aanleg van een slimme infrastructuur waarmee burgers niet langer fysiek of digitaal anoniem door het leven kunnen. Al die gezichts- en beeldherkenningstechnologie wordt met of zonder toestemming gebruikt en vaak zonder dat de burger er ook maar enig benul van heeft.

De burger heeft ook nauwelijks invloed op al deze ontwikkelingen. Een vliegreis maken zonder dat je gezicht bij de douane wordt gefotografeerd, kan niet meer. Je gegevens op je eigen computer beschermen lukt bijna niemand. Laat staan dat je als burger-klant bij machte bent je gezicht of stem te beschermen tegen, bijvoorbeeld, de grote technologiebedrijven van deze wereld.

Ons gezicht is niet van onszelf

Albert Heijn presenteerde afgelopen week trots hun nieuwe winkelconcept waarbij slimme technologie het mogelijk maakt boodschappen te doen zonder producten te scannen. Camera’s registreren hoe een klant zich door de winkel verplaatst en zien welke producten het mandje ingaan. Sensoren in de schappen voelen dat een klant iets pakt of terugzet. De camera’s bepalen de ­positie van klanten zonder gezichtsherkenning, zo verklaarde de grootgrutter. Maar welke wet of regel houdt Albert Heijn tegen om betaling met het gezicht mogelijk te maken? Ons gezicht is niet langer van onszelf. Met kijken in camera’s of praten tegen digitale assistenten ­geven we voortdurend een stukje van ons zelf weg.

 Als gezichten en stemmen massaal worden ge- of misbruikt voor welk doel dan ook, dan ligt een identiteitscrisis op de loer. Het valt straks nauwelijks nog te bewijzen wie je bent als je gezicht en je stem niet langer van jou zijn. Mensen die geen privacy kennen en weten dat ze overal worden herkend of gevolgd, zijn geneigd bepaalde gedragingen te onderdrukken of zichzelf te corrigeren tot, zoals dat heet, geoorloofd ­gedrag. Deze vorm van afschrikking heet juridisch het ‘chilling effect’: het is vrijheid onder voorbehoud.

Straf op stelen stem

De Canadese psycholoog en cultuurcriticus Joran Peterson pleit voor straf op het stelen van de menselijke stem. Ongeacht of dat grappig bedoeld is of niet. Dat is zijn wrange conclusie nadat anderen buiten zijn medeweten met zijn stem aan de haal waren gegaan. Peterson roept op tot bescherming van de stem als integraal onderdeel van de persoonlijke identiteit.

Facebook schakelde deze week de functie uit waarmee gezichten op foto’s worden geïdentificeerd. Zo’n actie laat zien dat we nu nog zijn aangewezen op zelfregulering. Maar de grip op onze identiteit mogen we niet overlaten aan grote techbedrijven. Zij verdienen miljarden aan consumentgegevens.

De persoonlijke vrijheid moet het uitgangspunt zijn voor nieuwe maatregelen, zoals betere wetgeving voor het vastleggen, opslaan, beveiligen en gebruiken van gezichts- en stemtechnologie. In welke surveillancemaatschappij willen we leven? Daarover moet het publieke debat gaan. Veel fouten kunnen we ons niet meer permitteren, want een wachtwoord kunnen we eenvoudig aanpassen, ons eigen gezicht niet. Kortom: de politiek is aan zet om onze persoonlijke identiteit te beschermen.

Sander Duivestein, Thijs Pepping en Menno van Doorn zijn trendanalisten bij IT-dienstverlener Sogeti. 

Meer over

Wilt u belangrijke informatie delen met de Volkskrant?

Tip hier onze journalisten


Op alle verhalen van de Volkskrant rust uiteraard copyright. Linken kan altijd, eventueel met de intro van het stuk erboven.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar copyright @volkskrant.nl.
© 2019 DPG Media B.V. - alle rechten voorbehouden