Stop de killerrobots, zeggen nu ook de robotmakers zelf

Een groep experts, onder wie opvallend veel makers van robotica, pleit bij de Verenigde Naties voor een onmiddellijk verbod op autonome wapens. Want als deze killerrobots in verkeerde handen komen, is het te laat.

De MQ-9 reaper kan ongeveer 1700 kilogram aan raketten en bommen meetorsen. Beeld
De MQ-9 reaper kan ongeveer 1700 kilogram aan raketten en bommen meetorsen.Beeld

Er moet zo snel mogelijk een wereldwijd verbod komen op zogenoemde killerrobots, robots die op eigen houtje oorlog voeren. Dat bepleiten 116 specialisten in een open brief aan de Verenigde Naties.

De mensheid die ten onder gaat aan militaire robots die het heft in eigen hand nemen? Het is niet alleen het uitgebeende scenario voor sciencefiction-films als Terminator, het gevaar ligt veel dichter bij huis. Filosofen, experts op het gebied van kunstmatige intelligentie (AI) en ethici waarschuwen al langer voor de gevaren van autonoom handelende militaire robots, maar in het koor van critici voegen zich ook steeds meer stemmen van de industrie zelf: de makers van robots. In een gezamenlijke open brief pleiten ze voor een verbod op deze zogenoemde killerrobots.

Lees verder onder de video

De brief is ondertekend door vooraanstaande experts, onder wie Mustafa Suleyman (oprichter van Google's AI-zusterbedrijf DeepMind) en de in dit verband onvermijdelijke Elon Musk van Tesla. De kritiek is niet nieuw. Wél nieuw is dat voor het eerst een groot aantal roboticabedrijven zich achter het bepleite verbod scharen. Hieronder bevindt zich ook een aantal Nederlandse bedrijven. De ondertekenaars schetsen een doos van Pandora: als dit soort technologieën in verkeerde handen komen, is het te laat. 'Bijna iedere technologie kan goed of slecht worden gebruikt en dat geldt ook voor AI', zo zegt initiatiefnemer Toby Walsh. 'Ze kunnen worden ingezet om de uitdagingen te lijf te gaan die met de klimaatverandering hebben te maken, of financiële crises. Maar ook voor autonome wapens.' Walsh wil, samen met de ondertekenaars, een verbod op dergelijke wapens door de Verenigde Naties, vergelijkbaar met het verbod op chemische wapens.

Jeroen van den Hoven, hoogleraar ethiek en techniek aan de TU Delft, is ingenomen met de oproep. 'Een volkomen terechte waarschuwing. Het is geen toekomstmuziek, het gebeurt nu', zegt Van den Hoven. 'Het is bijna te laat. Steeds weer worden we overvallen door nieuwe ontwikkelingen. Filosofen en andere denkers houden zich al veertig jaar bezig met frivole en academische vraagstukken als: hebben computers bewustzijn? Om de Nederlandse computerwetenschapper Edsger Dijkstra te parafraseren; deze vraag is even relevant als de vraag of onderzeeërs kunnen zwemmen.' Van den Hoven kijkt liever naar de effecten en de vraag wie er nog controle heeft. 'Je ziet het overal waar AI in het spel is: de mens dreigt controle te verliezen. Er is een denkpauze nodig om een samenhangend geheel van regels te formuleren. Niet alleen bij wapens trouwens, ook bij zelfrijdende auto's of geneeskunde.'

Ook Lambèr Royakkers (hoogleraar ethiek en techniek aan de TU Eindhoven) schaart zich volmondig achter de brief. 'Het is opvallend dat de industrie nu zélf vraagt om maatregelen waar je verwacht dat de politiek op de rem gaat staan.' De politiek en het publiek hebben volgens hem geen flauw idee hoever de ontwikkelingen met AI al gaan. 'De Nederlandse regering laat zich leiden door een grenzeloos naïef en kortzichtig rapport van de Adviesraad Internationale Vraagstukken (AIV) met als gevolg dat het probleem van autonome wapens helemaal niet leeft.' In dit rapport uit 2015 acht de AIV het 'onwaarschijnlijk' dat de 'komende decennia' volledig autonome wapens worden ontwikkeld met het oogmerk om zonder enige menselijke controle te functioneren. Royakkers: 'Hoe kunnen ze dat zeggen? Ze bestaan nu bijna al.'

Royakkers noemt als voorbeeld drones die zelfstandig op zoek gaan naar bijvoorbeeld een mobieltje met een bepaalde simkaart en de eigenaar uitschakelen. 'Er moet nog wel iemand op een knop drukken, maar die laatste stap kun je simpel automatiseren. Het probleem is dat robots in de nabije toekomst ook nog eens zelflerend worden, waardoor we niet weten wat er aan hun beslissingen ten grondslag ligt. Als ze dan een zwarte lijst krijgen van mensen die moeten worden uitgeschakeld, gaan ze aan de slag. Ze bepalen zelf ten koste van wat dat dan gaat.' Een nog concreter gevaar is volgens hem dat dergelijke technologieën in handen van terroristen vallen. 'Dan is het te laat. Een verbod zou een meer dan welkome rem op de ontwikkelingen zijn. We staan aan de rand van de afgrond.'

1. MQ-9 Reaper

Zelfstandig voortbewegen over land is een stuk lastiger dan in de lucht. Vandaar dat de ontwikkelingen met drones al een stuk verder zijn dan de voorthobbelende tankjes. Een voorbeeld is de Amerikaanse MQ-9 Reaper Drone, waarvoor ook de Nederlandse defensie belangstelling heeft. De Amerikanen en Britten hebben het onbemande toestel operationeel in Afghanistan en Irak. De drone kan worden gebruikt om informatie te verzamelen, maar ook om zelfstandig doelen uit te schakelen. De Reaper kan ongeveer 1.700 kilogram aan raketten en bommen meetorsen.

De Amerikaanse MQ-9 Reaper Drone. Beeld
De Amerikaanse MQ-9 Reaper Drone.Beeld

2. Goalkeeper

Een vroeg voorbeeld van een autonoom wapen komt van Nederlandse bodem. De Goalkeeper werd mede door Holland Signaal ontwikkeld en kwam in 1980 op de markt. Het is een geheel automatisch functionerend wapensysteem dat op schepen wordt gemonteerd. Goalkeeper neemt het hele proces voor zijn rekening: surveillance, detectie en uiteindelijk vernietiging van een vijandelijk doelwit. Anders dan modernere voorbeelden is Goalkeeper niet voorzien van zelflerende systemen.

De Goalkeeper. Beeld ANP
De Goalkeeper.Beeld ANP

3. O-R3 van Otsaw

Strikt genomen geen wapen, maar het gebrek aan kanonnen wordt ruimschoots gecompenseerd. Hij ziet eruit als jolig politieautootje, maar schijn bedriegt. De O-R3 van het Singaporese bedrijf Otsaw is een met zelflerende algoritmes volgepompt wagentje dat nog dit jaar in Dubai moet worden ingezet voor surveillancedoeleinden. In naadloze samenwerking met een vanuit het autootje te lanceren drone moet de O-R3 volgens de makers het ideale middel zijn om misdaad te voorkomen.

De O-R3 van het Singaporese bedrijf Otsaw. Beeld
De O-R3 van het Singaporese bedrijf Otsaw.Beeld

4. MAARS van Qinetic

De Modular Advanced Armed Robotic System (MAARS) is een zelfstandig rijdende tank die door het Britse concern Qinetic is ontwikkeld. De MAARS is voorzien van zeven camera's, een machinegeweer, vier granaatwerpers en detectieapparatuur. Het 167kilogram wegende tankje kan het tot twaalf uur uithouden. Daarna is de batterij leeg. Het Amerikaanse leger heeft hem in testfase.

De Modular Advanced Armed Robotic System (MAARS). Beeld
De Modular Advanced Armed Robotic System (MAARS).Beeld
Meer over

Wilt u belangrijke informatie delen met de Volkskrant?

Tip hier onze journalisten


Op alle verhalen van de Volkskrant rust uiteraard copyright.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar copyright @volkskrant.nl.
© 2021 DPG Media B.V. - alle rechten voorbehouden