'Ban de autonoom dodende robot'

Een groep van duizend wetenschappers en entrepreneurs heeft een brief gepubliceerd waarin ze oproepen tot een ban op autonoom dodende robots. De brief is ondertekend door onder anderen de natuurkundige Stephen Hawking, auto- en raketbouwer Elon Musk en Demis Hassabis, grondlegger van Googles kunstmatige intelligentieproject DeepMind. Autonoom dodende robots zullen de kalasjnikovs van morgen worden, vrezen zij.

De BigDog van Boston Dynamics.Beeld Boston Dynamics

Hoe gevaarlijk zijn deze wapens?

Dodelijke Autonome Robots worden door sommigen gezien als een volgende stap in de ontwikkeling van wapens; na het buskruit en de atoombom is er straks een robot die op eigen houtje bepaalt of hij mensen zal doden. Er is weinig fantasie voor nodig om te bedenken welke vernietiging zo'n apparaat kan aanrichten, maar op dit moment weet niemand hoe gevaarlijk deze wapens precies zijn.

Mogelijk is zijn verschijning op het strijdtoneel straks vergelijkbaar met de komst van het vliegtuig in de Eerste Wereldoorlog, een volstrekt nieuw wapen dat destijds defensieve constructies als de Stelling van Amsterdam in een keer overbodig maakte. Of lijkt hij meer op de tank, die op de tekentafel veelbelovend leek, maar in eerste instantie weinig klaar maakte op het slagveld. Het is nu nog niet duidelijk wat eventueel zwakke plekken van killer robots zijn.

Een neprobot in Londen, tijdens de lancering van een campagne tegen autonoom dodende robots.Beeld afp

Waarom zijn deze experts tegen?

Zij zien vooral de gevaren, net als veel vredesactivisten, mensenrechtenorganisaties, overheden en de Verenigde Naties. Volledig autonome wapensystemen gaan in tegen de principes van de menselijke waardigheid, zeggen zij. We mogen moraliteit niet uitbesteden aan machines. Er moet altijd een mens achter het besluit van leven of dood staan. Anders zullen mechanische slachtpartijen ontstaan en daarom is een verbod nodig.

Zijn er ook voordelen?

Voor zo ver je van voordelen kunt spreken bij de ontwikkeling van een dodelijk wapen, zijn die er wel. Voor het leger betekent de inzet van killer bots minder slachtoffers aan eigen zijde, lagere personeelskosten en langere veldslagen op locaties die voorheen ontoegankelijk waren.

Robots zouden zich ook aan het humanitaire recht kunnen houden, betoogt de Amerikaanse hoogleraar robotethiek Ronald Arkin. Dat kun je programmeren. Daardoor zou de inzet van robotsoldaten in theorie tot minder burgerslachtoffers kunnen leiden.

Robots handelen ook niet uit wraak, woede of angst. Ze zullen niet met opzet burgers aanvallen. Ze martelen noch verkrachten, stelde VN-rapporteur Christof Heyns enkele jaren geleden in een rapport. Maar, zegt Heyns ook, robots kennen evenmin compassie en medelijden. En een robot die het oorlogsrecht overtreedt, kan niet ter verantwoording worden geroepen.

Wanneer zijn ze er?

Ze zijn er al. Ze worden alleen nog niet ingezet op het slagveld, voor zover bekend tenminste. Het Amerikaanse defensie-instituut Darpa werkt aan een droneboot, een onderzeeër die zelfstandig langs de Amerikaanse kust speurt naar vijandelijke onderzeeërs. Er is de BigDog, ontwikkeld door het commerciële bedrijf Boston Dynamics, een dartel stalen veulen dat zelfstandig door onherbergzaam terrein kan wandelen. Alleen een wapen ontbreekt nog. Verder is er de X-47B, een vliegende vleugel die zelfstandig kan opstijgen en landen op vliegdekschepen. Rond de decenniumwisseling moet het toestel zelfstandig gevechtsmissies gaan uitvoeren voor de Amerikanen. Vermoedelijk is dit een topje van de ijsberg, want al het onderzoek naar autonome wapens gebeurt in het grootste geheim.

De X-47B, een vliegende vleugel die zelfstandig kan opstijgen en landen op vliegdekschepen.Beeld U.S. Navy

Heeft een verbod zin?

Vermoedelijk niet. Een probleem is dat dit soort wapens, als ze eenmaal zijn ontwikkeld, makkelijk te produceren zijn. In tegenstelling tot bijvoorbeeld nucleaire wapens zijn er geen 'kostbare of moeilijk te verkrijgen grondstoffen voor nodig' om ze te produceren, zoals de briefschrijvers stellen. Dat betekent dat ze op de zwarte markt zullen verschijnen en terroristen, dictators en mogelijk zelfs criminelen ze kunnen kopen en toepassen. Dat betekent dat ze ingezet kunnen worden voor etnische zuiveringen, aanslagen op burgers en drugsoorlogen.

Zijn er ook voorstanders?

De Verenigde Naties, de meeste westerse overheden, mensenrechtenactivisten - bijna iedereen is tegen de komst van dit soort wapens. Maar dat geldt ook voor gifgas en dat is ook nog altijd niet de wereld uit. Achter de schermen wordt dus gewoon doorgewerkt aan de ontwikkeling van de killer bot. Binnenkort op een slagveld bij u in de buurt, zo valt te vrezen.

Meer over

Wilt u belangrijke informatie delen met de Volkskrant?

Tip hier onze journalisten


Op alle verhalen van de Volkskrant rust uiteraard copyright. Linken kan altijd, eventueel met de intro van het stuk erboven.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar copyright @volkskrant.nl.
© 2020 DPG Media B.V. - alle rechten voorbehouden