'Oorlog met killer robots is geen science fiction meer'

Britse deskundige Noel Sharkey waarschuwt voor robotwapens

De robotoorlog die velen vrezen in de toekomst, is mogelijk een stukje dichterbij gekomen. Begin deze maand stortte een Azerbeijdjaanse Harop-kamikazedrone zich op een bus met Armeense militaire vrijwilligers. Bijzonder: de Harop kan geheel zelfstandig op zijn doel afgaan. 'Killer robots zijn al lang geen science fiction meer', zegt de Britse robotoorlog-deskundige Noel Sharkey.

De aanval van de Harop in Nagorno-Karabach is voor zover bekend de eerste keer dat een robotachtig wapen is gebruikt in een conflict.

De door Israël gemaakte mini-drone is eigenlijk een bom van 15 kilo die zes uur lang boven een gebied kan vliegen, op zoek naar doelwitten. Israël ontwikkelde de kamikazedrone om luchtafweersystemen te vernietigen. Zodra het een radarsignaal van een luchtdoelraket oppikt, stort het zich zelfstandig op het doelwit. Maar zoals de aanval in Azerbeidjan laat zien, kan het tegen allerlei doelen worden ingezet.

'Azerbeidjan heeft gezegd dat de Harop van afstand werd bestuurd door militairen, wat het in dit geval geen robotwapen maakte', zegt Sharkey (67), voorzitter van The International Committee for Robot Arms Control. Hij ijvert al jaren voor een verbod op robotwapens die in tal van landen worden ontwikkeld, van de VS tot China.

Sharkey: 'Maar hoe weten we dat zeker? Je kan een Killer Robot van tevoren programmeren voor specifieke missies. Maar wat als zo'n doelwit, zoals een tank, plotseling een stad inrijdt, ontdekt wordt en het robotwapen zelfstandig in actie komt? Dan heb je een groot probleem. Machines moeten nooit beslissingen nemen om een mens te doden. Dat is tegen de menselijke waardigheid.'

Overdreven

Sharkey wees dinsdag in de Kamer, samen met andere internationale deskundigen, op het toekomstige gevaar van robotwapens. De oud-hoogleraar kunstmatige intelligentie en robotica spreekt vanavond op een discussie-avond van vredesorganisatie PAX over killer robots in de Amsterdamse De Balie. Sinds journalisten hem in 2007 voor het eerst vroegen over het gevaar van robotwapens, is hij uitgegroeid tot een van de belangrijkste tegenstanders van killer robots.

Naast de Harop is er in de VS de X-47B, een toestel van de marine dat moet uitgroeien tot een onbemande gevechtsdrone. De Britten werken aan de Taranis, die automatisch doelwitten kan opsporen en gevaren kan ontwijken. Alleen voor het bombarderen van een doelwit is toestemming vereist. Maar zowel de X-47B als de Taranis kunnen in een handomdraai worden omgevormd tot een robotwapen.

Wordt het toekomstig gevaar van robotwapens niet overdreven?
'In twintig minuten op internet kan je al zien welke programma's wereldwijd worden ontwikkeld. Het gevaar is reëel. De Harop is al operationeel en de volgende stap is niet zo moeilijk te bedenken. Zo'n X-47B, of de opvolger, kan op pad worden gestuurd om met twee Hellfire-raketten van 37 duizend dollar een brug te vernietigen. Dat is veel goedkoper dat een aanval met een Tomahawk-kruisraket van bijna twee miljoen dollar. Maar kan een volledig automatisch wapen inzien dat de aanval moet worden afgebroken als plotseling een schoolbus die brug oprijdt?'

Wat is er eigenlijk tegen deze wapens? Je hoeft zo toch niet de levens van piloten in de waagschaal te zetten?
'Het is extreem moeilijk voor killer robots om onderscheid te maken tussen militairen en burgers. In een oorlog met allerlei onverwachte ontwikkelingen laat je zo'n wapen niet los. Je komt dus in conflict met het internationaal- en het humanitair recht. Verder is er het morere argument: moet je machines wel toestaan om mensen te doden?

'Met hun inzet kan je inderdaad de levens van piloten redden. Maar wat als steeds meer landen ze aanschaffen? Dan komen deze robotwapens massaal op je af. Deze wapens verlagen ook de drempel om oorlog te voeren. Rusland werkt eraan om hun nieuwe tank, de Armati, autonoom te maken. Kan je het voorstellen: massa's van deze tanks aan de grenzen van Europa?'

Maar je kan ze toch zo programmeren dat het niet mis hoeft te gaan, specifiek voor bepaalde missies en met van tevoren bepaalde doelwitten?
'Dat is het model waar de Nederlandse regering nu van uitgaat. Maar in oorlog gebeuren altijd onverwachte dingen, doelwitten verplaatsen zich en schuilen onder de bevolking. Wat dan? Nederland praat over 'zinvolle menselijke controle'. Maar zodra een robotwapen is gelanceerd, heb je geen zinvolle menselijke controle meer. Nederland heeft internationaal veel invloed. Ik zeg: toon leiderschap en roep als eerste land in Europa op tot een verbod op deze wapens.'

Is een internationaal verbod wel haalbaar? Zoveel landen, waaronder supermachten, werken aan dit soort wapens?
'Er zijn de afgelopen jaren drie soorten wapens verboden, waaronder clustermunitie en antipersoneelsmijnen. Waarom zou een verbod op robotwapens dan niet haalbaar zijn? Ik vind het stuitend dat je een wapen ontwikkelt die zelfstandig beslist om een mens te doden. Mijn grootste angst is dat robotwapens ooit massaal tegenover elkaar komen te staan. Door een foutje kan heel snel een groot conflict ontstaan.'