Een man met een automatisch wapen tijdens een militaire tentoonstelling in Rusland, augustus 2014. Beeld EPA — Een man met een automatisch wapen tijdens een militaire tentoonstelling in Rusland, augustus 2014.Beeld EPA

Komende week komt bij de Verenigde Naties in Genève een roedel experts langs om te praten over 'volledig geautomatiseerde wapens', in de wandelgang moordrobots genoemd, een thema waarop bioscoopkrakers en romancycli zijn gebaseerd.

De mens is goed in het automatiseren van vieze en saaie klusjes, zie ook: wasmachine, kippenslachterij, poepzuiger. Ook oorlog voeren en wat daarbij hoort (mensen doden, infrastructuur kapotmaken) wordt in toenemende mate uitbesteed aan computers.

Tot dusver zit er altijd een mens tussen die een beslissing neemt. Met de komst van systemen die, eenmaal geactiveerd, geheel zelfstandig vijandelijke doelwitten kunnen vinden en uitschakelen, is een nieuwe fase aangebroken. Nu al hoeven dronepiloten niet naar Pakistan toe om een vermoedelijke terrorist naar god te blazen; 'vliegen' doen ze vanuit kantoor. Straks kunnen ze na activering van een A(utomatisch)W(apen)S(ysteem) met een cocktail in de hangmat gaan liggen; de oorlog vecht zichzelf uit.

Over hoe om te gaan met AWS woeden discussies die meestal eindigen in een moeras vol ethische en technische bezwaren. Human Rights Watch (HRW) publiceerde deze week samen met juristen van Harvard een rapport over de juridische kant: wie is aansprakelijk als een AWS iets doet wat als een oorlogsmisdaad kan worden uitgelegd? Waar kan een slachtoffer van een AWS-aanval zijn recht halen?

Nergens, concludeert het rapport. De militair die het systeem activeerde, zal zich beroepen op het feit dat hij niet kon weten wat het systeem zou doen. Reden voor HRW om bij de VN wederom een verbod op dit type systemen te bepleiten, nog voor ze in gebruik zijn.

Iets verbieden dat kan: zulke verboden houden nooit lang stand.