Hoeveel dodelijke fouten mag een zelfrijdende auto zich veroorloven?

Verkeersongelukken kunnen, maar als een zelfrijdende auto iemand doodrijdt, is dat moeilijker te verkroppen.

De Amerikaanse politie heeft beelden vrijgegeven van de dodelijke aanrijding tussen een voetganger en een zelfstandig rijdende auto van Uber, eerder deze week. De door computers bestuurde auto reed in de staat Arizona een 49-jarige vrouw aan, die daarna overleed. Op de beelden, gemaakt met een dashboardcamera, is te zien hoe de vrouw met een fiets aan de hand plotseling de weg oversteekt in het donker. Een fractie van een seconde later raakt de auto haar.

Op opnamen van het interieur van de auto is te zien dat de menselijke bestuurder kort voor de crash niet alert was. Daardoor was ze niet in staat de aanrijding te voorkomen.

De beelden roepen de vraag op waarom de automatische systemen de overstekende vrouw niet hebben opgemerkt. Autonoom rijdende auto’s zijn voorzien van sensoren als laserradars, reguliere radars en camera’s die juist beter dan menselijke bestuurders in staat moeten zijn plotseling opdoemende objecten te herkennen en vervolgens tijdig in te grijpen.

Radar uitgeschakeld

Waarom de zelfstandig rijdende Volvo van Uber niet heeft geremd, is onduidelijk. ‘Het lijkt erop dat de Lidar niet functioneerde’, zegt Carlo van de Weijer, directeur van de afdeling Smart Mobility van de TU Eindhoven. Deze snel draaiende laserradar doet dienst als de 'ogen' van zelfrijdende auto’s. De Lidar had de voetganger moeten zien aankomen, zelfs in het donker, zegt Van de Weijer. Waarom het apparaat niet goed werkte, is gissen. Mogelijk was het uitgeschakeld om te testen of de auto ook alleen met behulp van de andere sensoren kan rondrijden.

Het is volgens de Eindhovense onderzoeker opmerkelijk dat ook de gewone camera de vrouw kennelijk niet heeft waargenomen. Deze camera ziet in het donker veel meer details dan de beelden van de dashcam laten zien. Zelfs als de camera de overstekende vrouw pas in een laat stadium had waargenomen, had de auto nog kunnen remmen. Dan was de klap minder groot geweest. De Uber-auto reed bovendien enkele kilometers te hard.

Behalve de camera's heeft ook de boordradar de voetganger gemist. Dit kan het gevolg zijn van een klassiek radarprobleem, zegt Van de Weijer, waardoor objecten die van links naar rechts bewegen niet worden opgemerkt. Iets vergelijkbaars speelde ook toen in 2016 een Tesla Model S een kruisende vrachtwagencombinatie over het hoofd zag. De bestuurder van de Tesla kwam bij de daaropvolgende botsing om het leven.

Naast drie haperende technische systemen heeft ook de menselijke bestuurder bij dit ongeluk gefaald. Dat zij niet zat op te letten, is een faux pas, vindt de onderzoeker van de TU Eindhoven. Hoewel mensen doorgaans slechte systeembewakers zijn, zijn chauffeurs van zelfrijdende auto’s hierin extra getraind.

Ongelukken zijn onvermijdelijk

Dat er ongelukken zouden gebeuren tijdens tests met zelfrijdende auto’s, stond van tevoren vast, zegt Bart Overakker. Hij deed voor de TU Delft onderzoek naar de gevolgen van incidenten met autonome auto’s en op de publieke acceptatie ervan. ‘We moeten oppassen dat er in deze testfase niet te veel van dit soort dingen gebeuren, want dan kan het publiek zich tegen zelfrijdende auto’s gaan keren.’

Een dodelijk ongeluk als dit is extra schadelijk, zegt Overakker. Uit een enquête onder Nederlandse respondenten blijkt dat zelfrijdende auto’s vier tot zes keer veiliger dan gewone auto's moeten zijn, wil de bevolking ze accepteren.

Dat er nu stemmen opgaan die tests met autonome auto’s willen verbieden, vinden zowel Van de Weijer als Overakker een overtrokken reactie. Van de Weijer: ‘Er zijn op de dag dat deze mevrouw overleed nog drieduizend anderen omgekomen in het verkeer. Als we door dit voorval doorslaan en de techniek verbieden, accepteren we ook dit grote aantal slachtoffers.’ 

0 Foto Tempe Police Vehicular Crimes Unit
1 Foto Tempe Police Vehicular Crimes Unit
2 Foto Tempe Police Vehicular Crimes Unit
3 Foto Tempe Police Vehicular Crimes Unit
01a Foto Tempe Police Vehicular Crimes Unit
02a Foto Tempe Police Vehicular Crimes Unit