De eerste dode is een feit - is de zelfrijdende auto wel zo veilig?

In de VS viel de eerste dode

In de VS is - voor zover bekend voor het eerst -  een dode gevallen als gevolg van een crash met een 'zelfrijdende auto'. Zijn autonome voertuigen wel zo'n goed idee?

Wat is er gebeurd?

Een Tesla Model S met de 40-jarige Joshua Brown aan boord, reed in Florida onder een trailer door van een afslaande vrachtwagen, terwijl de automatische piloot was ingeschakeld. Zowel camera's en radarsystemen als de bestuurder zagen de hoge witte trailer over het hoofd, volgens Tesla vanwege het felle licht. Bij de crash kwam de bestuurder om het leven. Het is voor zover bekend het eerste dodelijke slachtoffer met een zelfrijdende auto.

Is Tesla's automatische piloot veilig?

Dat is ineens zeer de vraag. Tesla's baas  Elon Musk heeft diverse keren beweerd dat het systeem veiliger is dan de menselijke bestuurder. Volgens de NHTSA, de Amerikaanse toezichthouder voor de veiligheid op snelwegen, zegt dat in 2014 1,07 dode viel per 100 miljoen afgelegde mijlen (160 miljoen kilometer). Alles Tesla's Model S hebben op de Autopilot 130 miljoen mijl afgelegd, aldus het bedrijf, dat in zijn verklaring opnieuw beweert dat zijn systeem beter is dan de menselijke bestuurder. Maar op basis van deze cijfers kan dat niet langer worden gesteld.

Zijn zelfrijdende auto's wel zo'n goed idee?

In feite is de Tesla Model S geen zelfrijdend voertuig. Het is een auto met een geavanceerde cruise control, die zelfstandig afstand kan houden tot andere voertuigen, kan afremmen als dat nodig is en tussen de belijning blijft. Daarbij maakt het gebruik van een radar, een camera en twaalf ultrasoonsensoren. Bestuurders die het systeem inschakelen, moeten hun handen aan het stuur houden en alert blijven. Het is alleen bedoeld voor op de snelweg.

Tesla hanteert een andere benadering dan bijvoorbeeld Google en Uber, die werken aan een systeem waarbij de bestuurder niet meer nodig is. Een van de redenen waarom zij dit nastreven, is dat suffende mensen nauwelijks in staat zijn om in een noodsituatie plotseling alert te zijn. Daarom willen ze de menselijke factor uitschakelen.

Halveert een automatische piloot de kans op een auto-ongeluk?

Een auto die rijdt op de automatische piloot veroorzaakt 50 procent minder ongelukken, beweerde Elon Musk, de man achter autofabrikant Tesla. Klopt dit wel?

Als we daarop moeten wachten, komt de zelfrijdende auto er nooit.

Tesla en veel andere autofabrikanten willen de autonome auto stapsgewijs invoeren, en houden de mens er voorlopig bij. Maar de meeste 'ouderwetse' autofabrikanten zijn voorzichtiger dan Tesla, dat AutoPilot in 2015 introduceerde. Bedrijven als BMW, Mercedes en General Motors Motors (dat eerder verklaarde niet te zullen bètatesten op gebruikers) zijn als de dood voor een crash zoals de Brown overkwam en de imagoschade die dat veroorzaakt. Daarom voorzien zij de eerste zelfstandige auto's op de snelweg pas over enkele jaren.

Tesla heeft minder geld om zijn systemen eindeloos te testen. Het gebruikt data die AutoPilot in de praktijk vergaart om het systeem te verbeteren. Het bedrijf erkent dat zijn software nog lang niet af is. 'We waarschuwen gebruikers die AutoPilot inschakelen dat het systeem nog steeds in publieke beta is', schrijft Tesla op zijn website.

Daarmee hanteert het dezelfde strategie die softwarebedrijven gebruiken. Die lanceren ook betaversies van nieuwe producten, zodat gebruikers die daarvoor kiezen er bugs uit kunnen halen.  Probleem bij Tesla is dat bugs in AutoPilot dodelijke afloop kunnen hebben, zoals gisteren bleek. En een van de belangrijke vragen is of gebruikers zich hiervan genoeg bewust waren toen ze akkoord gingen.

Andere fabrikanten beschouwen Tesla's AutoPilot verre van gereed om gebruikt te kunnen worden als autonoom rijsysteem.  Een medewerker van BMW die betrokken is bij de ontwikkeling van autonoom rijden bij deze autofabrikant en die niet bij naam genoemd wil worden, zei onlangs dat Tesla enorme risico's neemt en dat zijn gebruikte systeem ongeschikt is voor het doel.

Waarom zag AutoPilot de truck met aanhanger over het hoofd?

Dat is een belangrijke vraag die nu wordt onderzocht door de NHTSA. Hoewel veel nog onbekend is, lijkt er in elk geval iets goed te zijn misgegaan. Want als de gewone camera verblind raakt door de zon, zoals Tesla meldt, had het systeem de besturing direct moeten overgeven aan de automobilist. Opmerkelijk is dat ook de radar kennelijk verblind was door de zon. In principe zou radar daarvoor ongevoelig moeten zijn. Mogelijk heeft de radar niet goed gewerkt. Tesla, dat een eigen onderzoek heeft gedaan naar de oorzaak, wil daar niets over kwijt.

Afgelopen jaar haalde Ford 37 duizend F-150's terug omdat de pickuptruck soms zonder aanleiding begon te remmen. Volgens Ford kon het radarsysteem van de F-150 ontregeld raken bij het passeren van grote glimmende vrachtwagens.

Mogelijk was er bij de Teslacrash sprake van een technisch mankement. Het zou ook kunnen dat Tesla zijn systeem te 'scherp' heeft afgesteld. Een zelfrijdende auto die om de haverklap alarm slaat en de besturing teruggeeft, wekt ergernis en zal worden uitgeschakeld. Als dat veel gebeurt, ontvangt Tesla veel minder data die nodig zijn om het systeem te verbeteren. Of dit meespeelt, wordt onderzocht.

Zelfrijdende auto mist het ware stadsgevoel

Europese landen maken zich op voor de komst van de zelfrijdende auto. Maar in technisch opzicht moet die auto nog veel leren. Wat als de camera's uitvallen? (+)

Hoe kan het beter?

Automobilisten moeten tijd krijgen om het stuur over te nemen als de automatische piloot het niet meer redt. Verkeerspsychologen denken dat mensen vier tot tien seconden nodig hebben voordat ze hun auto weer volledig onder controle hebben. Die paar seconden mogen weinig lijken, maar dit vergt enorme technologische inspanningen. Zo zal elke  vitale functie dubbel of driedubbel uitgevoerd moet worden, net als in vliegtuigen.

Dat betekent dat niet alleen een camera nodig is die de auto tussen de belijning houdt, maar er zijn ook digitale kaarten nodig, met een extreem hoge resolutie en een verbeterd gps-systeem dat de locatie tot op centimeters nauwkeurig kan bepalen. Als de camera de belijning niet meer ziet, bijvoorbeeld door een plotseling opdoemende mistflard, neemt het kaartsysteem de besturing over. In de tussentijd kan de bestuurder bij de les komen.

Dubbele uitvoering geldt ook voor de besturing, de remmen. Voor elke rijtaak zullen twee systemen nodig zijn, zeggen autofabrikanten. Tesla heeft dit niet op alle punten gedaan.

Dit was een extreme omstandigheid, zoals Tesla zegt. Die komen niet vaak voor.

Dat is helaas niet zo. Hoe meer autonoom rijdende auto's er op de weg komen, hoe vaker ze in een onverwachte situatie terecht zullen komen. Het is dus een kwestie van tijd voordat de volgende 'extreme omstandigheid' zich voordoet. De vraag is of deze situaties zeldzaam genoeg zijn om de veiligheidsstatistieken vóór te blijven. Dat is sinds gisteren zeer de vraag.
Daarnaast is er nog de publieke opinie. Automatische systemen zullen veel beter moeten presteren dan de menselijke bestuurder, willen automobilisten bereid zijn ze te accepteren. Als binnen afzienbare tijd nog een dodelijk ongeluk gebeurt, kan dat een grote weerslag hebben op de acceptatie van de autonoom rijdende auto.