De Tesla-auto na het ongeluk in 2016, waarbij de 40-jarige Joshua Brown om het leven kwam.
De Tesla-auto na het ongeluk in 2016, waarbij de 40-jarige Joshua Brown om het leven kwam. © AP

Onderzoeksraad: Tesla deels verantwoordelijk voor dodelijk ongeluk met zelfsturende auto

Tesla draagt gedeeltelijk schuld aan een ongeval in 2016 waarbij een Amerikaanse bestuurder om het leven kwam, terwijl hij gebruik maakte van Autopilot, een systeem dat de besturing van een auto op de snelweg kan overnemen. Hoewel Tesla automobilisten waarschuwt dat degene achter het stuur verantwoordelijk is en moet blijven opletten, heeft de autofabrikant te weinig gedaan om verkeerd gebruik van AutoPilot tegen te gaan.

Dat stelt de National Transportation Safety Board, de Amerikaanse onderzoeksraad voor de verkeersveiligheid, na onderzoek naar het eerste dodelijke ongeluk met een zelfrijdende auto. Tesla wordt vrijgepleit van directe schuld.

De crash, waarbij de auto zonder te remmen onder een oplegger doorreed die de weg overstak, is veroorzaakt omdat de bestuurder niet oplette en hij te veel vertrouwde op het systeem. Van de ruim 37 minuten dat het AutoPilotsysteem stond ingeschakeld, had de 40-jarige Joshua Brown slechts 25 seconden zijn handen aan het stuur. Daarmee gebruikte hij het systeem op een manier waarvoor het niet is bedoeld, aldus de NTSB. Ook de truckchauffeur draagt schuld.

Onvoldoende maatregelen

Tesla staat het de gebruiker toe het systeem te gebruiken buiten de omgeving waarvoor het is bedoeld

NTSB-voorzitter Robert Sumwalt

Bezitters van een Tesla die Autopilot willen gebruiken, moeten eerst verklaren dat ze begrijpen dat het systeem alleen onder strikte voorwaarden veilig is (feitelijk alleen op snelwegen met ongelijkvloerse kruisingen en bij goed zicht). Ook tijdens het rijden geeft het systeem waarschuwingen als een bestuurder zijn handen niet aan het stuur heeft.

Na het ongeval heeft Tesla de tijd dat het stuur losgelaten kan worden verkort en schakelt het systeem na drie waarschuwingen uit. De NTSB acht deze maatregelen onvoldoende. 'Tesla staat het de gebruiker toe het systeem te gebruiken buiten de omgeving waarvoor het is bedoeld', zei voorzitter Robert Sumwalt. Het gevolg was een botsing 'die nooit had mogen gebeuren'.

De aanbevelingen om beter toe te zien op het correct gebruik van dergelijke systemen, gelden ook voor andere automakers, aldus de NTSB. Het probleem betreft volgens Sumwalt de gehele industrie, die in een race is verwikkeld naar de zelfrijdende auto. Een van de mogelijke maatregelen is het verplicht invoeren van zelfrijdende systemen die alleen ingeschakeld kunnen worden als gps-data bevestigen dat de auto zich op een geschikte snelweg bevindt.

De techniek loopt hier duidelijk voor op de wetgeving

Wouter Munten, letselschadeadvocaat

De ontwikkeling en het gebruik van systemen zoals Autopilot zijn niet terug te draaien, denkt letselschadeadvocaat Wouter Munten van Jeroen Bosch Advocaten in Den Bosch. 'Deze systemen zullen er vermoedelijk toe leiden dat een deel van de aansprakelijkheid de komende jaren gaat verschuiven van de automobilist naar de fabrikant of softwareleverancier', zegt Munten.

Dat wordt ook duidelijk in deze zaak. Naast de bestuurder en de truckchauffeur ligt volgens de NTSB ook een deel van de schuld van het ongeluk bij de autofabrikant. Wat hiervan de gevolgen in de praktijk zullen zijn, is volgens advocaat Munten nog niet duidelijk. 'De techniek loopt hier duidelijk voor op de wetgeving.' In Nederland hebben vergelijkbare zaken zich nog niet voorgedaan, aldus de advocaat.

Menselijk falen

Overigens pleitte een andere overheidsdienst, de National Highway Traffic Safety Administration, die toezicht houdt op de veiligheid op snelwegen, Tesla vrij van schuld aan het ongeval. In een rapport dat in januari verscheen, stelt deze dienst dat het ongeluk volledig te wijten is aan menselijk falen. De NHTSA verklaarde toen ook dat Tesla's waarbij AutoPilot geactiveerd is, 40 procent minder vaak crashen.

Tesla zegt de analyse van de NTSB te respecteren en de aanbevelingen te evalueren. 'We zullen onze huidige en potentiële klanten ook nadrukkelijk blijven wijzen op het feit dat Autopilot geen volledige zelfrijdende technologie is en bestuurders altijd zelf moeten blijven opletten', aldus een woordvoerder.

Meer over Tesla en kunstmatige intelligentie

Een zelfrijdende auto, is dat wel zo'n goed idee?

Robots en andere intelligente machines spreiden tot nu toe meestal een geruststellende domheid ten toon. Maar dat verandert snel. Snel genoeg om eens serieus na te denken over de veranderingen die de kunstmatige intelligentie voor ons, mensen, in petto heeft (+).