Zelfrijdende auto's moeten straks morele afwegingen gaan maken

Stel dat over enkele jaren de eerste zelfstandig rijdende auto's over de Nederlandse wegen rijden. En stel ook dat op zeker moment zo'n auto een bocht om gaat en recht op een groep van tien voetgangers af rijdt. Remmen lukt niet meer en een botsing lijkt onvermijdelijk. Behalve als de auto besluit zichzelf in de vangrail te boren. Resultaat: voetgangers gered, inzittende overleden .

Een zelfrijdende auto rijdt tijdens een testrit over de A2.Beeld anp

Natuurlijk, zo'n scenario is onwaarschijnlijk. Maar als er straks miljoenen robotauto's rondrijden, zullen ze zich voordoen. En dan moet de robotauto een morele afweging maken: spaar ik de levens van tien voetgangers of dat van de inzittende?

Moeten dit soort morele keuzes in de auto geprogrammeerd worden? Welke dan? Deze vragen legden onderzoekers van het Massachusetts Institute of Technology en de universiteit van Toulouse voor aan tientallen proefpersonen.

De uitkomst, gisteren gepubliceerd in Science, is opmerkelijk: ja, zegt de grote meerderheid (76 procent) van de ondervraagden. Autonoom rijdende auto's moeten zo worden geprogrammeerd dat ze de voetgangers sparen en het leven van de bestuurder opofferen. Zelfs als het om een familielid gaat, vindt een kleine meerderheid.

Maar de edelmoedige houding verandert bij toverslag als wordt gevraagd of zij zo'n auto zouden kopen. Als het mijn auto is, moet die natuurlijk geprogrammeerd zijn om mijn leven voorop te stellen, zeggen de meeste ondervraagden dan. Leuk voor een ander, zo'n altruïstische robotauto, maar ik koop hem niet.

Een klassiek voorbeeld van een sociaal dilemma, aldus de onderzoekers. Verplicht stellen dan maar? Ook dat is geen oplossing, denken ze, omdat dit ertoe zal leiden dat maar weinigen zo'n auto zullen kopen.

'Ik denk niet dat autonome auto's ooit geprogrammeerd zullen worden om zo veel mogelijk levens te redden', zegt filosoof en ethicus Sven Nyholm, universitair docent aan de TU Eindhoven. 'En dat zou ook niet goed zijn.' De reden, zegt Nyholm, is dat in het dagelijks leven ook niet altijd het redden van zo veel mogelijk levens ten koste van een andere leven als moreel juist gezien wordt. 'Stel dat een arts stiekem het leven van een gezonde patiënt neemt zodat hij diens organen kan gebruiken om het leven van drie anderen te redden. We zouden dat zeer verkeerd vinden.' Het besluit moet vooral rechtvaardig zijn.

Daarnaast zijn veel kwesties lastig te beantwoorden. Is het leven van een kind belangrijker dan dat van een volwassene? Is een jong gezin meer waard dan vijf ouderen in een andere auto? Stel dat auto's dit onderscheid kunnen maken, zou dat op zich al niet immoreel zijn, vraagt Nyholm zoch af.

Hij ziet ook een zwakte in het onderzoek. Dat gaat ervan uit dat mensen autonome auto's zullen kopen. Maar de kans is groter dat robotauto's vooral gedeeld worden, omdat hij zelf komt voorrijden als je er een nodig hebt. Robotauto's zullen wellicht vooral worden uitgebaat door Uber-achtige bedrijven en die zullen zelf hun afwegingen maken.

Voorlopig bestaat de discussie vooral op papier, omdat we nog maar weinig ervaring hebben met robotauto's. Maar het is goed dat het debat begonnen is, aldus de filosoof.

Meer over

Wilt u belangrijke informatie delen met de Volkskrant?

Tip hier onze journalisten


Op alle verhalen van de Volkskrant rust uiteraard copyright. Linken kan altijd, eventueel met de intro van het stuk erboven.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar copyright @volkskrant.nl.
© 2020 DPG Media B.V. - alle rechten voorbehouden