Nieuwsbrief

Blijf wekelijks op de hoogte van het beste uit De Kennis van Nu en het laatste nieuws!

MELD JE AAN
Zelfrijdende auto dilemma

Zelfrijdende auto’s moeten natuurlijk zo min mogelijk slachtoffers maken, dat vindt iedereen. Maar mensen stappen pas in als de auto vooral zijn passagiers beschermt.

Het verkeer zal veel veiliger worden door de zelfrijdende auto, zo is de algemene verwachting. De kunstmatige intelligentie aan boord van zo’n auto houdt de omgeving zo goed in de gaten dat ongelukken een zeldzaamheid zullen worden. De zelfrijdende auto is nooit slaperig, aangeschoten of afgeleid door zijn mobiel.

Maar wat doet zo'n auto als een ongeluk toch onvermijdelijk is? De logische regel is dat letsel aan personen zo klein mogelijk moet blijven. Stel dat de auto een aanrijding met vijf voetgangers alleen nog kan vermijden door tegen een muur te rijden, waardoor de inzittende omkomt. Dan is tegen de muur knallen de beste optie: je redt er vijf mensenlevens mee, ten koste van één mensenleven.

De meeste mensen zijn het daarmee eens, blijkt uit een nieuwe studie die is gepubliceerd in Science. Ze vinden dat autofabrikanten zelfrijdende auto’s zo moeten programmeren dat het letsel aan personen zo klein mogelijk blijft.

Automobilist offert zichzelf niet op

Maar - en we hebben het hier over een levensgrote Maar - in zo’n auto rijden mensen zelf liever niet rond, blijkt uit hetzelfde onderzoek. Ze vinden het geen fijn idee dat hun auto in uitzonderlijke gevallen de eigen passagiers opoffert voor het grotere goed. Ze snappen uitstekend dat de wereld beter af is als zelfrijdende auto’s zich zo gedragen, maar gaan daar hun eigen leven niet voor in de waagschaal stellen.

Dat creëert voor de makers van zelfrijdende auto’s een enorm dilemma. Het lijkt er immers op dat de veiligste optie onder consumenten weinig aftrek zal vinden. Ironisch genoeg is het dus mogelijk dat fabrikanten voor de minder veilige optie moeten kiezen: een zelfrijdende auto die zijn inzittenden te allen tijde beschermt. Anders zou de acceptatie van zelfrijdende auto’s veel langer op zich laten wachten – en de huidige menselijke bestuurders zorgen voor nog veel meer slachtoffers.

Moeten fabrikanten liegen over hun software?

Bij dit alles gaan we er wel vanuit dat fabrikant open en eerlijk zullen zijn over hoe ze hun auto’s programmeren, constateert moraalfilosoof Joshua Greene in dezelfde Science. Maar welk belang hebben ze daarbij? Als ze auto’s maken die het totale letsel zo klein mogelijk houden, dan krijgen ze de kritiek dat ze hun passagiers niet optimaal beschermen. Maken ze auto’s die hun passagiers optimaal beschermen, dan krijgen ze de kritiek dat ze de levens van anderen offeren. Het is dus nog maar de vraag of fabrikanten uit eigen beweging openheid van zaken gaan geven over hun algoritmes.

Ook is het mogelijk dat mensen anders over zelfrijdende auto’s gaan denken naarmate ze vaker in het straatbeeld verschijnen. Landen kunnen uiteenlopende regels opstellen, waardoor burgers en consumenten ervaring opdoen met verschillende scenario’s. Ook het hele idee van de auto als eigendom en statussymbool zou wel eens op de schop kunnen gaan. Zelfrijdende auto’s krijgen wellicht dezelfde status als de bus of trein: een publiek goed dat gewoon beschikbaar is om van a naar b te komen. Ook dat kan tot andere ideeën leiden over hoe zo’n auto zich dient te gedragen. Maar voor het zover is, hebben autofabrikanten, overheden en burgers nog een listig dilemma om hun tanden op stuk te bijten.

J.F. Bonnefon et al, 'The social dilemma of autonomous vehicles', in Science, 24 juni 2016

J.D. Greene, Our driverless dilemma, in Science, 24 juni 2016.