Zelfrijdende auto’s laten jou bepalen wie overleeft tijdens een crash

Zou jij in een auto rijden die bereid was je te laten sterven? Hoe zelfrijdende auto’s omgaan met het nemen van morele beslissingen is een van de grootste dilemma’s waar fabrikanten mee kampen.

In de toekomst bevatten auto’s misschien een ‘ethische knop’ – een knop die mensen zelf laat beslissen hoe de auto morele beslissingen neemt, en de verantwoordelijkheid voor die beslissingen weer bij de bestuurder legt.

Met de ‘ethische knop’ geven mensen de waarde van hun eigen leven aan ten opzichte van het leven van anderen. Bron: chombosan

Onderzoekers hebben een schakelaar ontwikkeld die de instelling van een zelfrijdende auto van ‘vol altruïstisch’ naar ‘volledig egoïstisch’ kan zetten, met een ‘onpartijdige’ stand ertussen die de auto de beste keus laat bepalen. Het verschil is dat indien nodig mensen – inclusief jijzelf – opgeofferd zullen worden ten behoeve van een andere partij. De knop is rechtlijnig: de auto zal in zijn altruïsmestand altijd een keuze maken die leidt tot de minste totale schade.

Afhankelijk van code

Hoe zelfrijdende auto’s moeten omgaan met morele beslissingen is een lastige kwestie. Je reactie op gevaar wordt bepaald door instinct. Dat instinct dicteert hoe wij omgaan met morele keuzes. Auto’s hebben echter geen instinct en zijn in plaats daarvan afhankelijk van een code.

De vraag is daarom wie verantwoordelijk is bij een ongeluk met een zelfrijdende auto. Is dit de fabrikant, de software-ontwikkelaar, of de eigenaar van de auto? Wanneer een mens een auto bestuurt is die verantwoordelijksvraag meestal duidelijk, maar bij de zelfrijdende auto is het juridisch proces een stuk gecompliceerder. De ‘ethische knop’ zou de verantwoordelijkheid weer naar de bestuurder brengen.

Waarde van leven

LEESTIP. Dit boek geeft een compleet overzicht van de laatste stand van zaken in de ontwikkeling van zelfrijdende auto’s. Bestel nu in onze webshop.

Wat mensen vinden dat de beste ethische instelling van een auto is, blijkt gecompliceerd. Een onderzoek in 2015 wees uit dat de meeste mensen vinden dat een zelfrijdende auto de totale schade moet minimaliseren. Dat kan echter betekenen dat de inzittenden opgeofferd worden. Tegelijk zegt de meerderheid echter dat ze zelf nooit in een auto zullen stappen die bereid is hen te doden.

Zelf kunnen bepalen wat de ethische instelling is van een auto, biedt mogelijk een oplossing. ‘We wilden ontdekken wat er zou gebeuren als de controle en verantwoordelijkheid voor de acties van de auto terug werden gegeven aan de bestuurder’, zegt Guiseppe Contissa van de Italiaanse Universiteit van Bologna. ‘De knop vertelt een zelfstandige auto de waarde die de bestuurder geeft aan zijn of haar leven in vergelijking met dat van anderen’, zegt Contissa. ‘De auto zal deze informatie gebruiken bij het maken van morele beslissingen en zal hierbij rekening houden met de kans dat de passagiers of andere partijen schade op kunnen lopen.’

Morele verantwoordelijkheid

Het idee voor een ‘ethische knop’ leidt wellicht tot problemen. Als iedereen kiest voor de egoïstische optie, loopt het op de weg mogelijk volledig uit de hand.

En als iedereen de onpartijdige optie kiest, helpt de ‘ethische knop’ niet. Auto’s zullen dan net als voorheen zelf de beslissing nemen, zonder dat je de bestuurder verantwoordelijk kunt houden.

‘We kunnen nu nog niet bepalen of dit de juiste oplossing is’, zegt Edmond Awad van het MIT Media Lab. Maar het nieuwe idee van de ‘ethische knop’ is volgens hem welkom in dit verder nogal prikkelbare debat.

Mis niet langer het laatste wetenschapsnieuws en meld je nu gratis aan voor de nieuwsbrief van New Scientist.

Lees verder:

1 Reactie

  • Riemer

    | Beantwoorden

    Misschien is het leuk om eens af te vragen waarom er überhaupt een ethische knop op een zelfrijdende auto zou moeten zitten. Ik denk namelijk dat dit onnodig is vanwege een aantal redenen.

    Stel je gaat een deel van de rekenkracht van de auto gebruiken om te kijken of er mogelijk een crash gaat gebeuren, dat is natuurlijk super handig. Echter als je ook nog gaat kijken naar ethische dilemma’s dan wordt het ingewikkelder. Het is zeer waarschijnlijk dat het percentage van de ongelukken waarbij ethiek relevant is, immens klein is. De meeste ongelukken zullen waarschijnlijk nog gebeuren doordat een bestuurder op de zelfrijdende auto inrijdt. Zodra de computer op alle data die wij hem gegeven hebben richting ethisch crashen gaat richten, dan zou het wel eens kunnen gebeuren dat we een false positive paradox oproepen. Hierbij is het aantal false positives hoger dan het daadwerkelijke aantal gevallen dat er sprake is van een ethisch dillema. Dit zou betekenen dat de zelfrijdende auto vaker ongelukken zou veroorzaken dan dat daadwerklijk noodzakelijk.

    Verder is het natuurlijk ook belangrijk om te realiseren dat deze auto’s al bijna geen ongelukken veroorzaken omdat ze bijvoorbeeld niet slaperig worden of achter het stuur zitten te appen. Ik heb liever dat mijn auto alle rekenkracht gebruikt om te voorkomen dat er een ongeluk gebeurt dan dat hij zich met ethische dillema’s bezig houdt

Plaats een reactie