Zou jij in een auto rijden die bereid was je te laten sterven? Hoe zelfrijdende auto’s omgaan met het nemen van morele beslissingen is een van de grootste dilemma’s waar fabrikanten mee kampen.
In de toekomst bevatten auto’s misschien een ‘ethische knop’ – een knop die mensen zelf laat beslissen hoe de auto morele beslissingen neemt, en de verantwoordelijkheid voor die beslissingen weer bij de bestuurder legt.
Onderzoekers hebben een schakelaar ontwikkeld die de instelling van een zelfrijdende auto van ‘vol altruïstisch’ naar ‘volledig egoïstisch’ kan zetten, met een ‘onpartijdige’ stand ertussen die de auto de beste keus laat bepalen. Het verschil is dat indien nodig mensen – inclusief jijzelf – opgeofferd zullen worden ten behoeve van een andere partij. De knop is rechtlijnig: de auto zal in zijn altruïsmestand altijd een keuze maken die leidt tot de minste totale schade.
‘Ik probeer robots te ontwikkelen die ook echt een nieuwe stap maken’
Hoe werkt vliegen? Dat lijkt een simpele vraag, maar voor luchtvaarttechnicus en bioloog David Lentink is het een levenslange zoektocht.
Afhankelijk van code
Hoe zelfrijdende auto’s moeten omgaan met morele beslissingen is een lastige kwestie. Je reactie op gevaar wordt bepaald door instinct. Dat instinct dicteert hoe wij omgaan met morele keuzes. Auto’s hebben echter geen instinct en zijn in plaats daarvan afhankelijk van een code.
De vraag is daarom wie verantwoordelijk is bij een ongeluk met een zelfrijdende auto. Is dit de fabrikant, de software-ontwikkelaar, of de eigenaar van de auto? Wanneer een mens een auto bestuurt is die verantwoordelijksvraag meestal duidelijk, maar bij de zelfrijdende auto is het juridisch proces een stuk gecompliceerder. De ‘ethische knop’ zou de verantwoordelijkheid weer naar de bestuurder brengen.
Waarde van leven
Wat mensen vinden dat de beste ethische instelling van een auto is, blijkt gecompliceerd. Een onderzoek in 2015 wees uit dat de meeste mensen vinden dat een zelfrijdende auto de totale schade moet minimaliseren. Dat kan echter betekenen dat de inzittenden opgeofferd worden. Tegelijk zegt de meerderheid echter dat ze zelf nooit in een auto zullen stappen die bereid is hen te doden.
Zelf kunnen bepalen wat de ethische instelling is van een auto, biedt mogelijk een oplossing. ‘We wilden ontdekken wat er zou gebeuren als de controle en verantwoordelijkheid voor de acties van de auto terug werden gegeven aan de bestuurder’, zegt Guiseppe Contissa van de Italiaanse Universiteit van Bologna. ‘De knop vertelt een zelfstandige auto de waarde die de bestuurder geeft aan zijn of haar leven in vergelijking met dat van anderen’, zegt Contissa. ‘De auto zal deze informatie gebruiken bij het maken van morele beslissingen en zal hierbij rekening houden met de kans dat de passagiers of andere partijen schade op kunnen lopen.’
Morele verantwoordelijkheid
Het idee voor een ‘ethische knop’ leidt wellicht tot problemen. Als iedereen kiest voor de egoïstische optie, loopt het op de weg mogelijk volledig uit de hand.
En als iedereen de onpartijdige optie kiest, helpt de ‘ethische knop’ niet. Auto’s zullen dan net als voorheen zelf de beslissing nemen, zonder dat je de bestuurder verantwoordelijk kunt houden.
‘We kunnen nu nog niet bepalen of dit de juiste oplossing is’, zegt Edmond Awad van het MIT Media Lab. Maar het nieuwe idee van de ‘ethische knop’ is volgens hem welkom in dit verder nogal prikkelbare debat.
Mis niet langer het laatste wetenschapsnieuws en meld je nu gratis aan voor de nieuwsbrief van New Scientist.
Lees verder: