Wie is er aansprakelijk als een zelfrijdende auto een ongeluk maakt: de fabrikant of de automobilist? Edgar du Perron, hoogleraar privaatrecht aan de rechtenfaculteit van de Universiteit van Amsterdam, buigt zich over dit probleem tijdens een avond in de Rode Hoed.
Hoe groot is de kans op een ongeluk bij zelfrijdende auto’s?
‘Daar kan ik vrij weinig over zeggen en ik denk niet dat een veiligheidsstatisticus dat wel zou kunnen. De ontwikkeling van zelfrijdende auto’s gaat namelijk zo snel dat de gegevens al verouderd zijn als je ze krijgt.
‘Juridisch gesproken is het wel interessant. Wat gebeurt er als het misgaat en wie is er dan aansprakelijk? De zelfrijdende auto is nu nog niet echt op de weg, maar ik denk dat we toegaan naar een systeem dat veel meer wordt geautomatiseerd. Die tendens heb je ook in de luchtvaart kunnen zien. Op bepaalde vliegvelden gaat het landen bijna of zelfs geheel automatisch.’
Is een zelfrijdende auto hetzelfde als een robot?
‘Dat is een definitiekwestie. Een robot is in staat zelfstandig verschillende taken uit te voeren. Het wordt echt interessant als hij zelflerend is en als hij na een fout van hemzelf of misschien zelfs van een ander het de volgende keer beter zou doen.’
Heersen zwermen killerdrones straks over het slagveld?
Een luchtruim gevuld door kunstmatig intelligente killerdrones, die autonoom bepalen wie blijft leven en wie zal sterven. Hoe waarschijnlijk is dat?
Heeft dat ook iets engs?
‘Nieuwe technologie is altijd eng. Alleen de specialisten weten hoe het werkt, wat er precies onder de motorkap gebeurt. Het is lastig daarop te vertrouwen. Maar in dit kader vind ik de mens nog veel enger. Wat gebeurt er precies in de hersenen? Dick Swaab en Victor Lamme hebben daar prachtige boeken over geschreven.’
Waarin verschilt de zelfrijdende auto van de mens?
‘Ik kan me niet voorstellen dat een robot tijdens het rijden even een appje gaat sturen of in het dashboardkastje op zoek gaat naar een cd. De mens doet dat wel, met alle gevolgen van dien. De mens is altijd op zoek naar afleiding. Constant op een saaie weg letten, kan een robot veel beter dan een mens. De mens gaat ook onderzoeken wat er niet mag of kan. Dat heb ik zelf ook. Als ik een bepaald apparaat heb, kijk ik wat het nog meer kan dan waarvoor ik het heb aangeschaft. Dat brengt gevaar met zich mee. De mens is enger dan de technologie.’
Moeten de wetboeken worden herschreven als zelfrijdende auto’s de weg op gaan?
‘Dat hoeft niet. Het rechtssysteem is flexibel genoeg. We hebben regels voor verkeersaansprakelijkheid en voor productaansprakelijkheid. Een lastige vraag is de verhouding tussen het apparaat en de software. Zeker als die software zelflerend is. Stel: je zit in een zelfrijdende auto die na de aankoop is voorzien van een update van de software buiten de autofabrikant om. Er gebeurt een ongeluk. Wie is er dan aansprakelijk. De automobilist, de autofabrikant of de softwareleverancier? En wat als de automobilist de zelflerende software slecht heeft ‘opgevoed’? Een promovenda van mij houdt zich met dit soort vragen bezig.’
Als je in een auto zit en door een fout van de robot wordt een ongeluk veroorzaakt, wiens schuld is dat dan?
‘Vaak gaat het niet om schuld, maar om risico. Stel dat het stuurwiel afbreekt, dan is het duidelijk dat de fabrikant aansprakelijk is. Dat komt voor zijn risico. Maar het is lastiger bij fouten die moeilijker zijn te identificeren. Dat geldt zeker zolang de mens nog moet opletten naast het zelfrijdende systeem. Wat het systeem zelf betreft, is het belangrijk dat het tot vervelens toe is getest.’
Wanneer rijdt de eerste zelfrijdende auto op de weg?
‘Dat gebeurt nu natuurlijk al voorzichtig, maar ik denk over twee of drie jaar. De robotauto zal steeds meer taken van de mens overnemen, totdat hij volledig autonoom van A naar B kan rijden. Die tussenfase is gevaarlijk. Niet alleen doordat de robot nog fouten maakt, maar vooral door de mens. Het is van groot belang het apparaat totaal idiot proof te maken. Als je met een bepaalde auto alleen met zonnig weer de snelweg op mag, dan moet je er voor zorgen dat mensen dat niet in andere situaties kunnen doen, want de mens is natuurlijk geneigd te doen wat niet mag. In de auto’s moeten mechanismen worden ingebouwd om de mens tegen zichzelf te beschermen.’
Zou u zelf in een zelfrijdende auto stappen?
‘Als hij voldoende getest is, zou ik het zeker doen. En ik zou kijken wat mensen ervan zeggen die ik hoog heb zitten. Als Robbert Dijkgraaf zou vertellen dat het veilig is, zou ik er zonder nadenken instappen.’
Edgar du Perron is een van de sprekers tijdens De robot: collega en concurrent, dinsdag 24 januari 20.00 uur in de Rode Hoed, Amsterdam. Entree 11 euro.
Lees verder: