De utopie van autonomie

Autofabrikanten zoals Tesla beloven ons al een tijdje dat we weldra plaats kunnen nemen in een auto die ons volautomatisch van A naar B brengt, terwijl we zelf een dutje doen of een boek lezen. Voorlopig wordt ons geduld echter danig op de proef gesteld. De route naar de zelfrijdende auto blijkt bezaaid met hindernissen. Wat voor ­obstakels komen autobouwers tegen en zullen ze die ooit helemaal uit de weg kunnen ruimen?

De ontwikkeling van de zelfrijdende auto staat te boek als een revolutie, maar dat is er dan wel eentje waar bijzonder weinig vaart achter zit. Het afgelopen decennium is vaak voorspeld dat benzineslurpende auto’s, bestuurd door brokkenpiloten, snel tot het verleden zouden behoren. De toekomst behoorde toe aan volledig elektrische, ­volledig autonome auto’s.

Met dat elektrische wil het al aardig vlotten, hoewel we nog veel verder en sneller zullen moeten innoveren om gestelde klimaatdoelen te halen. Met het auto­nome schiet het echter niet erg op – op z’n zachtst gezegd.

Duidelijk is wel dat de nieuwste auto’s op de markt steeds meer computer­snufjes bevatten die de bestuurder in staat stellen om onder zeer specifieke omstandigheden af en toe zijn handen van het stuur te halen. Denk bijvoorbeeld aan adaptive cruise control. Maar behalve in enkele zeer kleinschalige proeven met volledig autonome auto’s moeten bestuurders hun ogen op en gedachten bij de weg houden. Een toekomst waarin de gemiddelde automobilist ontspannen achterover kan leunen en zelfs een dutje kan doen terwijl zijn auto hem volledig computergestuurd van zijn huis naar zijn werk brengt en weer terug, is nog heel ver weg.

Er zijn zelfs mensen die openlijk durven te beweren dat de droom van volledig autonome auto’s een luchtspiegeling is. Robotvoertuigen bouwen die elke weg en elke verkeerssituatie aankunnen, zouden een te harde noot zijn om te kraken. ­Hebben ze gelijk? En zo ja, wat staat zelf­rijdende auto’s in de weg?

Autonomieschaal

De droom van volledig elektrische robottaxi’s begon te leven toen de Defense Advanced Research Projects Agency (DARPA), een instituut van het Amerikaanse ministerie van defensie dat militaire technologie ontwikkelt, ruim vijftien jaar geleden een aantal wedstrijden voor autonome voertuigen uitschreef. Die lieten zien dat je een auto zonder bestuurder met behulp van sensoren en computers over honderden kilo­meters terrein kunt laten rijden, waaronder voor de gelegenheid aangelegde nepstraten. Razendsnelle ontwikkelingen op het gebied van computervisie, kunstmatige intelligentie, goedkope radar en digitale routekaarten zorgden voor een sfeer van optimisme: consumentenversies van deze voertuigen zouden voor het grijpen liggen.

Zelfrijdende voertuigen van Way­­mo legden al zo’n 30 miljoen testkilometers af

Er is wel wát vooruitgang geboekt. Sinds 2009 hebben zelfrijdende voertuigen van Waymo, onderdeel van het moederbedrijf van Google, zo’n 30 miljoen testkilometers afgelegd in ruim 25 steden, waarvan ruim 100.000 kilometers autonoom in de ware betekenis van het woord: zonder een bestuurder die het stuur kon overnemen zodra het fout ging. Sommige van die auto’s hebben geen stuur, geen gas- en zelfs geen rempedaal. Sinds 2017 rijden
er in Phoenix, in de ­Amerikaanse staat Arizona, passagiers in mee. De resultaten van deze tests en die van andere ontwikkelaars, waaronder ­universiteiten, autofabrikanten zoals General Motors, Toyota, Honda en Ford en taxibedrijven zoals Uber en Lyft, worden gebruikt om de systemen voor computergestuurd rijden te verfijnen.

Verder zijn gewone auto’s steeds vaker uitgerust met opties die de bestuurder ondersteunen, zoals lane keeping, dat een auto binnen de markeringsstrepen van de rijbaan houdt. Dergelijke geautomatiseerde systemen, die de snelheid of de richting van een auto veranderen (maar niet beide tegelijk) en waarin de bestuurder zelf moet ingrijpen, komen overeen met niveau 1 op een autonomieschaal van 0 tot 5. Die schaal is opgesteld door de Amerikaanse Society of Automotive ­Engineers. Niveau 5 staat voor volledige autonomie, waar dan ook, onder alle omstandigheden.

Veiligheidsperceptie

In 2015 bood autofabrikant Tesla een optie aan van niveau 2, genaamd Autopilot, die tegelijk de richting en de snelheid van een auto kan veranderen. Alle 500.000 auto’s die Tesla in 2020 afleverde beschikken over de optie, waardoor ze automatisch kunnen sturen, optrekken en remmen. Maar hoewel de naam Autopilot anders impliceert, waarschuwt Tesla dat ‘de huidige eigenschappen ervan actief toezicht van de bestuurder vereisen en het voertuig niet autonoom maken’. Oftewel: ogen op de weg en handen aan het stuur, zelfs wanneer de boordcomputer stuurt.

In 2018 introduceerde General Motors de optie Super Cruise, ook van niveau 2, in het topsegment van Cadillac. Het bedrijf zegt dat die het de bestuurder mogelijk maakt handsfree te rijden op bepaalde, door het bedrijf gecontroleerde, beperkt toegankelijke, in rijstroken verdeelde meerbaanssnelwegen in de Verenigde ­Staten en Canada. Het systeem volgt de ogen van de bestuurder en waarschuwt hem als hij langer dan een paar seconden niet naar de weg kijkt. Super Cruise komt eind 2023 beschikbaar op 22 modellen, zegt het bedrijf. ‘Als je het eenmaal hebt gebruikt, kun je niet meer zonder’, zegt adjunct-hoofd techniek van Super Cruise, Jeff Miller.

Andere autofabrikanten, waaronder Honda, Toyota en Volvo, werken aan vergelijkbare systemen voor rijden op de snelweg met privé-voertuigen. Deze moeten in 2023 beschikbaar komen. Eerder dit jaar kwam het Japanse Honda zelfs al met wat het de eerste zelfrijdende straatversie van een auto van niveau 3 noemt. Autonomie van niveau 3 houdt in dat de bestuurder de beheersing van het voertuig in bepaalde omstandigheden uit handen kan geven en iets anders kan gaan doen, bijvoorbeeld een boek lezen, terwijl de computer zijn werk doet. Het model Legend Hybrid EX met Traffic Jam Assist kan een auto door druk snelwegverkeer loodsen, maar alleen als de bestuurder bij het minste of geringste kan ingrijpen en de auto met maximaal 72 kilometer per uur achter een auto op dezelfde rijstrook rijdt.

Audi kondigde in 2017 een vergelijkbare optie aan, maar Europese wetgevers laten dergelijke autonomie op de weg nog niet toe. Het bedrijf staakte zijn pogingen vorig jaar. Achter dat besluit schuilt het eerste grote obstakel dat hogere niveaus van autonomie in de weg staat: veiligheid, of althans de perceptie ervan.

Machineleren

Een reeks spraakmakende ongelukken, soms met doden tot gevolg in of buiten zelfrijdende auto’s, heeft het vertrouwen aangetast in het idee dat zulke auto’s over het algemeen veiliger zijn (zie ‘Hoe veilig zijn zelfrijdende auto’s?’). Misschien wel het schokkendste ongeluk vond plaats in maart 2018, in de Amerikaanse stad Tempe. Een vrouw stak toen met haar fiets aan de hand een straat over. Ze kwam om nadat ze was geraakt door een auto van Uber, mét bestuurder, waarmee een autonomietest werd uitgevoerd. Een onderzoek van de Amerikaanse ­National Transportation Safety Board (NTSB) wees uit dat de auto 5,6 seconden voor de botsing iets had opgemerkt, maar het niet kon identificeren. Ondertussen had de bestuurder een behoorlijke tijd zijn ogen niet op de weg gericht. Hem wacht een proces wegens dood door schuld. Het rapport dat de NTSB over het ongeluk publiceerde was kritisch over de toenmalige ‘ontoereikende veiligheidscultuur’ in de tak van Uber die zich met autonome voertuigen bezighoudt.

Als een fotoapplicatie het niet doet, gaat er niemand dood. Dat is een ander verhaal bij een brok metaal op snelheid

Sam Abuelsamid van consultancybedrijf Guidehouse, een ingenieur die ooit actief was op het gebied van veiligheidssystemen voor auto’s, zegt dat een algemeen probleem van zelfrijdende auto’s is dat de ontwikkelaars vaak ‘geen ervaring hebben met systemen die te allen tijde de veiligheid moeten waar­borgen’. In plaats daarvan komen ze ‘bij technologiebedrijven vandaan, waar het spreekwoord ‘waar gehakt wordt, vallen spaanders’ prima werkt’. Er gaat niemand dood als een fotoapplicatie het niet doet, maar het wordt een heel ander verhaal zodra er iets misgaat met een zwaar brok metaal op hoge snelheid.

Maar door de auto’s en hun uitvinders de schuld te geven, verlies je het zicht op een veel fundamenteler probleem met autonomie van niveau 3. Een onderzoek aan de ­Universiteit van Southampton in Verenigd Koninkrijk uit 2017 wees uit dat mensen er gemiddeld zo’n 5 seconden over doen om de controle over een autonoom voertuig over te nemen, met individuele verschillen van 2 tot bijna 26 seconden. Een auto met een snelheid van 100 kilometer per uur legt in 5 seconden ongeveer 140 meter af. Zelfs bij een lage snelheid van 30 kilometer per uur komt een reactietijd van 5 seconden nog overeen met ruim 40 meter, en daar komt de remweg nog bij.

Die fundamentele beperking boort elke hoop de grond in dat mensen en voertuigen op de een of andere manier de verantwoordelijkheid kunnen delen voor een reactie op een onverwachte situatie. Om die reden hopen veel autofabrikanten niveau 3 helemaal te omzeilen en rechtstreeks door te stoten naar niveau 4, waarop een voertuig in bepaalde duidelijk afgebakende gebieden de volledige controle heeft, zodat de bestuurder bijvoorbeeld een dutje kan gaan doen.

Op dat niveau houden de hindernissen voor voertuigautonomie vooral verband met computervisie. Autonome voertuigen functioneren op basis van computers die de input van sensoren analyseren om objecten te herkennen, veranderingen in hun positie te meten, bewegingen te voorspellen en de auto te sturen om gevaar te ontwijken. ­Zulke systemen zijn sterk afhankelijk van ‘machineleren’, een soort kunstmatige intelligentie die data verzamelt en analyseert om eigen algoritmen aan te passen.

Hoe veilig zijn zelfrijdende auto’s?

Voorstanders van autonome voertuigen wijzen vaak op onderzoek van de US National Highway Traffic Safety Administration (NHTSA), waarin een fout van een bestuurder goed is voor 94 procent van alle verkeersongevallen. Dat is volgens hen reden om voort te maken met de invoering van autonome voertuigen.

Robotvoertuigen zijn inderdaad niet geneigd tot het roekeloze gedrag dat mensen soms tentoon­spreiden, zoals te hard rijden, of dronken of gedrogeerd achter het stuur kruipen. Maar robots zijn evenmin volmaakt, en ongevallen krijgen vaak veel publiciteit.

Met meer dan een miljoen auto’s op de weg die zijn uitgerust met de functie Autopilot, ligt vooral Tesla onder vuur. Op het eerste gezicht zien de cijfers er niet best uit. De website Tesla Deaths maakte per 25 november 2021 melding van 218 doden bij 185 botsingen met Tesla’s overal ter wereld sinds die in 2013 op de markt kwamen.

Maar daarin zijn ook Tesla’s meegerekend die zelf door een ander voertuig werden geraakt, evenals indirecte oorzaken van een ongeluk. Autopilot schijnt slechts tijdens 21 ongelukken actief te zijn geweest. Het systeem heeft bovendien beperkte autonomie: de bestuurder moet voortdurend zijn aandacht erbij houden en de besturing elk moment kunnen overnemen.

Tot dusver heeft de NHTSA drie ongelukken in de VS definitief in verband kunnen brengen met Autopilot. Twee daarvan leken opvallend veel op elkaar: Tesla’s reden op hoge snelheid in op volledig witte vrachtwagens die de weg overstaken terwijl de lucht erachter volledig blauw was.

Een opmerkzame menselijke bestuurder zou het verschil in kleur onmiddellijk opvallen, maar filmpjes die laten zien wat Autopilotcamera’s registreren tonen monochrome beelden. Het voordeel van zulke beelden is dat kunstmatige intelligentie ze razendsnel kan verwerken en daardoor de auto kan blijven besturen. Bij het derde ongeluk, dat veel aandacht kreeg, kwam een technicus van Apple om het leven toen zijn Tesla op een betonnen ­barrière knalde waar twee rijstroken van een snelweg in Silicon Valley zich scheiden.

De NHTSA liet New Scientist vorig jaar weten dat het tot dusver onderzoek had gedaan naar de mogelijke rol van Autopilot bij nog eens dertig ongelukken (niet allemaal met dodelijke afloop). Bij een ervan kwamen twee mannen uit Texas om het leven die naar verluidt probeerden om de auto helemaal autonoom te laten ­rijden. Autopilot merkte weliswaar een obstakel niet op, maar de bestuurders letten niet op de weg voor hen, zoals vereist is wanneer Autopilot aanstaat.

Het publiek zal een beter gevoel over de veiligheid van autonome voertuigen moeten krijgen, willen
die breder aanslaan. Een recente peiling van de American Automobile Association wees uit dat ruim de helft van de bestuurders hun volgende auto uitgerust wil zien met snufjes die hen ondersteunen, maar dat slechts 14 procent zich veilig zou voelen in een zelfrijdende auto.

Op 29 juni 2021 gaf de NHTSA autofabrikanten het bevel om alle ernstige ongelukken op openbare wegen met auto’s met autonomie-niveau 2 en hoger binnen één dag na het ongeval te melden. De instantie zegt de gegevens nodig te hebben om de ­veiligheid van autonome systemen te onderzoeken.

Natuurwetten

De meeste van de eerste zelfrijdende testauto’s hadden een ronddraaiende radar op laserbasis op hun dak, oftewel een lidar. Doordat lidar met veel kortere golflengtes werkt dan conventionele radar, kan die tot zo’n 200 meter veel nauwkeuriger snelheden en afstanden meten. Lidars werden in eerste instantie beschouwd als essentieel voor het real-time, driedimensionaal in de gaten houden van de omgeving, waaronder andere auto’s, voetgangers en fietsers. Maar met een prijs van dik 50.000 euro kostten de eerste lidars meer dan de meeste auto’s. Vooral Tesla-baas Elon Musk zag ze niet zitten, reden voor hem om te besluiten dat conventionele radar, camera’s en betere computertechnologie de klus moesten klaren.

Maar standaardradars in snelle auto’s kunnen geen statische voorwerpen detecteren als iets het uitzicht blokkeert. In mei 2021 maakte Musk bekend dat Tesla alsnog afzag van radar, waardoor het bedrijf sterk afhankelijk werd van cameragegevens. Op camera’s gebaseerde systemen kunnen vrij goed inschatten wat een voorwerp is, maar niet goed afstanden meten, wat het lastig maakt om het traject van andere voertuigen te voorspellen.

Lidar zou nog steeds de redding kunnen betekenen. De prijzen zijn gekelderd, waardoor een compact, geïntegreerd systeem dat een bestuurder ondersteunt inmiddels minder dan 500 euro kost en een module voor een volledig autonome auto zo’n 1000 euro. Audi, Honda, Toyota en Volvo hebben de lidar al opgenomen in hun plannen om nieuwe modellen met autonome eigenschappen te ontwikkelen.

Maar zelfs met lidar zullen sensorsystemen voor autonome auto’s nog ‘broos’ zijn, zegt Abuelsamid. ‘Ze falen geregeld in dingen die voor de mens geen probleem zouden zijn’, zegt hij. Missy Cummings, directeur van het Humans and Autonomy Lab van de Duke-universiteit in de Amerikaanse staat North Carolina, formuleert het nog wat scherper. ‘Mensen moeten een stap terug doen en op een fundamenteel niveau heroverwegen hoe ze zelfrijdende auto’s maken’, zegt ze. ‘De huidige manier waarop we met computervisie omgaan laat zich niet opschalen en gaat niet werken.’

Wat haar betreft is het belangrijkste probleem dat machineleren afhankelijk is van het combineren van de input van afzonderlijke sensoren. Het kan niet van bovenaf redeneren, zoals mensen dat kunnen dankzij hun kennis van de wereld. ‘Machineleren werkt alleen van onderaf’, zegt ze. Wij weten bijvoorbeeld instinctief of wegmarkeringen onderbroken of doorgetrokken strepen zijn, zelfs als ze deels met sneeuw zijn bedekt. Ook weten we dat een rood licht nog steeds een rood licht is als het gedeeltelijk aan het zicht is onttrokken. En we begrijpen meteen wat het betekent als er een hulpvoertuig onze kant op komt. Machineleren heeft moeite met al die dingen en beschikt evenmin over de basale, intuïtieve kennis die mensen van natuurwetten hebben.

Zelfrijdende auto’s die bij elk vals alarm stil blijven staan, leiden tot botsingen en oponthoud

Robotvriendelijke wegen

Om echt veilig te zijn, moeten autonome voertuigen bepaalde acties vermijden, snelheid minderen of zelfs blijven stilstaan in een onbekende situatie die weleens gevaarlijk zou kunnen zijn. Maar ‘alle ­systemen voor deep learning (een vorm van machineleren, red.) slaan vals alarm of maken fouten’, aldus Cummings. Zelf­rijdende auto’s die bij elk vals alarm stil blijven staan, leiden tot oponthoud en kop-staartbotsingen.

Het gaat hier om een inherente beperking van machineleren. Was het een paar jaar geleden nog de vraag hoe lang het zou duren voordat we het nirwana van niveau 5 zouden bereiken – volledige ­autonomie, waar dan ook – tegenwoordig is het de vraag welk deel van een autoreis autonoom kan worden afgelegd.

Topvrouw Mary Barra van General Motors zegt dat het bedrijf ernaar streeft Super Cruise uit te breiden naar ‘handsfree transport in 95 procent van alle rijscenario’s’. Maar dat is een onhaalbare kaart. Alleen al de Verenigde Staten tellen 6,5 miljoen kilometer openbare weg, waarvan slechts 300.000 kilometer voldoet aan de vereisten voor Super Cruise. Van de kilometers die het systeem niet dekt, zijn er 4,2 miljoen verhard, variërend van drukke stadsstraten tot rustige, brede, goed onderhouden lanen in welvarende buitenwijken en weinig bereden plattelandswegen met tegemoetkomend verkeer, maar zonder middenstreep. De overige 2 miljoen kilometer is onverhard, heeft geen markeringen en vaak geen verkeersborden. De noodzaak om die wegen zo te verbeteren dat ze robotvriendelijk zijn ‘is een verborgen last waar de meeste mensen niet bij stilstaan’, zegt Cummings. Hoe dan ook moet de prioriteit uitgaan naar het herstel van slecht onderhouden plattelandswegen, zegt ze.

Pendeldiensten

Dat wil niet zeggen dat er geen rol is weggelegd voor echt autonome voertuigen. Tot de grote kracht van robots behoort dat ze geen last hebben van verveling op saaie, voorspelbare stukken weg en dat ze niet hoeven te slapen. Dat heeft geleid tot groeiende belangstelling voor autonome vrachtwagens, die veel problemen kunnen omzeilen waar voertuigen met inzittenden mee kampen (zie ‘Zonder vlam in de pijp’).

De jubelfase die zo typerend is voor nieuwe technologieën zou weleens voorbij kunnen zijn

Rijden over slecht gemarkeerde wegen, ondergesneeuwde baanvakken of complexe binnensteden met voetgangers, fietsers, geparkeerde auto’s en verkeerslichten is een heel ander verhaal. Echt autonome opties voor automobilisten bevinden zich weliswaar op een dood spoor, er is nog steeds hoop voor geautomatiseerde taxidiensten op duidelijk afgebakende wegen waar computernavigatie werkt. De Cruise-­afdeling van General Motors test ’s nachts in San Francisco een nieuwe, autonome taxidienst, de Origin, die vier tot zes mensen kan vervoeren in plaats van één. Het in Boston gevestigde bedrijf Optimus Ride ontwikkelt een vloot robotauto’s die het transport verzorgen in specifieke, afgebakende gebieden, met als belangrijkste doelgroep ouderen die niet langer zelf mogen rijden of met andere mobiliteitsproblemen kampen. Vergelijkbare voertuigen zouden kunnen worden ingezet voor pendeldiensten naar vliegvelden, industrie­terreinen of bedrijfsparken.

Anderen trekken zich terug. Uber en Lyft verkochten het afgelopen jaar hun divisie voor de ontwikkeling van zelfrijdende auto’s onder verwijzing naar de kosten: Uber aan Aurora, dat werd opgericht door een voormalige werknemer van Waymo, en Lyft aan Toyota. Jody Kelman, hoofd van de planningsdivisie van Lyft, zegt dat robottaxi’s rond 2023 veilig kunnen ­worden ingezet, maar alleen in bepaalde straten, met een bepaalde snelheid en bij goed weer.

Het besef groeit dat de jubelfase die vaak zo typerend is voor nieuwe technologieën in het geval van zelfrijdende auto’s weleens voorbij zou kunnen zijn en dat er een beperktere visie op dergelijke auto’s voor in de plaats is gekomen. Daarin maakt autonomie menselijke bestuurders niet meer overbodig, maar helpt ze hen om onder bepaalde omstandigheden beter te rijden. Dat is nog steeds een soort revolutie, zij het niet de revolutie waarvan we dachten dat die ophanden was.

Zonder vlam in de pijp

De nieuwste trend op het gebied van autonome voertuigen is robots de weg op sturen voor vrachtvervoer over lange afstanden. In de transportsector gaan veel ritten grotendeels over wegen met beperkte ­toegang, waar autonome voertuigen gemakkelijk op kunnen rijden. Een menselijke bestuurder zou de vrachtwagens aan het begin van de rit naar de snelweg kunnen brengen, een andere zou hem op een afslag in de buurt van de bestemming kunnen oppikken.

De meeste belangstelling komt tot dusver uit de uitgestrekte Verenigde Staten. Waymo en Aurora, fabrikanten van min of meer zelfrijdende voertuigen, hebben hun activiteiten uitgebreid naar vrachtvervoer. Start-up TuSimple, gevestigd in San Diego, in Californië, is ook op die markt actief. Het bedrijf doet proeven op snelwegen van Arizona naar Texas, met een bestuurder aan boord voor de veiligheid en om metingen te verrichten. De trucks zijn uitgerust met een lidar (een lasersysteem om de omgeving af te tasten) met een bereik van 200 meter, een microgolfradar met een bereik van 300 meter en camera’s met hoge resolutie die voorwerpen tot een kilometer ver weg kunnen herkennen. Die grotere afstand waarover herkenning mogelijk is, weerspiegelt de tijd die nodig is om een volle vrachtwagen tot ­stilstand te brengen.

Het doel voor langeafstandsstransport is autonomie van niveau 4, maar dan net even anders. Er zou een chauffeur mee moeten gaan, maar die zou niet hoeven opletten of zelfs maar wakker hoeven blijven. In de gecontroleerde snelwegomgeving zou een truck zichzelf veilig tot stilstand kunnen brengen in het geval er iets misgaat of hij op weers- of wegomstandigheden stuit waar hij niet mee overweg kan. Vervolgens zou hij de bestuurder wakker kunnen maken om het stuur over te nemen. Dat zou de slaapjes over­bodig maken waar autoriteiten chauffeurs toe verplichten. Ook zou het de efficiëntie vergroten en ­kostbare ladingen sneller op hun bestemming brengen. TuSimple hoopt de eerste robottrucks van niveau 4 in 2024 op te leveren.

---

Dit artikel is verschenen in New Scientist 95. Deze editie vind je in ons digitaal archief.