Gorodenkoff / Shutterstock
Hoewel zelfrijdende auto’s wereldwijd in tal van steden worden ingezet, blijven er hardnekkige controverses over de inzet ervan bestaan.
Onlangs riep Tesla meer dan twee miljoen auto’s terug nadat de Amerikaanse toezichthouder problemen had gevonden met zijn bestuurdersassistentiesysteem. Tesla was het niet eens met de analyse van de Amerikaanse National Highway Traffic Safety Administration (NHTSA), maar stemde er wel mee in om nieuwe functies toe te voegen.
Tesla’s automatische piloot is niet volledig autonoom, omdat er altijd een menselijke bestuurder aanwezig moet zijn. Maar autonome, zelfrijdende auto’s zijn al ingezet als bestuurderloze taxi’s, of “robotaxi’s”, in verschillende Amerikaanse steden, waaronder San Francisco en Phoenix.
Cruise, het robotaxibedrijf dat eigendom is van General Motors, heeft onlangs zijn operationele licentie in Californië opgeschort gekregen nadat het slechts twee maanden ritprijzen had berekend. Het bedrijf stopte vervolgens de activiteiten in de hele VS en hun CEO vertrok al snel.
Dit volgde op een aantal geruchtmakende incidenten. In oktober sleepte een Cruise-voertuig een voetganger naar de kant van de straat nadat deze was aangereden door een andere auto. Zoals de website van het bedrijf uitlegt: “De AV detecteerde een aanrijding en bracht het voertuig tot stilstand; vervolgens probeerde de AV aan de kant te gaan om verdere verkeersveiligheidsproblemen te voorkomen, waardoor de persoon ongeveer 20 meter naar voren werd getrokken.”
Maar er zijn ook verschillende gevallen gemeld van zelfrijdende auto’s die op de weg tot stilstand kwamen, waaronder in gevallen waarin hulpverleningsvoertuigen in de buurt waren.
Het probleem van het stoppen
Deze incidenten benadrukken de neiging van zelfrijdende auto’s om midden op de weg te stoppen zodra ze vermeende problemen tegenkomen. Zoals menselijke automobilisten zullen weten, is dit niet altijd veilig en kan het zelfs grotere problemen op de weg veroorzaken.
Dit gedrag van de software van de auto raakt de kern van een diepere uitdaging: hoe kunnen zelfrijdende auto’s zo worden ontworpen dat hun begrip van rijden en gedrag op de weg net zo goed is als dat van mensen?
In ons onderzoek hebben we onze ervaringen met het ontwerpen van zelfrijdende auto’s bij Nissan gecombineerd met een nieuwe benadering die video gebruikt om rijgedrag te begrijpen. We gebruikten video-opnames van zelfrijdende auto’s om te begrijpen welke fouten deze voertuigen op de weg maken.
Zoals de eerder genoemde incidenten laten zien, is de perceptie die een zelfrijdend voertuig van de weg heeft niet noodzakelijkerwijs hetzelfde als die van een mens. Een zelfrijdende auto construeert een vereenvoudigd beeld van de wereld op basis van sensorgegevens die een enorme hoeveelheid details van de echte – sociale – wereld negeren. Autonome rijsystemen identificeren de wereld aan de hand van abstracte categorieën, zoals auto’s, fietsers, voetgangers, vrachtwagens enzovoort.
Cruise heeft een zelfrijdende taxidienst in San Francisco.
Iv-olga / Shutterstock
Elke menselijk gevormde blob op de videostream wordt beschouwd als een voetganger, zonder de verschillen waarop menselijke bestuurders kunnen vertrouwen, zoals of een persoon in een demonstratie loopt of achter een bus aan rent. Ons menselijk zicht is van jongs af aan getraind en we rekenen erop dat anderen de dingen op dezelfde manier zien als wij ze waarnemen.
Denk aan het geval van de voetganger die werd meegesleurd door de robotaxi. In het geval dat je iemand aanrijdt, ben je misschien niet in staat om de persoon die je auto net heeft aangereden direct te zien, maar je weet dat hij niet zomaar is verdwenen. Ons gevoel voor object persistentie zou ons ertoe aanzetten om te stoppen en te kijken of die persoon medische hulp nodig heeft.
Zulke situaties staan in de software-industrie bekend als “edge cases”: een relatief zeldzaam geval waar ontwikkelaars niet op anticiperen.
Een fundamentele aanname die ten grondslag ligt aan zelfrijdende auto’s is dat het aantal ongebruikelijke situaties eindig is. Maar er zijn goede redenen om aan te nemen dat de echte wereld helemaal niet eindig is en dat er altijd geheel nieuwe, nooit eerder geziene randgevallen zullen zijn.
Genuanceerd gedrag
Wanneer mensen een totaal nieuwe situatie tegenkomen, beoordelen we wat we moeten doen. We voeren niet gewoon de actie uit die geassocieerd wordt met de “meest gelijkende” situatie in ons geheugen.
Zelfrijdende auto’s hebben dit beoordelingsvermogen niet en kunnen dus ofwel een gokje wagen, of hun toevlucht nemen tot een veronderstelde neutrale of veilige oplossing: stoppen. In onze video-opnames van zelfrijdende auto’s is hun meest voorkomende gedrag in een ongebruikelijke situatie simpelweg stoppen op de weg.
Stoppen op de weg is echter niet noodzakelijkerwijs de veiligste keuze, vooral niet als er voor een brandweerwagen gestopt moet worden. Dit blokkeert niet alleen het verkeer, maar veroorzaakt ook een gevaar op zich. Onze video’s bevatten voorbeelden van dit “stoppen” in de meest banale situaties – zoals een vierrichtingsstop waar een bestuurder traag is bij het oprijden van de kruising, of waar een verkeerskegel een beetje verkeerd is geplaatst.
Voor menselijke bestuurders kunnen we dergelijke misverstanden oplossen met gebaren, het gebruik van de claxon, of misschien zelfs gewoon een blik in een bepaalde richting. Maar bestuurderloze auto’s kunnen geen van deze dingen. Sterker nog, hun voortdurende misverstanden over de menselijke bedoelingen betekenen dat basisproblemen in feite veel vaker voorkomen.
Hoewel we ons ernstige zorgen maken over de veiligheid van zelfrijdende auto’s, maken we ons ook zorgen over hoe zelfrijdende auto’s het verkeer kunnen blokkeren en verstoren door hun onvermogen om met veel gewone verkeerssituaties om te gaan.
In een recent artikel hebben we een aantal mogelijke oplossingen voorgesteld voor het ontwerpen van de beweging van zelfrijdende auto’s, zodat ze beter begrepen kunnen worden door andere weggebruikers. We bespraken vijf basiselementen voor beweging: hiaten, snelheid, positie, aangeven en stoppen.
Samen kunnen deze elementen worden gecombineerd om aanbiedingen te doen en te accepteren met andere weggebruikers, urgentie te tonen, verzoeken te doen en voorkeuren weer te geven.
Wat de toekomstige mogelijkheden van zelfrijdende auto’s ook zijn, onderzoekers moeten de problemen oplossen voordat ze op grotere schaal worden ingezet en dezelfde ‘stilstand’-problemen zich wereldwijd herhalen.
Barry Brown ontvangt financiering van het Wallenberg Artificial Intelligence, Autonomous Systems and Software Program – Humanities and Social Science (WASP-HS). Dit artikel is geschreven in samenwerking met Erik Vinkhuyzen, gastonderzoeker aan het King's College in Londen.