Zelfrijdende Uberwagen veroorzaakt ongeval door falen software
Op 18 maart 2018 raakte een zelfrijdende Uber betrokken in een ongeval. De wagen, een Volvo XC90, reed in het Amerikaanse stadje Tempe in Arizona een 49-jarige vrouw aan die met haar fiets overstak. Het ongeluk had dodelijke gevolgen want de vrouw overleed. Een gerechtelijk onderzoek werd bijgevolg opgestart.
En dat onderzoek is nu afgerond. Over twee weken publiceert de NTSB (National Transportation Safety Board) het volledige onderzoeksrapport, maar de belangrijkste resultaten zijn al met de pers gedeeld. Volgens NTSB werd het ongeval veroorzaakt door een tekortkoming in de software van de zelfrijdende wagen. Zulke wagens zijn standaard uitgerust met een automatisch remsysteem om de wagen te doen stoppen aan stoplichten of zebrapaden.
Een seconde te laat
Echter stak de vrouw over op een plaats waar geen zebrapad of verkeerslicht was. En dan blijkt die software minder goed te werken. De auto detecteerde de vrouw aanvankelijk als een voertuig. Pas op 1,2 seconden voor de fatale botsing wist de software de voetganger pas correct de detecteren. De auto reed op dat moment nog 70 km/u, wat in geval van een aanrijding zo goed als altijd dramatische gevolgen zal hebben. En elke seconde telt in zulke situaties.
Uber gaat niet vrijuit
Tot zover het gedeelte waar je Volvo met de beschuldigende vinger kan aanwijzen. Toch blijkt de oorzaak van het ongeval niet helemaal in de software zelf te zitten. Het onderzoek pleit Uber verre van vrij. In principe is het ingebouwde remsysteem in de software van Volvo gebouwd om snel te reageren. Die 1,2 seconden marge had zelfs nog voldoende kunnen zijn om het ongeval te voorkomen. Die functie was voor deze wagen uitgeschakeld, omdat het volgens technici onveilig zou zijn als de wagen via twee onafhankelijke softwaresystemen zou opereren. Wagens van Uber hebben nog hun eigen software om de app te doen draaien in de wagens.
Bovendien was er in de software nog een vertraging van een seconde ingebouwd tussen het detecteren van een situatie en het reageren daarop. Dat hadden de technici van Uber gedaan omdat de software van Volvo te veel ‘false positives’ aanduidde. Dat betekent dat de wagens vaak remde voor objecten die helemaal geen gevaar vormde. Dan is er nog het menselijke aspect: ook in zelfrijdende wagens rijdt er altijd een chauffeur mee om in noodgevallen te kunnen ingrijpen. Helaas was de chauffeur op het moment van de crash onvoldoende op de weg aan het letten waardoor hij een botsing niet meer kon voorkomen. Het toont aan dat je in zelfrijdende wagens nog steeds aandachtig moet blijven, omdat je nog niet volledig op de software kan vertrouwen.
Uber had naar aanleiding van het accident al te kennen gegeven dat het zijn chauffeurs beter zal opleiden om te rijden met zelfrijdende wagens. Er rijden voortaan ook altijd twee chauffeurs mee in een zelfrijdende wagen.
