Zelfrijdende taxi stopt niet altijd voor schoolbus
Waymo is de opvolger van het Google Self-Driving Car Project en biedt taxidiensten zonder menselijke chauffeur aan in steden als Los Angeles, Phoenix en San Francisco. Bij ons zijn volledig zelfrijdende auto’s nog niet toegestaan, maar in de Verenigde Staten kan dat dus wel. Met behulp van allerlei sensoren, zoals camera’s, radar en lidar (laserlichten meten de afstand tot objecten om een 3D-model van de omgeving te creëren), kunnen de robotaxi’s zich autonoom voortbewegen in druk verkeer. Via zowel simulaties als echte autoritten kon Waymo miljoenen kilometers aan ervaring verzamelen om alle mogelijke foutjes uit het systeem te krijgen.
Foute beslissing van robotaxi
Toch heeft de National Highway Traffic Safety Administration (NHTSA) een onderzoek geopend naar een incident met een schoolbus, zo meldt Mashable. Die bus was volledig tot stilstand gekomen om kinderen te laten uitstappen en had de bijbehorende rode gevaarlichten geactiveerd, maar toch was de Waymo-wagen erlangs gereden. Dat mag uiteraard niet, want zo kunnen overstekende kinderen in gevaar worden gebracht.
Blijkbaar was de robotaxi aanvankelijk gestopt om uiteindelijk toch verder te rijden. Daarbij kwam hij dicht bij overstekende schoolkinderen. Volgens Waymo had de bus de oprit deels geblokkeerd van waaruit de zelfrijdende wagen kwam. Vanuit die positie had het systeem de rode lichten en het stopsignaal van de bus niet gedetecteerd. Volgens de NHTSA is het waarschijnlijk dat er meer dergelijke voorvallen zijn gebeurd, gezien het grote aantal kilometers dat de Waymo-wagens al hebben afgelegd.
Mens versus machine
Zelf meldt Waymo dat het al een software-update heeft geïmplementeerd en dat er nog meer updates gepland staan. Dit voorval brengt in elk geval de delicaatheid aan van de mogelijkheden van zelfrijdende auto’s. De perfectie is duidelijk nog niet bereikt. Aan de ene kant brengt de afwezigheid van menselijke inbreng met zich mee dat er geen typisch menselijke fouten zoals onoplettendheid of vermoeidheid kunnen optreden, aan de andere kant zie je dat AI niet op elke situatie de juiste reactie heeft.
