Een autonome wagen doodt een voetganger, wie is verantwoordelijk?

In maart 2018 reed een zelfrijdende auto de 49-jarige voetganger Elaine Herzberg aan. De auto was echter niet alleen op pad, maar er zat een toezichtster achter het stuur, namelijk de 44-jarige Rafaela Vasquez. Zoals het een futuristische auto betaamt, waren er uiteraard beelden en uitgebreide logboeken van het ongeluk. Uit die beelden bleek dat Vasquez op het moment van het ongeval The Voice aan het kijken was op haar smartphone.

Uit recente berichtgeving blijkt dat Uber niet zal worden vervolgd voor het ongeval. Dat is het oordeel van de provincieprocureur van Yavapai. Voor de toezichthouder Rafaele Vasquez kan het er een stuk minder rooskleurig uit komen te zien. Er loopt namelijk nog steeds een onderzoek en Vasquez kan worden veroordeeld voor doodslag door middel van een voertuig. Door het voorval mag Uber momenteel geen autonome wagens meer testen in Arizona.

Ondertussen is het al ruim een jaar geleden dat dit drama plaatsvond, maar toch heerst er nog steeds discussie over wie nu precies verantwoordelijk is voor het ongeval. Uiteindelijk zijn het de programmeurs die de auto hebben geprogrammeerd, maar er valt ook iets te zeggen over het feit dat de toezichtster een verantwoordelijkheid had die ze duidelijk niet heeft opgenomen. De grens vervaagt nog verder wanneer er geavanceerde AI wordt toegepast op robots zodat ze uit zichzelf kunnen leren. Moeten robots een aansprakelijkheid krijgen?

Join the club

Uber is niet alleen in het rijtje van zelfrijdende drama’s. Ook Tesla heeft al meerdere slachtoffers gemaakt met Tesla’s autopiloot. Waymo en de autonome wagen van Google hebben ook al bloed aan hun bumpers. Met de opkomst van zelfrijdende auto’s duiken er dus steeds meer juridische vraagstukken op en met name, wie is verantwoordelijk bij een ongeval. Ook de verzekeringsmaatschappijen breken hun hoofd over de zelfrijdende wagens. Op Wikipedia is er zelfs al een goedgevulde pagina gewijd aan self-driving car liability.

Ondanks de doemscenario’s die door de media maar al te graag worden belicht, lijkt het nog steeds logisch dat autonome wagens gaan zorgen voor een drastische afname in het totale aantal ongevallen. De meeste ongevallen zijn namelijk het gevolg van afleiding door smartphones (zie Uber) of door alcohol of vermoeidheid. Uit onderzoek blijkt zelfs dat 9 op de 10 ongevallen te wijten zijn aan een menselijke fout, dus de menselijke factor uit de vergelijking halen lost dat probleem op.

Wie vangt uiteindelijk de verantwoordelijkheid wanneer er een ongeval gebeurt door middel van de autopiloot op een autonome wagen. De programmeur, fabrikant of toch nog steeds de persoon die in de auto zit? Uiteraard willen de autofabrikanten niet verantwoordelijk zijn voor wat er met hun auto’s gebeurt en het lijkt dan ook onlogisch dat we binnenkort volledige autonome wagens zien terwijl de fabrikant verantwoordelijk blijft.

Op niveau

Autonome wagens worden ingedeeld op basis van niveaus. Het laagste niveau (niveau 0) is dan een auto die geen enkele vorm van moderne technologie heeft en volledig door input van de bestuurder zich voortbeweegt. Onder niveau 1 rekenen we dan bijvoorbeeld wagens met een vorm van technologie, zoals cruise control of een noodremfunctie. Niveau 5 is dan de meest extreme vorm, namelijk wanneer de auto zijn eigen beslissingen neemt en zelfs de input van de gebruiker kan negeren als de wagen merkt dat het een slechte beslissing is, zoals je stuur plots naar rechts draaien terwijl er een fietser in je dode hoek rijdt. De meeste autonome wagens van tegenwoordig vallen onder niveau 3. Het is vanaf dit niveau dat er lastige juridische vraagstukken moeten worden getackeld.

Een autonome wagen van niveau 5 kan ervoor kiezen om de input van de bestuurder te negeren en zijn eigen beslissing te laten gelden.

Artikel 8.1 van de Wegcode is onveranderd gebleven, wat betekent dat er altijd een bestuurder moet zijn die de verantwoordelijkheid heeft. Concreet luidt “elk voertuig of elke sleep in beweging moet een bestuurder hebben”. Wat echter niet in deze regelgeving staat, is dat de bestuurder effectief aan boord moet zijn. Als je erin slaagt om zoals James Bond je auto op afstand te besturen via je smartphone, dan is dit toegelaten. Artikel 8.3 van de Wegcode zegt vervolgens dat de bestuurder steeds zijn voertuig goed in de hand moet hebben. Bij een volledig autonome wagen van niveau 5, is dit niet langer geval en dit is dus niet toegestaan.

Het is duidelijk dat wetgeving nog niet klaar is voor autonome wagens van niveau 5. In de wetgeving moet een duidelijke grens worden getrokken tussen de aansprakelijkheid van alle betrokken partijen. De softwareproducent kan misschien wel aansprakelijk worden gesteld voor een fout in de software, maar tegelijkertijd kan die fout worden afgeschoven naar de eindgebruiker die zijn auto niet goed heeft onderhouden waardoor er een camera slecht zicht had.

Slechts een van de vele vraagstukken

De technologie evolueert duidelijk sneller dan de wetgeving. Naast de juridische kwesties, zijn er echter ook nog ethische bekommernissen. Wat als de auto op een moment komt waar hij moet kiezen tussen twee opties, maar beide beslissingen hebben een ongunstige uitkomst. Bijvoorbeeld rechtdoor rijden en een kind aanrijden, of naar rechts uitwijken en een oud vrouwtje aanrijden. MIT bouwde zelfs een website waar je kan stemmen op het ‘beste’ antwoord op een moreel dilemma waar zelfrijdende auto’s mee te maken krijgen. Achteraf worden je antwoorden vergeleken met die van anderen.

De technologie zit in de hoogste versnelling, zal de wetgeving toch het verkeer vertragen?

Vermoedelijk zal het aantal ongevallen zelfs toenemen in de beginperiode van autonome wagens. De software staat nog niet volledig op punt, maar daarnaast is er ook nog de vereiste tussenkomst van de persoon achter het stuur en zoals eerder gezien is dit de zwakste schakel van het hele systeem. Vooral omdat de auto zoveel zelfstandig kan afhandelen, moet de bestuurder minder vaak in actie komen. De bestuurder krijgt zo dus minder ervaring en minder feeling met het verkeer waardoor er sneller verkeerde beslissingen kunnen worden gemaakt wanneer de bestuurder voor een figuurlijk (of letterlijk) kruispunt staat.

Er dringt zich dus een herziene wetgeving op, waarin uitgebreide aandacht is voor de verschillende gradaties van autonoom rijden. De technologie zit in de hoogste versnelling, zal de wetgeving toch het verkeer vertragen?