Robots leren liegen

Amerikaanse onderzoekers hebben een robot leren liegen. De bedriegerij kan van pas komen om vijanden op een dwaalspoor te zetten.

Hoe speels het onderzoek ook lijkt, het heeft wel degelijk zijn nut. Kijk bijvoorbeeld naar de film Terminator 2. De eerste robot (de T-800 voor de liefhebbers) krijgt als taak een persoon te beschermen, een andere robot (de T1000) moet de eerste robot dwarsbomen.

Dankzij het onderzoek van het Georgia Tech Research Institute in de VS kan de Terminator zijn concurrent om de tuin leiden en zo zijn beschermeling veilig houden.

Leren liegen
“We hebben algoritmes vastgelegd waardoor een robot kan beslissen of hij een mens of een andere machine moet misleiden. We hebben ook technieken ontwikkeld waarmee de robot kan kiezen welke de beste misleidende strategie is om niet ontdekt te worden”, zegt lesgever Ronald Arkin in een mededeling.

Terwijl het idee van de liegende Terminators (hopelijk) fictie is, zijn er wel praktische toepassingen volgens de onderzoekers. Robots die gebruikt worden voor reddingsdoeleinden bijvoorbeeld. Zij moeten tegen een patiënt kunnen liegen om hem op zijn gemak te stellen. Militaire robots moeten zich dan weer kunnen verstoppen voor de vijand om zo hun gevoelige informatie niet prijs te geven.

“De meeste sociale robots zullen zelden misleiding gebruiken,” stelt Alan Wagner, een andere onderzoeker, “maar het is een belangrijke mogelijkheid in het interactieve arsenaal van een robot. Als hij de noodzaak van een leugen inziet, heeft hij een voordeel tegenover andere robots.”

Verstoppertje 
Voor de ontwikkeling van hun algoritme baseerden de onderzoekers zich op speltheorieën. Dat zijn hulpmiddelen uit de psychologische studie van beslissingsmotivaties van mensen. Ze leerden de robot dat hij moest misleiden als hij in een conflict was met iemand anders en als hij voordeel zou halen uit zijn leugen.

In dit geval was de test voor de robot een spel verstoppertje. Een robot moet zich verstoppen op een van drie voorgeprogrammeerde punten. Terwijl hij naar het punt rijdt, botst hij tegen kegeltjes die een bewijs zijn van zijn doortocht. De misleidende robot rijdt de kegeltjes omver op weg naar één verstoplocatie. Zodra hij voorbij de kegeltjes is, slaat hij af en spurt hij naar een andere plaats.

Ethisch probleem
De mogelijkheid van liegende robots schept wel een bijkomend ethisch probleem volgens de onderzoekers. Hun handelingen zouden wel eens in het nadeel kunnen zijn van de samenleving. In elk geval vinden de onderzoekers dat er eerst nog eens duchtig gediscussieerd moet worden over een ethische code voor liegende robots.