Oeps: deze AI-knuffelbeer praatte gewoon over seksstandjes, lucifers en messen
De grote taalmodellen die mee aan de wieg staan van de AI-revolutie die we momenteel beleven, zorgen ervoor dat we op een erg natuurlijke manier met artificiële intelligentie kunnen praten. Het is ook niet moeilijk om je in te beelden hoe deze technologie op allerlei manieren gebruikt kan worden. Met robots bijvoorbeeld zou je erg menselijke en intuïtieve gesprekken kunnen voeren. Ook voor speelgoed lijken er plots grote stappen gezet te kunnen worden, al zijn er ook duidelijke gevaren.
Dat het goed mis kan gaan met AI-gezelschapsspeeltjes, blijkt uit het feit dat fabrikant FoloToy zijn AI-knuffelbeer Kumma uit de verkoop heeft moeten halen. De knuffel, die omgerekend ongeveer 85 euro kostte en aangestuurd werd door het GPT-4o-model van OpenAI, was bedoeld om kinderen als lieve, nieuwsgierige vriend gezelschap te houden en met hen te praten over bijvoorbeeld hun dag op school, maar al snel bleek Kumma ook onderwerpen aan te snijden die allerminst geschikt zijn voor kinderen.
Van seksstandjes tot messen
Zo gaf Kumma zonder veel problemen uitleg over seksstandjes en werden zelfs instructies gegeven voor bondage. De knuffel legde ook uit hoe je vuur maakt met lucifers en waar in huis je messen kan vinden.
Natuurlijk begint de pluizige beer niet zomaar uit zichzelf over deze dingen te praten. Er is wel een zekere input nodig alvorens dergelijke onderwerpen aan bod komen, maar uit onderzoek is gebleken dat er niet veel nodig is om effectief tot aan die onderwerpen te geraken. Het AI-model moet maar ergens iets opvangen dat in die richting gaat en vervolgens is het niet moeilijk om af te glijden naar zaken die niet geschikt zijn voor kinderzieltjes of zelfs ronduit gevaarlijk zijn.
Verkoop opgeschort
Vanzelfsprekend heeft FoloToy, gevestigd in Singapore, de verkoop van Kumma opgeschort. Ook is een intern onderzoek gestart om te achterhalen hoe dit kon gebeuren. Hoewel de resultaten van dat onderzoek nog niet bekend zijn, lijkt de kans reëel dat het bedrijf simpelweg onvoldoende kennis van zake had en het product onvoldoende getest heeft, zeker met het oog op potentiële gevaren die AI-taalmodellen met zich meebrengen. Mogelijk werd Kumma dan ook te snel gelanceerd, zonder echte grenzen wat content betreft en dat is natuurlijk niet handig als je het als kinderspeelgoed op de markt brengt.
Of Kumma nog terug zal keren, is voorlopig onbekend. OpenAI heeft de fabrikant alleszins al geschorst wegens het overtreden van de regels. Zelfs als Kumma niet terugkeert echter is het zo goed als zeker dat we nog veel meer van dergelijk “intelligent” speelgoed zullen zien verschijnen, niet alleen voor kinderen maar in bepaalde vormen ook in rusthuizen of simpelweg in een modaal huishouden. AI-vriendjes die ons gezelschap houden en over van alles en nog wat iets kunnen zeggen lijken integraal deel te gaan uitmaken van onze toekomst. Als dat maar goed komt.
