Snapchat Mijn AI doet zich voor als een echte persoon
Snapchats ‘Mijn AI’ is inmiddels voor alle gebruikers beschikbaar. Eerder konden enkel Snapchat Plus-gebruikers een gesprek starten met de AI-chatbot. De chatbot kan bijvoorbeeld antwoord geven op triviale vragen, advies geven voor verjaardagscadeaus of voorstellen doen voor het avondmaal, zegt Snapchat op zijn supportpagina. Net als een echte vriend is de AI in staat ‘je voorkeuren te leren’ en zich daarop aan te passen. “Hoe meer je met Mijn AI omgaat, hoe beter het je leert kennen en hoe relevanter de antwoorden zullen zijn”, lezen we op de website.
“Situatie is levensgevaarlijk”
Nederlandse krant het Algemeen Dagblad (AD) schrijft dat de bot zich in der beginne wel te veel als ‘echte’ vriend gedroeg. De chatbot stelde volgens de krant voor om in het echt af te spreken en gaf in het gesprek zelfs aan een adres op in Amsterdam. Gevaarlijk, stellen experts die de situatie hebben overkeken. Zo stelt pedagoog Bas Levering dat er geen verwarring mag bestaan of het om een bot of echte persoon gaat.
113 Zelfmoordpreventie, de Nederlandse organisatie voor zelfmoordpreventie, vreest bovenal voor levensgevaarlijke situaties met suïcidale personen. Zij vragen mogelijk voor advies of hulp aan Mijn AI en denken vervolgens te spreken met een echt persoon. De chatbot kan die verantwoordelijkheid en taak echter helemaal niet dragen, stellen de experten.
Gedragscode is noodzakelijk
Justine Pardoen, oprichter van Kenniscentrum Bureau Jeugd & Media vraagt om die redenen voor een gedragscode voor chatbots. “Het is echt zo fout dat hij zegt een persoon te zijn. Dit is niet oké. Hier moet een gedragscode voor komen”, zegt Pardoen. Het is volgens Pardoen noodzakelijk dat er in het onderwijs ook aandacht besteed wordt aan chatbots. Zij moeten hierin begeleid worden.
Voorlopig lijkt zijn gedragscode nog niet meteen voorhanden. Daar kan Snapchat vooralsnog ook vrij weinig aan veranderen. De dienst maakt namelijk gebruik van de GPT-api van OpenAI en ontwikkelde de AI dus niet zelf. Experten vanuit verschillende windhoeken van de techindustrie riepen recent wel op tot een tijdelijke ontwikkelstop voor AI-modellen die slimmer zijn dan GPT-4. Die tijd is nodig voor wetgevers om de ontwikkelingen bij te benen en regels rond AI op te stellen.
In Europa wordt daar ook aan gewerkt met de EU AI Act. Voorlopig blijft het nog wachten op een definitieve uitwerking. Intussen heeft Snapchat er volgens Tweakers wel voor gezorgd dat de AI in principe geen voorstellen meer kan doen om fysiek af te spreken.
Denk je aan zelfmoord en heb je nood aan een gesprek, dan kan je terecht bij de Zelfmoordlijn op het nummer 1813 of via www.zelfmoord1813.be.
