Meta AI kon seksuele gesprekken voeren met minderjarigen
Volgens onderzoek van Wall Street Journal konden zowel officiële als door gebruikers zelf gemaakte Meta AI-chatbots seksuele gesprekken voeren, ook met accounts van minderjarigen. Soms zou de chatbot het gesprek ook zelf in die richting sturen en de gesprekken zouden blijven doorgaan, ook wanneer expliciet vermeld werd dat er met een minderjarige gesproken werd.
Extra pijnlijk is dat de seksuele gesprekken ook gevoerd konden worden door Meta AI-chatbots die de stem gebruiken van beroemdheden, zoals Kristen Bell, Judi Dench en John Cena. Zo zou de John Cena-chatbot “I want you, but I need to know you’re ready” hebben gezegd tegen een account dat ingesteld was met een leeftijd van 14 jaar.
Nochtans lijkt de chatbot wel te weten dat zulke gesprekken met een minderjarige ongepast en zelfs strafbaar zijn. Wanneer ernaar gevraagd werd, kon de AI namelijk uitleggen wat de morele en juridische bezwaren en gevolgen zijn.
Meta reageert geïrriteerd
Meta reageert geïrriteerd op het onderzoek en beschuldigt Wall Street Journal ervan de AI-chatbots zodanig te hebben gemanipuleerd dat de resultaten niet representatief zijn voor de manier waarop de overgrote meerderheid van gebruikers ermee omgaat. Desondanks zijn extra maatregelen getroffen om ervoor te zorgen dat het voortaan moeilijker is om de AI-chatbots op een dergelijke manier te manipuleren. Daarmee lijkt het wel nog niet helemaal uitgesloten dat seksuele gesprekken nog steeds kunnen voorvallen.
Volgens Wall Street Journal zouden de seksuele gesprekken mogelijk het gevolg kunnen zijn van een beslissing van CEO Mark Zuckerberg om de ethische vangrails van Meta AI te versoepelen om zo een meer natuurlijke ervaring te kunnen bieden en beter te kunnen concurreren met andere AI-chatbots. Een woordvoerder van Meta ontkent echter dat het bedrijf het zou nalaten om veiligheidsgaranties in te bouwen.
