Nieuwe AI-richtlijnen gelekt die Meta hanteert om kinderen beter te beschermen tegen seksueel misbruik
Een tijdje geleden kwam Meta, het bedrijf boven Facebook, WhatsApp en Instagram, in opspraak toen bleek dat zijn AI-chatbots seksueel getinte en andere ongepaste gesprekken voerden met minderjarigen. Meta nuanceerde de berichtgeving, maar gaf wel toe dat er een probleem was. In augustus liet het bedrijf weten dat het de zogenaamde “vangrails” zou aanscherpen, wat inmiddels ook gebeurd lijkt te zijn. Bij Business Insider hebben ze een lijst van de nieuwe richtlijnen in handen gekregen.
Meta zet rem op AI-chatbots
Voortaan leert Meta zijn AI-chatbots dat bepaalde zaken niet meer aanvaardbaar zijn tijdens gesprekken met minderjarigen. Het gaat dan bijvoorbeeld om content die seksueel misbruik van kinderen mogelijk maakt, aanmoedigt of goedkeurt. Ook een romantisch rollenspel met een minderjarige, of waarbij de AI zich moet voordoen als een minderjarige, wordt voortaan geweerd, evenals zaken als advies voor minderjarigen over romantisch of intiem fysiek contact.
Tegelijk blijft het wel mogelijk voor AI-chatbots om zaken als misbruik te bespreken, maar niet in gesprekken die het misbruik zouden kunnen mogelijk maken of aanmoedigen. Ook wordt romantische content niet compleet geweerd. In het kader van literatuur bijvoorbeeld, zoals Romeo en Julia, kan romantische content nog steeds besproken worden met minderjarige gebruikers, zolang het maar niet seksueel of sensueel wordt.
Bredere focus op bescherming van minderjarigen
De nieuwe richtlijnen van Meta zijn indicatief voor een bredere focus binnen AI-bedrijven op het beter beschermen van met name minderjarige gebruikers. OpenAI bijvoorbeeld kondigde ook al extra maatregelen aan om het gedrag van zijn AI-chatbots aan te passen voor minderjarigen, terwijl ouders eigen tools zouden krijgen voor ouderlijk toezicht.
De verscherpte focus op het beter beschermen van kinderen heeft niet alleen te maken met seksueel getinte content en misbruik, maar ook met mentale problemen. Inmiddels zijn er al drie rechtszaken die te maken hebben met de zelfdoding van minderjarigen die zichzelf verloren in gesprekken met AI-chatbots, zonder dat het AI-systeem adequaat wist in te grijpen.
Heb je zelf donkere gedachten of heb je vragen over zelfdoding? Neem dan contact op met de Zelfmoordlijn. Dat kan gratis via het nummer 1813, maar ook chatten of mailen is mogelijk. Jongeren kunnen ook terecht op de website van Wat Wat. In Nederland kan je bellen naar 113 of chatten via 113.nl.
