ChatGPT gaat (soms) leeftijd en identiteit van gebruikers controleren

Concreet heeft OpenAI plannen aangekondigd voor een geautomatiseerd systeem dat de leeftijd van gebruikers voorspelt om zo te bepalen of een gebruiker naar alle waarschijnlijkheid jonger of ouder dan 18 jaar is. Detecteert het systeem een minderjarige gebruiker of is er twijfel, dan krijgt de gebruiker in kwestie automatisch een beperkte versie van ChatGPT voorgeschoteld. Die zal dan bijvoorbeeld geen volwassen content tonen en andere gepaste restricties hanteren.

Het nieuwe systeem sluit aan bij de opties voor ouderlijk toezicht die eerder al waren aangekondigd. OpenAI wil zo prioriteit geven aan de veiligheid van jongeren, ook al betekent dit dat die jongeren een stuk van hun vrijheid en privacy moeten opgeven. Ook voor volwassen gebruikers heeft het een impact, omdat zij in sommige gevallen hun leeftijd en identiteit zullen moeten laten verifiëren als ze de AI-functies zonder restricties willen gebruiken.

OpenAI beseft dat het een moeilijk evenwicht is tussen veiligheid, privacy en vrijheid, en weet dat niet iedereen het eens zal zijn met deze aanpak, maar volgens het bedrijf wordt hier de juiste afweging gemaakt in het voordeel van de veiligheid van jongeren. Gaandeweg zou het systeem ook nog aangepast kunnen worden.

Nog veel vragen

Ondanks de aankondiging van OpenAI zijn er nog veel vragen over het hele systeem. Zo werd nog niets gezegd over de manier waarop het systeem precies de leeftijd van gebruikers zal raden. Bovendien is bekend dat dergelijke systemen, die ook al door bijvoorbeeld Meta gebruikt worden, het ook wel eens fout kunnen hebben, in welk geval de veiligheid van jonge gebruikers nog steeds in het gedrang komt.

Voorts is nog niet bekend wanneer OpenAI het nieuwe systeem zou gaan implementeren. Voorlopig is enkel aangekondigd dat het systeem ontwikkeld wordt, maar daar werd meteen ook al bij vermeld dat het geen eenvoudig karwei is. Het zou dus wel eens een tijdje kunnen duren alvorens het er is. Intussen zouden ouders echter een beroep kunnen doen op de opties voor het ouderlijk toezicht, die eind deze maand zouden moeten verschijnen.

Nasleep van rechtszaak

De verscherpte focus van OpenAI op de veiligheid van minderjarige gebruikers komt er in de nasleep van een rechtszaak die werd aangespannen naar aanleiding van de zelfdoding van een 16-jarige. ChatGPT zou hebben bijgedragen aan de zelfdoding van Adam Raine en er zouden onvoldoende veiligheidsmaatregelen aanwezig zijn geweest om het tragische voorval te vermijden.

Experts wijzen al een tijdje op het gevaar van AI-chatbots voor therapeutische doeleinden. Ze kunnen soms meer kwaad dan goed doen en uitgebreide blootstelling aan interacties met AI-chatbots zou tot zogenaamde AI-psychoses kunnen leiden.

Heb je zelf donkere gedachten of heb je vragen over zelfdoding? Neem dan contact op met de Zelfmoordlijn. Dat kan gratis via het nummer 1813, maar ook chatten of mailen is mogelijk. Jongeren kunnen ook terecht op de website van Wat Wat. In Nederland kan je bellen naar 113 of chatten via 113.nl.