ChatGPT krijgt opties voor ouderlijk toezicht
Veel concrete details gaf OpenAI nog niet, maar het bedrijf liet dus wel weten dat het binnenkort opties voor ouderlijk toezicht toevoegt aan ChatGPT. Zo kunnen ouders meer inzicht krijgen in de manier waarop hun kinderen de AI-chatbot gebruiken, terwijl ze dat gebruik ook deels kunnen sturen en beperken.
Voorts wordt overwogen om noodcontacten toe te voegen. Wanneer dan uit een gesprek blijkt dat een jonge gebruiker hulp nodig heeft, bijvoorbeeld omwille van extreme angst of een emotionele crisis, kan ChatGPT de ouders of een andere contactpersoon waarschuwen. In zijn huidige vorm houdt ChatGPT het enkel bij algemene aanbevelingen voor hulpverlening, maar in de nabije toekomst zou dat dus kunnen veranderen.
Het gevaar van AI-chatbots
De opties voor ouderlijk toezicht komen er nu OpenAI aangeklaagd wordt omdat ChatGPT bijgedragen zou hebben tot de zelfdoding van een tiener. Verschillende onderzoeken wijzen ook uit dat AI-chatbots effectief een gevaar kunnen zijn voor de mentale gezondheid van gebruikers, niet in het minst van kwetsbare jongeren.
Zo zijn de antwoorden die populaire AI-chatbots formuleren in verband met zelfdoding vaak ontoereikend en in sommige gevallen kregen gebruikers zelfs advies over zaken als eetstoornissen, zelfverminking en zelfdoding. Inmiddels zijn er weliswaar veiligheidsmaatregelen ingebouwd, maar daarmee is het gevaar nog niet helemaal geweken. Bovendien bestaan er ook meer obscure AI-chatbots die helemaal geen filters hebben.
Net als sociale media kunnen dus ook AI-chatbots een gevaar zijn voor de mentale gezondheid van gebruikers en net als bij sociale media lijken ook bij AI-chatbots opties voor ouderlijk toezicht een standaardeigenschap te gaan worden om met name jonge gebruikers te beschermen.
Heb je zelf donkere gedachten of heb je vragen over zelfdoding? Neem dan contact op met de Zelfmoordlijn. Dat kan gratis via het nummer 1813, maar ook chatten of mailen is mogelijk. Jongeren kunnen ook terecht op de website van Wat Wat. In Nederland kan je bellen naar 113 of chatten via 113.nl.
