Chatbot Replika die jongeren helpt verboden in Italië
Volgens Reuters heeft de Italiaanse regering die beslissing genomen omdat de chatbot risico’s zou kunnen inhouden voor “jongeren die nog in ontwikkeling zijn of in een emotioneel instabiele staat verkeren”. De ontwikkelaar van de chatbot riskeert zelfs een boete van tientallen miljoen euro’s. Om die te vermijden mag Replika voor onbepaalde duur geen gegevens meer verwerken van Italiaanse gebruikers. Daarnaast wordt het door de Italiaanse persoonsgegevensautoriteit verzocht om meteen veranderingen door te voeren.
Volgens de Europese wetgeving mogen diensten als Replika (ook al hebben die een maatschappelijk verantwoord doel) geen gegevens verzamelen van minderjarigen. En dat om de simpele redenen dat min-18-jarigen geen contracten kunnen afsluiten. Verder motiveert het Italiaanse overheidsorgaan dat minderjarigen de dienst zonder ouderlijk toezicht kunnen gebruiken, omdat er niet om een leeftijdsbevestiging gevraagd wordt. En zelfs wanneer kinderen aan de chatbot te kennen zouden geven dat ze niet meerderjarig zijn, zou er geen systeem voorzien zijn om de interactie te verbreken of de dienst stop te zetten.
Replika als hulpmiddel voor jongeren
Je kan je in dit geval wel afvragen of de Europese wetgeving niet te ver gaat. Het aantal jongeren dat met mentale problemen kampt is in stijgende lijn en ze hebben daarbij nood aan een luisterend oor of advies van een (digitale) vertrouwenspersoon. De Italiaanse persoonsgegevensautoriteit ziet Replika als een gezondheidsproduct, waarop in veel andere gevallen vaak (terecht) strenge voorwaarden van toepassing zijn.
