Nieuws

Chatbot Replika die jongeren helpt verboden in Italië 

replika
Italië heeft een verbod uitgevaardigd op het gebruik van Replika. Dat is een chatbot die een luisterend oor biedt voor jongeren in probleemsituaties.

Volgens Reuters heeft de Italiaanse regering die beslissing genomen omdat de chatbot risico’s zou kunnen inhouden voor “jongeren die nog in ontwikkeling zijn of in een emotioneel instabiele staat verkeren”. De ontwikkelaar van de chatbot riskeert zelfs een boete van tientallen miljoen euro’s. Om die te vermijden mag Replika voor onbepaalde duur geen gegevens meer verwerken van Italiaanse gebruikers. Daarnaast wordt het door de Italiaanse persoonsgegevensautoriteit verzocht om meteen veranderingen door te voeren.    

Volgens de Europese wetgeving mogen diensten als Replika (ook al hebben die een maatschappelijk verantwoord doel) geen gegevens verzamelen van minderjarigen. En dat om de simpele redenen dat min-18-jarigen geen contracten kunnen afsluiten. Verder motiveert het Italiaanse overheidsorgaan dat minderjarigen de dienst zonder ouderlijk toezicht kunnen gebruiken, omdat er niet om een leeftijdsbevestiging gevraagd wordt. En zelfs wanneer kinderen aan de chatbot te kennen zouden geven dat ze niet meerderjarig zijn, zou er geen systeem voorzien zijn om de interactie te verbreken of de dienst stop te zetten. 

Replika als hulpmiddel voor jongeren 

Je kan je in dit geval wel afvragen of de Europese wetgeving niet te ver gaat. Het aantal jongeren dat met mentale problemen kampt is in stijgende lijn en ze hebben daarbij nood aan een luisterend oor of advies van een (digitale) vertrouwenspersoon. De Italiaanse persoonsgegevensautoriteit ziet Replika als een gezondheidsproduct, waarop in veel andere gevallen vaak (terecht) strenge voorwaarden van toepassing zijn. 

Gerelateerde artikelen

Volg ons

Zou jij plaatsnemen in een zelfrijdende Waymo-taxi?

  • Nee (70%, 138 Votes)
  • Ja (30%, 59 Votes)

Aantal stemmen: 197

Laden ... Laden ...
De beste elektronica-acties van februari

De beste elektronica-acties van februari

Bekijken bij bol.com

Business