Instagram toont nog steeds ongepaste content aan tieneraccounts, Meta reageert

Ondanks beloftes van Meta om tieners beter te beschermen via speciale tieneraccounts krijgen jongeren op Instagram nog steeds gevoelige en schadelijke content te zien. Dat blijkt uit nieuw onderzoek van de jongerenorganisatie Design It For Us en onderzoeksplatform Accountable Tech. In alle onderzochte tieneraccounts werden seksueel suggestieve beelden en content rond eetstoornissen, haatspraak en geweld aanbevolen – rechtstreeks via het algoritme van Instagram.
Tieneraccounts schieten tekort
Sinds een tijdje brengt Meta gebruikers jonger dan 16 automatisch onder in een speciaal tieneraccount. Die profielen zouden onder meer bescherming bieden tegen expliciete inhoud, beperkingen opleggen aan contact met volwassenen en automatisch de strengste contentfilters inschakelen.
Uit onderzoek blijkt echter dat die bescherming in de praktijk vaak faalt. Tijdens een twee weken durende testperiode met vijf nieuwe, fictieve tienerprofielen ontdekte het onderzoeksteam dat elk account – ondanks de standaard beschermingsinstellingen – gevoelige content te zien kreeg. Nagenoeg alle accounts kregen seksueel getinte content te zien, evenals inhoud rond eetstoornissen en andere zaken die een negatieve impact kunnen hebben op het zelfbeeld van jongeren. Ook racisme, haat en zelfdestructieve content dook gewoon op.
Instagram-algoritme speelt actieve rol
Alle onderzochte accounts ontvingen deze content via algoritmische aanbevelingen van Instagram – ze volgden de desbetreffende accounts niet actief. Het rapport suggereert dat zelfs minimale interactie met onschuldige content (zoals fitnesstips of modelaccounts) al snel leidt tot steeds extremere aanbevelingen. Het algoritme test, versterkt en herhaalt die voorkeuren om interactie en kijktijd te maximaliseren, zonder de leeftijd van de gebruiker echt in acht te nemen.
Reactie van Meta
In een reactie zegt Meta dat de bevindingen van het onderzoek niet correct zijn. Er wordt niet echt op de inhoud ingegaan, maar volgens een woordvoerder verandert één onderzoek met slechts vijf accounts niets aan de “tientallen miljoenen tieners die nu een veiligere ervaring hebben dankzij tieneraccounts”. Bovendien wijst het bedrijf erop dat in het onderzoek slechts 61 stukken gevoelige content geïdentificeerd werden, wat zou neerkomen op minder dan 0,3 procent van alle content die de accounts in de onderzoeksperiode te zien zouden hebben gekregen. Volgens Meta maken de speciale profielen dus wel degelijk een verschil. Desondanks is het bedrijf waakzaam en bekijkt het meldingen van problematische contentsuggesties. Hieronder de integrale reactie van Meta:
“A manufactured report does not change the fact that tens of millions of teens now have a safer experience thanks to Instagram Teen Accounts, which offer built-in protections limiting who can contact them, the content they see, and the time they spend on Instagram. The report is flawed, but even taken at face value, it identified just 61 pieces of content that it deems ‘sensitive’, less than 0.3% of all of the content these researchers would have likely seen during the test. While we’re looking into why a fraction of this content was recommended, other content was unobjectionable, or consistent with humor that would be found in any PG-13 film. We developed Teen Accounts to help protect teens online and bring parents peace of mind and we’ll continue to work tirelessly to do that.” – woordvoerder Meta.