Aan de hand van toegepaste A.I. hoopt Instagram pesten en discriminatie tegen te gaan.

Instagram doet een ultieme poging in de strijd tegen pesten en discriminatie op zijn platform.

Instagram werkt aan een functie om online pesten tegen te gaan. Aan de hand van A.I. gaat de app automatisch discriminerende en pest-reacties zelf verbergen.

‘Shadow ban’

De app gebruikt de zogenaamde ‘shadow ban’ waarbij een gebruiker de andere kan beperken in zijn account. De pester zal dan enkel nog zijn eigen negatieve reactie zien en voor de rest niets. Dat maakt dat hij zelf extra geconfronteerd wordt met de reactie. Hij zal dan ook niet meer kunnen zien wanneer het slachtoffer online is of wanneer hij/zij een bericht heeft gelezen.

A.I. to the rescue

Het slachtoffer kan die reactie zelf handmatig bannen. Maar Instagram kondigde ook aan dat het A.I. zal inzetten om deze potentieel negatieve reacties automatisch te gaan detecteren en bannen. Zo zal de app zelf aanbieden om over te gaan tot actie en kan het slachtoffer zelf bepalen wat hij/zij wil doen. Daarnaast zal de app ook zelf detecteren wanneer een pester op zijn beurt een negatieve reactie aan het schrijven is of op het punt staat deze te posten, dan zal Instagram de pester er attent op maken dat zijn reactie zeer ongepast is.

Volgens techjournalist Taylor Lorenz van The Atlantic  zullen deze nieuwe functies echter niet heel veel kunnen tegenhouden voor gepeste online gebruikers. De journalist geeft aan dat pesters vaak haatcampagnes opzetten via specifieke accounts. Je kan die accounts dan wel aangeven bij Instagram maar dat proces duurt redelijk lang vooraleer het platform de accounts blokkeert.

Instagram geeft pesters een waarschuwing voor ze een haatdragende reactie posten.