Instagram gebruikt machine learning om pesterijen te detecteren
Cyberpesten is jammer genoeg nog altijd een veel voorkomend gegeven. Vooral socialmediawebsites zoals Facebook en Instagram zijn populair bij cyberpesters. De websites proberen dan ook maatregelen te treffen tegen cyberpesterijen. Zo worden bepaalde berichten automatisch gerapporteerd op basis van bepaalde trefwoorden. Instagram gaat nu nog een stapje verder en wil ook automatisch foto’s en video’s laten rapporteren waarin pesterijen voorkomen.
Dit nieuwe systeem van Instagram maakt gebruik van machine learning om mogelijke pesterijen in foto’s en video’s te detecteren. Op deze manier ontstaat een proactieve werking waardoor cyberpesten voorkomen wordt, waar het voorheen slechts verholpen werd. Het systeem mag dan automatisch berichten aangeven, maar deze moeten eerst nog langs een menselijke moderator passeren die dan het definitieve oordeel zal vellen. Deze software zal helpen bij het aanpakken van pesterijen, aangezien gebruikers dit vaak wel zagen, maar niet rapporteerden. Berichten die voorheen laattijdig (of zelfs nooit) opgemerkt zouden worden, kunnen door dit systeem tijdig verwijderd worden.
Bovendien heeft het platform ook een optionele reactiefilter uitgebracht voor live-uitzendingen. Deze zou op dit moment wereldwijd beschikbaar moeten zijn. Om nog meer positiviteit te verspreiden heeft Instagram samengewerkt met danseres en actrice Maddie Ziegler om een “kindness effect” te ontwikkelen. Dit camera-effect kan je toevoegen aan foto’s die je met de app neemt en op je verhaal wil zetten. Alles wat je hiervoor moet doen, is het account van Maddie Ziegler volgen en het effect zou moeten verschijnen bij de andere gezichtseffecten van de Instagram-camera. Als je een selfie neemt, zal je scherm gevuld worden met hartjes. De achterste camera zal op zijn beurt een filter opstellen waarbij lieve commentaren in verschillende talen op je scherm verschijnen.
Instagram zelf is zich ervan bewust dat er nog een hoop werk aan de winkel is om zijn gebruikers te beschermen. Het bedrijf wil er uiteindelijk voor zorgen dat iedereen zichzelf kan zijn op het platform zonder zich daarbij zorgen te moeten maken om cyberpesterijen.
