Microsoft ontwikkelt tool voor chatservices om grooming te bestrijden
Microsoft heeft de lancering van ‘Project Artemis’ aangekondigd. Dat is een tool die de veiligheid van chatservices voor kinderen moet verhogen. Kinderen lopen immers het risico om op zulke platformen slachtoffer te worden van grooming. Dat is het lokken van kinderen in een digitale omgeving. Pedofielen proberen via één-op-één chatconversaties zich als iemand anders voor te doen en het vertrouwen van hun slachtoffers te winnen. De uiteindelijke intentie van de dader is om een fysieke afspraak met zijn slachtoffer te regelen, of een minderjarige aan te sporen tot het opsturen van expliciete beelden die verspreid kunnen worden.
We kregen voor het eerst te horen over het project tijdens de ‘360 Cross-industry Hackathon’. Dat is een evenement waar Microsoft aandacht wil vestigen op verscheidene cybersecuritydreigingen, waaronder dus ook online kindermisbruik en grooming. Sindsdien werd er met enkele andere ICT-bedrijven gewerkt aan de tool. Vanaf vandaag is de tool klaar voor commercialisering.
Privacy
De tool kan ingezet worden om conversaties op chatservices te analyseren. In het geval dat er een risico op grooming bestaat, dan zal de tool die bepaalde conversaties markeren met een hoge risicorating. Die kunnen dan door menselijke moderatoren gecontroleerd worden, wat er op wijst dat de algoritmen geen eindoordeel kunnen maken.
Hoewel het doel meer dan nobel is, kan je wel enkele privacybedenkingen maken. Er is immers nog niet zo veel informatie bekend of de machine dan alle conversaties meeleest, ook wanneer er geen potentiële dreiging leest. Ook weten we nog niet zo goed wat er met de transcripten van ‘risicoloze’ conversaties gebeurt. Los daarvan hopen we wel dat het programma kan bijdragen tot het verhogen van de veiligheid van kinderen. Want het internet blijft een zeer gevaarlijke omgeving voor mensen die zich niet goed bewust zijn van wat ze doen.
YouTube
Veel andere technologiebedrijven kampen ook met dit probleem. YouTube verwijderde in februari vorig jaar meer dan honderd kanalen en schakelde reacties uit voor meer dan 10 miljoen video’s met kinderen. Facebook traint al jaren zijn algoritmen om posts en content die schadelijk zijn voor kinderen van het platform te halen. De app van Tumblr werd in november 2018 zelfs even uit de App Store gehaald omwille van massale verspreiding van kinderpornografie.
