Microsoft haalt wraakporno uit zoekresultaten Bing
Op het internet zijn heel wat leuke en interessante zaken te vinden, maar ook heel wat zaken die het daglicht beter niet zien. Wraakporno is al langer een probleem op internet, en dat werd alleen maar erger met de opkomst van AI-tools. Die maken het namelijk mogelijk om deepfakeporno te maken: iemand seksuele handelingen laten uitvoeren op beeld, terwijl die persoon eigenlijk niets met het filmpje te maken heeft. Microsoft laat weten dat het die content uit Bing verwijdert.
StopNCII
Daarvoor werkt het bedrijf samen met StopNCII, een project dat het voor slachtoffers van wraakporno mogelijk maakt om de filmpjes efficiënt te verwijderen. Zien slachtoffers een filmpje van zichzelf passeren? Dan kunnen ze daar met StopNCII een zogenaamde ‘hash’ van maken, een code die berekend wordt op de inhoud van de video. Wordt de video op een later moment opnieuw opgeladen op een platform zoals Facebook, TikTok, Reddit, Pornhub, OnlyFans op Snapchat? Dan kan StopNCII dat zien aan de hand van die hash, en het filmpje verwijderen.
Microsoft laat weten dat het de StopNCII-database is beginnen gebruiken in Bing. Op die manier wil het bedrijf beelden uit de zoekmachine Bing gaan verwijderen. Daar is het succesvol in: sinds het einde van augustus werden er al 268.899 afbeeldingen verwijderd.
Dat is niet altijd even simpel. Door beelden te bewerken met AI, verandert ook de hashcode die ermee berekend wordt. Dat zorgt ervoor dat de beelden moeilijker opgespoord kunnen worden en dus ook langer kunnen circuleren. De enige oplossing voor die beelden is om ze handmatig te rapporteren bij Microsoft.
Google doet iets gelijkaardigs, al is het niet aangesloten bij het StopNCII-project. De zoekmachinegigant hanteert eigen richtlijnen voor het aangeven en verwijderen van pornografisch materiaal de zoekmachine. Door de beelden aan te geven, worden ze niet meer geïndexeerd, en kunnen ze ook niet meer teruggevonden worden via de zoekmachine.
