Microsoft komt met twee nieuwe technologische toepassingen in de strijd tegen desinformatie en deepfakes.

Deepfakes zijn afbeeldingen of video’s waarbij beelden worden gecombineerd met behulp van artificiële intelligentie om zo nieuwe, valse beelden te creëren. Door het gebruik van deep learning is het moeilijk om te achterhalen of deze beelden authentiek zijn.

Video Authenticator

Om deze beoordeling te kunnen maken lanceert Microsoft nu Microsoft Video Authenticator. Deze toepassing kan een video of foto analyseren en een betrouwbaarheidsscore geven. Voor video’s kan deze score zelfs frame per frame worden toegekend. Dat doet het door te kijken naar de overgang tussen elementen van de echte en computer-gecreëerde beelden. Deze subtiele fouten zijn vaak niet zichtbaar voor het menselijk oog.

De nieuwe technologie is een onderdeel van Microsofts Defending Democracy Program dat bijdraagt aan de strijd tegen desinformatie en het beschermen van de democratie. Hiervoor werd een samenwerking opgesteld tussen Microsoft Research, Microsofts Responsible AI team en het AI, Ethics and Effects in Engineering and Research (AETHER) Committee.

Het gebruik van deepfakes kan vaak een entertainend doel dienen, zoals deze deepfaketool voor Zoom, maar meermaals werd al gewaarschuwd voor misbruik van de toepassing. Zo kunnen snel video’s gemaakt worden waarmee iemand woorden in de mond gelegd krijgt die hij of zij nooit heeft uitgesproken. Dat demonstreerde Jordan Peele in een video waarin hij Barack Obama imiteert. Wanneer dus niet duidelijk is of het hier gaat over origineel beeldmateriaal of deepfakes kan dit objectieve berichtgeving in de weg staan. Microsoft lanceert daarom zijn Video Authenticator in de aanloop van de Amerikaanse presidentsverkiezingen.

De Video Authenticator werd ontwikkeld aan de hand van de publieke dataset van FaceForensics++ en getest op de DeepFake Detection Challenge Dataset.

AI Foundation

Dat de technologie om deepfakes te creëren snel ontwikkelt weten ze bij Microsoft ook. Om te voorkomen dat deze ontwikkeling een boost krijgt door de Video Authenticator wordt deze niet vrij verspreid maar enkel aangeboden via de organisatie AI Foundation en zijn Reality Defender 2020 initiatief. Organisaties die bijdragen aan het democratische proces volgens Microsoft kunnen hier toegang verkrijgen.

Authenticiteitscertificaat

Om te kunnen oordelen of beeldmateriaal authentiek is introduceert Microsoft bovendien een tool ingebouwd in Azure om een certificaat of digitale vingerafdruk of hash toe te voegen aan een bestand in de metadata. Dit maakt het mogelijk om het bestand altijd terug te leiden naar de originele bron.

Gerelateerde artikelen

Febelfin waarschuwt voor phishing in campagne met deepfakevideo’s

In een creatieve campagne waarschuwt de Belgische bankenfederatie Febelfin voor phishing. Met deepfakevideo’s van Thuis-actice Leah Thys en presentator Thomas Vanderveken kaart de organisatie het thema van cyberveiligheid aan.

Met deze deepfaketool verschijn je op je volgende Zoom-meeting als Elon Musk of Eminem

Een onderzoeker uit Moskou lanceert een deepfaketool die gebruikers tijdens videogesprekken transformeert tot celebrities.

Aantal deepfake video’s op het internet neemt sterk toe

Volgens een telling van het Nederlandse bedrijf Deeptrace is het aantal deepfake video’s op het internet het afgelopen jaar bijna verdubbeld. Deze technologie wordt voorlopig nog bijna uitsluitend in pornografie gebruikt.

Fake en faker: hoe deepfakes onze perceptie vormen

Een AI-video die Donald Trump toont terwijl hij een bedenkelijke uitspraak doet; we zouden het maar al te graag geloven – en vaak tart de werkelijkheid daar onze verbeelding, maar dat is een andere zaak.

LAAT EEN REACTIE ACHTER

Please enter your comment!
Please enter your name here