’s Werelds grootste deepfake-pornosite stopt ermee
Volgens 404 Media ging het om ruim 43.000 deepfake-pornovideo’s, die in totaal meer dan 1,5 miljard keer zijn bekeken. Het betrof steevast pornografische video’s die zonder wederzijdse toestemming zijn gemaakt en verspreid, waarbij gebruik werd gemaakt van face-swappingtechnologieën op basis van kunstmatige intelligentie. Daarmee werden gezichten van beroemdheden en andere slachtoffers in de video’s gemonteerd.
Voor makers bleek het een lucratieve inkomstenbron: gebruikers betaalden honderden tot meer dan duizend dollar voor één deepfakevideo. Volgens onderzoekers zouden er bijna 4.000 makers actief zijn geweest op het platform. Hoeveel zij hiermee verdienden, is niet bekend, maar vaststaat dat het om aanzienlijke bedragen gaat. De video’s kunnen ingrijpende gevolgen hebben voor de personen die erin voorkomen.
Geen terugkeer
Een terugkeer van het platform lijkt uitgesloten. “We gaan niet opnieuw van start. Elke website die dit beweert, is nep,” luidt de mededeling in een pop-up op de website. De oprichter waarschuwt bezoekers om geen vertrouwen te stellen in domeinen die zich voordoen als een voortzetting van Mr. Deepfake.
Dezelfde melding geeft ook inzicht in de reden van de sluiting. Een ‘kritieke serviceprovider’ zou het platform dit weekend ‘permanent’ offline hebben gehaald. Mogelijk gaat het om de hostingprovider waarop de duizenden video’s waren opgeslagen en waarop ook het forum draaide waar gebruikers verzoeken konden indienen.
Een andere mogelijkheid is dat Google Mr. Deepfake de toegang tot zijn Colab-notebooks heeft ontzegd. Via die omgeving krijgen gebruikers (beperkt) gratis toegang tot GPU-cloudservers, die vermoedelijk werden gebruikt voor het genereren van de deepfakevideo’s. Sinds de beëindiging van de dienstverlening zijn duizenden video’s van de site verdwenen en zijn ook de fora offline gehaald.
Strengere Amerikaanse wetgeving
De sluiting van ’s werelds grootste deepfakepornowebsite volgt in elk geval kort na de goedkeuring van de Amerikaanse Take It Down Act. Deze wetgeving verbiedt de creatie en verspreiding van intieme beelden zonder wederzijdse toestemming. Ook door kunstmatige intelligentie gegenereerde video’s vallen onder deze wet.
Eerder nam Mr. Deepfake al maatregelen om vergelijkbare wetgeving in het Verenigd Koninkrijk te omzeilen; sinds 2024 was de site daar niet meer toegankelijk. Ditmaal lijkt het platform echter toe te geven aan de strengere regels, al valt nog te bezien wat de werkelijke impact daarvan is.
Verder zonder Mr. Deepfake
In 2023 had Mr. Deepfake volgens onderzoek van Harvard ongeveer 250.000 gebruikers. Het is aannemelijk dat zij op zoek gaan naar een alternatief of zelf een nieuw platform opzetten. Veel voormalige leden zouden zich inmiddels al hebben verenigd op Telegram, waar ze expliciete content met elkaar verhandelen.
De benodigde technologie is bovendien nog altijd beschikbaar. De DeepFaceLab-software, die werd gebruikt voor het maken van deepfake-pornovideo’s, is inmiddels meer dan 8.000 keer gekopieerd op GitHub. Naar schatting wordt ongeveer 95 procent van alle deepfakevideo’s inmiddels met deze AI-software geproduceerd.
