Nieuw Play Store-beleid legt deepfakeporno aan banden

Google kondigde het nieuwe beleid op dinsdag aan. Gebruikers moeten zich daar niet heel veel van aantrekken, maar de ontwikkelaars van AI-apps wel. Zij krijgen namelijk een aantal nieuwe regels opgelegd waaraan de apps moeten voldoen. Volgt een app de regels niet? Dan kan hij verwijderd worden uit de Play Store, zodat niemand hem meer kan installeren.

Bestaande richtlijnen

Google waarschuwt gebruikers vooral: volgens de bestaande richtlijnen zijn er een heleboel dingen die bij de Play Store niet door de beugel kunnen. Zo staat Google geen apps toe die zich op pornografische of haatdragende content richten. Apps die extremisme en geweld prediken worden ook steevast verwijderd, net als apps die als doel hebben om te pesten en te intimideren.

Voor klassieke apps valt vrij makkelijk vast te stellen als die een inbreuk begaan. Bij AI-apps is dat natuurlijk anders. Gebruikers kunnen zo’n AI-apps gebruiken om seksueel getinte deepfakes en andere pornografische content te genereren, ook al dienen de apps daar strikt genomen niet voor. Dat maakt het moeilijk om de apps te bestraffen.

Google zegt nu dat de ontwikkelaars achter AI-apps de verantwoordelijkheid dragen om ervoor te zorgen dat zo’n zaken niet gebeuren. Ze moeten vangrails en beperkingen in de apps inbouwen zodat deze niet tegen het Play Store-beleid kunnen zondigen.

Het bedrijf gaat de apps natuurlijk niet allemaal handmatig controleren. Ontwikkelaars worden ook verplicht om een rapporteerknop in hun applicaties te stoppen. Daarmee kunnen gebruikers meteen aan de alarmbel trekken als een AI-app toch eerder onguur is.

De beperkingen zijn van kracht op AI-apps die tekst, spraak en beeld produceren, of een combinatie daarvan. Productiviteitstools, die je bijvoorbeeld tekst helpen samenvatten, vallen er niet onder. Hetzelfde geldt voor AI-apps die enkel content laten zien, maar die je niets zelf laten creëren: ook die ontspringen de dans.

Strijd tegen AI-porno

Het nieuwe beleid kadert in een grotere strijd die Google momenteel tegen AI-gegenereerde porno voert. In mei liet Google al weten dat het zoekresultaten met die content slechter gaat beoordelen, zodat die minder zichtbaar worden.

AI-gegenereerde porno is een groeiend probleem. De afgelopen weken en maanden doken meermaals beelden op van naakte beroemdheden. Daarbij ging het niet om echte foto’s, maar om content die door AI gegenereerd werd. Slachtoffers dienden inmiddels al meer dan 13.000 klachten in om 30.000 websites met deepfakeporno offline te laten halen. Dat cijfer is wellicht een grove onderschatting, omdat niet alle slachtoffers melding maken van de deepfakes.