TikTok gaat als eerste AI-content watermerken
Een primeur voor TikTok: de kortefilmpjesapp is het eerste sociale netwerk dat door AI gegeneerde content automatisch van een watermerk gaat voorzien. Om dat te doen, werkt het samen met de Coalition for Content Provenance and Authenticity (C2PA).
Metadata voor AI
Bij C2PA werd technologie ontwikkeld die meteen laat weten of iets uit AI voorkomt of niet. In feite gaat het om een stukje metadata: dat is extra informatie die bij een foto- of videobestand zit. Momenteel wordt die metadata vooral gebruikt om meteen de tijd en locatie te vermelden. Nu zit daar een extra stukje informatie in dat laat weten of iets door AI gegenereerd is of niet.
C2PA is een samenwerkingsverband tussen Arm, BBC, Intel, Microsoft, Adobe, Microsoft en Truepic. Met hun ‘content credentials’ willen ze een royaltyvrije standaard ontwikkelen om mensen te waarschuwen voor AI-content. Dat TikTok nu als eerste sociale medium die standaard gebruikt, is alvast goed nieuws.
Zelf zal je die ‘content credentials’ niet te zien krijgen. Op basis van die informatie kan TikTok wel bepalen wie een bepaalde filmpje maakte, of het bewerkt werd en of er AI aan te pas kwam. De socialemedia-app gebruikt die informatie om te bepalen welke filmpjes een watermerk krijgen.
TikTok plaatst vandaag al labels bij filmpjes waar AI-effecten in voorkomen. Zelf gaat het bedrijf ook content credentials aan TikTok-filmpjes beginnen hangen. Die gegevens blijven aan het filmpje hangen wanneer je het downloadt, zodat andere websites ook kunnen waarschuwen voor AI-gebruik.
Geen waterdichte oplossing
De vraag is maar of dat voldoende is. Wie een beetje kennis van zaken heeft, zou de metadata waar TikTok naar kijkt kunnen weghalen. De app spoort gebruikers verder aan om hun eigen content van een label te voorzien indien er AI in komt kijken. Daarvoor rekent het medium natuurlijk wel op zijn gebruikers, die moeten willen meewerken. Met andere woorden: dat TikTok de nieuwe vorm van metadata ondersteunt is goed nieuws, maar betekent geenszins dat de strijd tegen AI-gegenereerde content gestreden is. Dat zal, niet alleen voor TikTok maar ook voor andere sociale media, een voortdurende strijd worden.