Meta en OpenAI labelen AI-beelden in strijd tegen desinformatie
Sinds de onthulling van de eerste tekst-naar-beeldsystemen zoals DALL-E heeft de technologie een grote sprong voorwaarts genomen. Inmiddels is AI in staat om haast levensechte beelden te creëren. Bedrijven en overheden vrezen dat daar misbruik van gemaakt zal worden.
OpenAI
In de strijd tegen desinformatie maakte OpenAI al bekend dat het beelden die van DALL-E 3 afkomstig zijn zal beginnen labelen. Die verandering treedt vandaag in werking voor wie de AI-tools op het web gebruikt. Op mobiele toestellen maakt de metadata op 12 februari zijn intrede.
Voor het nieuwe label gaat het in feite om metadata, ofwel achterliggende gegevens die aan bestanden toegekend kunnen worden. Als gebruiker zal je het verschil niet snel merken, aangezien metadata grotendeels uit het zicht blijft. De metadata is vooral nuttig als je twijfelt over de echtheid van een beeld: door het op te laden in een tool. Die zal dan, op basis van de beschikbare informatie, kunnen bepalen of het om een AI-beeld gaat of niet.
De metadata volgt de open C2PA-standaard – de metadata is dus opgebouwd volgens de regels van de kunst. Vraag je aan ChatGPT om een afbeelding te genereren? Dan zal OpenAI twee metatags toevoegen. Eentje dient om aan te geven dat het beeld afkomstig is van de DALL-E 3-API, dat de beeldengenerator bij ChatGPT aandrijft. Daarna geeft de metadata nog mee dat de afbeelding opgeslagen werd via ChatGPT. Op die manier kan aangetoond worden welk model en welke dienst aan de afbeelding te pas kwamen.
Bij het plan van OpenAI hoort wel een grote kanttekening. De metadata waar het bedrijf over spreekt hangt namelijk vast aan afbeeldingsbestanden. Als je een screenshot maakt, blijft er van die metadata niet veel over. Hetzelfde geldt voor sociale media. Als je daar een afbeelding oplaadt, wordt deze zoveel mogelijk verkleind om plek op de servers te besparen. Hierbij gaan, jammerlijk genoeg, ook alle metagegevens verloren.
Meta
Ook bij Meta wordt gewerkt aan tagging voor AI-beelden. Afbeeldingen die door Meta AI gegenereerd worden krijgen daarbij zowel een zichtbaar als onzichtbaar label. Dat moet gebruikers helpen om de AI-beelden als dusdanig te herkennen.
Voor afbeeldingen die niet door Meta’s eigen tool gegenereerd werden werkt het bedrijf aan een nieuwe standaard. Daarvoor werkt het samen met verschillende andere techbedrijven – om welke bedrijven het precies gaat, wordt niet vermeldt. Dat systeem zou op termijn in staat moeten zijn om AI-afbeeldingen te herkennen, met of zonder metadata. Wanneer dat systeem klaar moet zijn wordt niet meegedeeld.
