Google lanceert AI-detector die ook beelden van ChatGPT herkent
Het wordt steeds lastiger om echte afbeeldingen en video’s te onderscheiden van beelden die door kunstmatige intelligentie zijn gemaakt. Google probeert daar met zijn vernieuwde SynthID Detector verandering in te brengen. De tool is vanaf 7 oktober wereldwijd beschikbaar via SynthID.com en hiermee kan je controleren of een afbeelding, video of audiobestand met AI is gegenereerd of bewerkt.
SynthID bestaat al sinds 2023 en werkt met onzichtbare watermerken die worden toegevoegd aan AI-content. Bij afbeeldingen en video’s worden deze verwerkt in de pixels, terwijl het watermerk bij audiobestanden in het geluidssignaal zit. Volgens Google zijn inmiddels meer dan 180 miljard afbeeldingen en video’s en maar liefst 240.000 jaar aan audiomateriaal voorzien van zo’n watermerk.
Ook ChatGPT en NVIDIA worden herkend
Tot voor kort was de detector alleen beschikbaar voor een beperkte groep testers. Andere gebruikers konden via Gemini controleren of een bestand een SynthID-watermerk bevatte, maar dat was niet altijd even praktisch of betrouwbaar. Met de nieuwe website is het voldoende om een bestand te uploaden, waarna de detector aangeeft of er een ondersteund AI-watermerk aanwezig is.
De grootste vernieuwing is dat Google niet langer uitsluitend zijn eigen AI-content kan herkennen. SynthID Detector ondersteunt nu ook watermerken van partners als OpenAI, NVIDIA en het Zuid-Koreaanse Kakao. Daardoor kunnen bijvoorbeeld afbeeldingen die met ChatGPT zijn gemaakt eveneens worden gecontroleerd. Ook Apple sluit zich binnenkort bij het initiatief aan.
Om de dienst te gebruiken, moeten gebruikers inloggen met een Google-, OpenAI- of Apple-account. Daarnaast geldt een dagelijkse limiet van ongeveer tien controles per gebruiker. Volgens Google is die beperking nodig om te voorkomen dat mensen de detector gebruiken om methodes te ontwikkelen waarmee AI-watermerken kunnen worden omzeild of verwijderd.
Geen watermerk betekent niet dat iets echt is
Hoewel de nieuwe detector een handig hulpmiddel kan zijn, kent de technologie ook beperkingen. Niet iedere AI-dienst maakt namelijk gebruik van SynthID. Sommige bedrijven gebruiken hun eigen watermerktechnologie, terwijl andere AI-modellen helemaal geen watermerken toevoegen. Vooral bij AI-modellen die gebruikers lokaal op hun eigen computer draaien, ontbreekt zo’n herkenbaar signaal regelmatig.
Dat betekent dat een negatief resultaat niet automatisch bewijst dat een afbeelding of video echt is. De detector kan alleen vaststellen of er een ondersteund watermerk aanwezig is. Bovendien bestaat de mogelijkheid dat dergelijke watermerken in de toekomst verwijderd of omzeild kunnen worden.
