Google maakt tool om AI-content te herkennen opensource
De kwaliteit van wat AI-systemen tegenwoordig kunnen maken, gaat er continu op vooruit. Daardoor wordt het steeds moeilijker om te bepalen of iets echt is of gegenereerd werd door AI. Dat is niet alleen het geval voor foto’s en andere afbeeldingen, maar ook voor tekst en muziek. Google wil ervoor zorgen dat door AI-content binnenkort makkelijker herkenbaar is. Om die reden maakt het een tool die helpt bij de herkenning opensource beschikbaar.
Google werkt al langere tijd aan SynthID, een tool waarmee men de aanwezigheid van AI in teksten kan aantonen. Google Deepmind kondigt op X aan dat het de tool opensourcet. Daardoor kunnen andere bedrijven en ontwikkelaars ermee aan de slag, zonder dat ze voor de technologie moeten betalen. De technologie is dan ook gratis beschikbaar via Hugging Face.
Watermerk voor tekst
Met SynthID is het mogelijk om AI-gebruik in tekst, beeld, video én geluid op te sporen. Vraag je aan een AI-systeem om een tekst te schrijven, dan voert die in feite een reeks rekensommen uit. Na elk woord wordt berekend wat de volgende “token” moet zijn. In sommige gevallen zijn er echter meer tokens om uit te kiezen. Op de achtergrond verandert SynthID welke token er gekozen wordt, op voorwaarde dat dit de kwaliteit en nauwkeurigheid niet schaadt. Dat gebeurt voor de hele tekst terwijl SynthID bijhoudt welke aanpassingen er allemaal gebeuren.
Op die manier kan SynthID een onzichtbare stempel op AI-tekst zetten. Nadien kan een computer berekenen waar de kanswaardes voor tokens verschillen. De techniek werkt pas vanaf meer dan drie zinnen en wordt beter naarmate een tekst langer wordt.
Afbeeldingen en video
SynthID is ook in staat om afbeeldingen en video te watermerken. Dat doet het, net zoals bij tekst, op een onzichtbare manier. Bij het generen van AI-beelden worden systematisch pixels aangepast. Omdat het om individuele pixels gaat, blijft die bewerking onzichtbaar voor het menselijke oog en blijft het resultaat onaangetast.
De tool is nadien ook in staat om afbeeldingen te scannen en daarin het watermerk te herkennen. Dat onzichtbare watermerk krijg je bovendien niet zomaar weg. Zelfs als de foto bewerkt, bijgesneden of gefilterd wordt, blijft het watermerk herkenbaar. Voor video’s werkt de tool op dezelfde manier. Elke individuele frame krijgt een onzichtbaar watermerk, zodat de AI-video als dusdanig herkenbaar is.
Muziek
Ook geluiden kunnen gewatermerkt worden met SynthID. Daarvoor maakt de tool eerst een spectrogram, een visuele weergave van geluidsgolven door de tijd. Eenmaal dat gebeurd is, zet de tool een watermerk op dat spectogram. Het spectrogram wordt opnieuw omgezet in muziek en het watermerk blijft volledig onhoorbaar. Ook hier is dat watermerk herkenbaar voor SynthID, ook nadat de opname vervormd wordt.
