YouTuber MKBHD is boos: stem zomaar gekopieerd door AI
Zonder dat ze er iets van af weten, gebruiken sommige bedrijven de bekende stemmen van populaire creators, met behulp van AI, voor commerciële doeleinden. Neem nu Marques Brownlee, bekend als MKBHD – een van de grootste tech-YouTubers ter wereld. Hij heeft de laatste tien jaar een reputatie en een publiek opgebouwd en zijn recensies kunnen dus een grote impact hebben. MKBHD deelt zijn frustratie: “Het gebeurt echt. Sommige bedrijven gebruiken gewoon een AI-gebaseerde rip-off van mijn stem om hun product te promoten. En dat blijft zonder gevolgen, behalve dat we mensen kunnen waarschuwen voor deze schimmige praktijken”, weet hij. Brownlee benadrukt dat dit soort bedrijven ongestraft hun gang kunnen gaan en eigenlijk consumenten misleiden.
De impact van deepfake-stemmen
Het onderwerp werpt een interessante vraag op: kun je hier wettelijk iets tegen doen? Bekende personen, zoals Scarlett Johansson, hebben in het verleden al eens opgeroepen om AI-stemgebruik zonder toestemming aan banden te leggen. Deels valt zoiets onder portretrecht, maar het echte probleem is dat het kwaad vaak al is geschied tegen de tijd dat je actie kunt ondernemen: zo’n reclamecampagne is dan al een tijd online en mensen hebben het al gezien.
In de muziekwereld komt dezelfde zorg steeds meer naar voren. Streamingdiensten als Spotify verwijderen actief deepfake-muziek om problemen te voorkomen. Ook de muziekindustrie heeft al laten weten zich zorgen te maken over bijvoorbeeld deepfake Drake-nummers. De techniek om stemmen natuurgetrouw na te maken wordt echter ook door hackers ingezet, die in de stem van een familielid om geld vragen aan ouders. Wat op het eerste gezicht een kleine ergernis lijkt, heeft mogelijk veel verdergaande gevolgen dan we denken.
Noodzaak voor AI-wetgeving
Hoewel bestaande wetten al een deel van dit probleem kunnen opvangen, lijkt een stevigere AI-wetgeving noodzakelijk. De EU zet bijvoorbeeld stappen met de AI Act, die begin dit jaar is goedgekeurd. Deze wet, die AI-systemen veiliger moet maken, vormt wereldwijd de eerste regelgeving voor kunstmatige intelligentie. Hoewel het een AI-vriendelijke wet is, zijn er ook duidelijke beperkingen opgenomen.
Het blijft wettelijk gezien nog erg onduidelijk wat bedrijven allemaal met AI kunnen en mogen doen, zeker wanneer het gaat om de publieke perceptie. MKBHD lijkt terecht verontwaardigd: dit is niet alleen misleiding van zijn fans, maar ook directe inkomsten die hem worden ontnomen. In de tussentijd rest er voor influencers weinig anders dan duidelijk maken dat hun officiële samenwerkingen altijd op hun eigen kanalen te vinden zijn, al blijft dat slechts een kleine stap in de richting van transparantie.
