Videomodel Sora van OpenAI gelekt door testers
In februari van dit jaar stelde OpenAI een nieuwe tool voor om video’s mee te genereren. Met Sora wist de ChatGPT-maker vriend en vijand te verbazen. De video’s die uit het programma komen zien er namelijk levensecht uit. Sinds de onthulling in februari bleef het echter relatief stil wat de tool betreft. In maart vertelde voormalig CEO Mira Murati nog dat Sora tegen het einde van het jaar gelanceerd zou worden, maar hield toen een slag om de arm. Het bedrijf wou niets lanceren waar het niet zeker over is, of als het de impact van de technologie niet goed kan inschatten.
Achter de schermen kan een beperkt publiek al aan de slag met de nieuwe AI-tool. Daar lijken de testers helemaal niet tevreden mee. Als vorm van protest lekten de testers Sora op Hugging Face, een populair platform voor AI-ontwikkeling. Daardoor kon een breed publiek vroegtijdig aan de slag met de tool om video’s te genereren, ook al was dat de bedoeling niet. Via de frontend die de testers beschikbaar stelden, konden korte video’s van 10 seconden gegeneerd worden, in een Full HD-resolutie. Nadat de tool drie uur beschikbaar was, sloot OpenAI zelf de toegang tot de tool.
Knappe resultaten
Gebruikers zijn flink onder de indruk van de mogelijkheden, ook al bevindt de tool zich nog in een vroege fase. Dat de testers ontevreden zijn, heeft vooral te maken met de contacten met OpenAI. In een open brief aan de “corporate overlords” laten de betrokken artiesten weten dat ze een wrang gevoel hebben bij de test. Ze hebben het gevoel dat ze verleid werden om aan “art washing” te doen. “Artiesten zijn je gratis R&D niet” en “we zijn niet uw: bugtesters, PR-poppen, trainingsdata en validatietokens”, schrijven de protesteerders verder.
Voor OpenAI is het van cruciaal belang dat de tool omarmd wordt door artiesten. Het bedrijf wil namelijk naar Hollywood trekken met de tool. Dat woordvoerder Niko Felix zegt dat artiesten steun zullen blijven krijgen van het AI-bedrijf, komt dan ook niet als een verrassing. Het succes van de AI-videogenerator staat of valt namelijk met het draagvlak dat ervoor is, en net dat probeert OpenAI te verzekeren door samen te werken met artiesten.
Nog werk aan de winkel
Verder is enorm belangrijk dat de technologie er niet alleen goed uitziet, maar ook veilig is. Eind oktober liet Kevin Weil, CPO bij OpenAI, zich ontvallen dat daar nog aan gewerkt wordt. Voor een lancering mogelijk is, moet OpenAI de technologie en de rekenkracht die daarvoor vereist is eerst nog opschalen. Daarnaast wil het bedrijf ervoor zorgen dat er geen belangrijke figuren nagemaakt kunnen worden, zodat er geen risico is op door AI gegenereerde deepfakes. Wanneer de technologie voor het brede publiek beschikbaar gesteld wordt, is nog niet geweten.
