Microsoft lanceert deepfakegenerator voor bedrijven
Tijdens het Microsoft Ignite 2023-evenement stelde Microsoft een heleboel nieuwe AI-producten voor. De meesten daarvan zagen we van ver aankomen: Bing Chat wordt hernoemd naar Copilot, en de Copilot komt ook naar Microsoft-diensten als Azure. Ook komt er een Copilot-versie die samenwerkt met CRM-software om dienstverlening richting klanten te vergemakkelijken. Naast die zakelijke toepassingen deed Microsoft een wel heel opmerkelijke aankondiging, voor een dienst die het Azure AI Speech noemt.
Met Azure AI Speech krijgen gebruikers een tekst-naar-spraakavatar. In die tool is het allereerst mogelijk om een avatar te (laten) maken op basis van enkele foto’s die je oplaadt. Azure AI Speech zal dan een avatar genereren die op de persoon op de foto lijkt. Onderliggend is er een AI-systeem dat die avatar in staat stelt om verschillende bewegingen te maken, zodat alles er natuurlijk uitziet.
In een volgende stap kunnen gebruikers een script opladen om het door Microsofts tekst-naar-spraakmodel te laten verwerken. Daarvoor hebben gebruikers twee mogelijkheden: ze kunnen vooraf ingestelde stemmen gebruiken, maar ze kunnen ook hun stem opnemen en door het model laten verwerken. Indien je dat doet, zal de avatar jouw stem krijgen. Microsoft ziet Azure AI Speech vooral gebruikt worden om video’s te maken. Dat kan dan gaan om trainingvideo’s voor nieuwe werknemers in bedrijven, productvoorstellingen et cetera.
De avatar kan meteen met meerdere talen aan de slag. Bovendien zouden de avatars ook ingezet kunnen worden om de klantendienst te bemannen of zouden ze als virtuele assistent kunnen optreden. Indien ze als chatbot gebruikt worden, kunnen de avatars gebruikmaken van GPT 3.5. Antwoorden die niet op voorhand werden geprogrammeerd, zouden door een klantendienstavatar zo alsnog opgehaald kunnen worden.
Deepfakes
De nieuwe functie is indrukwekkend, maar baart ook zorgen: wat Microsoft avatars noemt, zijn in feite deepfakes. Om misbruik te voorkomen, voert Microsoft meteen enkele beperkingen in. De meeste Azure-klanten zullen bij de lancering enkel sjablonen kunnen selecteren, maar zelf nog geen avatar kunnen maken. Om van die mogelijkheid gebruik te kunnen maken, zullen bedrijven zich eerst moeten registeren. Dan nog zijn de avatars op maat enkel te gebruiken voor bepaalde doeleinden.
Behalve de technologie van Microsoft, bestaan er ook andere toepassingen om deepfakes te maken. Deze ‘deepfakes’ zijn video’s waarin iemand uitspraken doet of handelingen stelt die niet echt gebeurd zijn. Met de opkomst van AI-technologie wordt het alsmaar moeilijker om zo’n deepfakes van echte videobeelden te onderscheiden.
