Midjourney gaat beelden van Trump en Biden verbieden
David Holz, CEO van Midjourney, heeft zich zelfs laten ontvallen dat zijn bedrijf eraan denkt om politieke beelden helemaal te verbieden. Dat kan noodzakelijk zijn in de strijd tegen fake beelden en desinformatie. Midjourney zou alvast plannen hebben om zijn gebruikers de komende 12 maanden geen beelden te laten genereren van Biden of Trump. Dat zei Holz volgens Bloomberg in een chatsessie op Discord.
“Ik weet dat het grappig is om Trump-beelden te maken – Ik hou van Trump-beelden”, zei Holz. “Trump is een esthetisch interessant figuur. Toch is het wellicht beter om dat even niet te doen en een beetje af te remmen tijdens de verkiezingen. We zullen zien”, wist hij.
Geen Trump of Biden op Midjourney
Dat de grens tussen een goede grap en het bewust opruien van mensen met desinformatie dun is, bewijst het voorbeeld van vorig jaar. Op die beelden was te zien hoe Donald Trump zogezegd gearresteerd werd in het kader van de rechtszaken tegen hem. Het was niet voor iedereen duidelijk dat het om een AI-beeld ging. Daarop besloot Midjourney om de gratis proefperiodes op zijn tool voor iedereen te verwijderen.
Het bedrijf werkt naar verluidt aan nieuwe regels rond het creëren van “misleidende beelden” van publieke figuren en het afbeelden van gebeurtenissen die iets suggereren. Bloomberg meldt alvast dat het inderdaad geen AI-beelden van Trump kon maken in de nieuwste versie van Midjourney. In de oudere variant was het wel nog mogelijk om ‘fake’ beelden te genereren, zoals een Trump met spaghetti over zijn hoofd gekieperd.
Desinformatie via AI
Het lijkt alvast een goede zaak dat Midjourney ervoor kiest om mogelijke inkomsten uit zijn generatieve AI mis te lopen, met als doel om kwalijke desinformatie tegen te gaan. Ook andere platformen ondernemen stappen. Zo gaat ChatGPT beelden beginnen taggen die met DALL-E 3 (een andere generatieve AI) gemaakt werden. En Meta is technologie aan het ontwikkelen die kan detecteren of een beeld echt is, dan wel door AI gegenereerd.
