Midjourney twijfelt over verbod op AI-beelden van politici
2024 wordt een heus verkiezingsjaar, en dat niet alleen in België. Over de hele wereld vinden, op allerlei verschillende niveaus, verkiezingen plaats. 7 van de 10 meestbevolkte landen ter wereld, waaronder de Verenigde Staten, maken zich in 2024 klaar voor een leidingswissel. AI-aanbieders zijn aandachtig: ze willen namelijk niet dat hun technologie misbruikt wordt voor politieke doeleinden.
Anno 2024 is het namelijk heel makkelijk om, met behulp van AI, beelden te bewerken. Zo is het een koud kunstje om een afbeelding van Donald Trump of Joe Biden te bewerken tot iets aanstootgevends. OpenAI en Meta maakten al bekend dat ze door AI gegenereerde beelden als dusdanig zullen labelen om misbruik te voorkomen. Midjourney, een van de eerste aanbieders van een AI-beeldengenerator, bekijkt volgens Bloomberg de mogelijkheid om politieke afbeeldingen volledig te verbieden.
Deepfakes van Trump
Dat zei CEO David Holz volgens Bloomberg, tijdens een gesprek met Midjourney-klanten op Discord. De CEO zegt dat het misschien verstandig is om het tijdens de verkiezingen wat veiliger te spelen. Eerder greep Midjourney al in toen deepfakebeelden van Trump tijdens de arrestatie verspreid werden. Midjourney besloot toen om de gratis testperiodes af te schaffen en al vanaf de eerste keer geld te vragen aan gebruikers.
Midjourney heeft al een aantal regels die het moeilijk maken om politieke propaganda of deepfakes van politici te genereren. Grappen en grollen met bekendheden mag, maar het is niet toegestaan om misleidende afbeeldingen te creëren. Hetzelfde geldt voor afbeeldingen van gebeurtenissen: ook die mogen niet gemaakt zijn om te misleiden. Zulke regels zijn echter relatief moeilijk af te dwingen. Om die reden bekijkt de AI-aanbieder een totaalverbod op beelden van prominente politici. Op die manier wil het bedrijf ervoor zorgen dat de AI-tool geen onbedoelde gevolgen heeft voor verkiezingen in Amerika en elders in de wereld.
De CEO beseft dat zo’n verbod misschien niet populair is bij gebruikers: “Ik weet dat het leuk is om afbeeldingen van Trump te maken. Ik maak zelf afbeelding van Trump. Trump is esthetisch gezien erg interessant”, zou de topman daarover gezegd hebben tijdens het Discord-gesprek. Wat de uiteindelijke keuze van het bedrijf wordt valt nog te bezien, al is de kans groot dat Midjourney, net als andere AI-aanbieders, zijn diensten inperkt tot na de verkiezingen.
