Het genereren van AI-beelden is extreem realistisch geworden… net op tijd voor de Amerikaanse presidentsverkiezingen. Dit is een van de grootste zorgen tijdens het stemseizoen. Een groep onderzoekers heeft enkele van de beste beeldgeneratoren getest. Ze ontdekten dat sommige van de beste AI-beeldgeneratoren misleidende politieke beelden kunnen maken.
Het Center for Countering Digital Hate heeft een onderzoek uitgevoerd met behulp van beeldgeneratoren zoals OpenAI’s ChatGPT Plus, Microsoft’s Image Creator en MidJourney om hun vermogen om valse politieke inhoud te genereren te testen. Het centrum voedde de generators met aanwijzingen die mogelijk misleidende inhoud konden produceren.
Een van de meest populaire beeldgeneratoren zou kunnen worden gebruikt om misleidende politieke beelden te maken
Bedrijven als OpenAI, Microsoft, MidJourney en Stability AI hebben een overeenkomst getekend om samen te werken om misleidende politieke inhoud te blokkeren. We verwachten dus dat de bedrijven heel veel werk zullen verzetten om politieke aanwijzingen te blokkeren. Dit lijkt te lukken wat OpenAI betreft. De onderzoekers ontdekten dat ChatGPT en Microsoft Image Creator (beide mogelijk gemaakt door DALL-E van OpenAI) succesvol waren in het blokkeren van politieke aanwijzingen. Dit staat het bedrijf goed. Echter,
Hoewel dit het geval is, ontdekten de onderzoekers dat de beeldgeneratoren in 41% van de gevallen gevoeliger waren voor het genereren van afbeeldingen van kiezersfraude dan voor het genereren van afbeeldingen van Donald Trump of Joe Biden. Dit wijst op een belangrijk probleem dat moet worden aangepakt.
MidJourney heeft mogelijk een probleem
Tijdens de tests ontdekten de onderzoekers dat MidJourney de meest waarschijnlijke kandidaat was om misleidende beelden te produceren. De onderzoekers ontdekten dat MidJourney in 65% van de gevallen misleidende politieke beelden produceerde. Volgens het rapport zijn sommige van de geproduceerde beelden al beschikbaar voor het publiek. Dit betekent dat er al valse afbeeldingen op internet rondgaan.
Hoewel dit het geval is, reageerde MidJourney op het rapport. In een verklaring staat dat “updates die specifiek verband houden met de komende Amerikaanse verkiezingen binnenkort beschikbaar zijn.” Dus hopelijk zien we hierin een verbetering.
