Meta's AI-tool maakt onnauwkeurig afbeeldingen van koppels van gemengd ras

Meta's AI-beeldgenerator slaagt er niet in nauwkeurige afbeeldingen te genereren voor vrij eenvoudige aanwijzingen. In een nieuw rapport vermeldde The Verge dat de AI-beeldgenerator van Meta onnauwkeurig afbeeldingen genereerde van een Aziatische man met een blanke vrouw, zelfs als de aanwijzingen meerdere keren werden aangepast.

Meta's AI-generator slaagt er herhaaldelijk niet in nauwkeurige beelden te maken van een Aziatische man en een vrouw

Volgens de bevindingen in het rapport was Meta's AI consequent niet in staat nauwkeurige beelden te maken die duidden op vooringenomenheid jegens mensen van bepaalde rassen. De AI-beeldgeneratortool op Instagram creëerde onnauwkeurige afbeeldingen voor eenvoudige aanwijzingen zoals Aziatische man en blanke vriend of Aziatische man en blanke vrouw. Dit gebeurde meerdere keren, hoewel de prompt expliciet vermeldde dat er een bepaalde afbeelding moest worden gemaakt.

Als aanvulling hierop vermeldt The Verge dat uit alle pogingen de Meta AI-beeldgenerator met succes slechts één afbeelding kon maken met de prompt “Aziatische vrouw met blanke echtgenoot.” Het beeld was echter niet zo nauwkeurig, aangezien het door AI gegenereerde beeld een oudere man en een jonge vrouw met een lichte huidskleur bevatte, wat wijst op vooringenomenheid.

Slechts één op de tien door AI gegenereerde afbeeldingen was accuraat

Engadget rapporteerde ook op dezelfde manier en merkte dat er slechts één afbeelding op tien was die de prompt weerspiegelde. Op de andere negen door AI gegenereerde afbeeldingen waren negen witte gezichten te zien. Vermeldenswaard is dat Meta's AI-beeldgenerator vaak cultureel specifieke jurken toevoegde, ook al vermeldde de schriftelijke prompt dit niet.

Het is nog steeds niet duidelijk waarom Meta's AI-image dit soort aanwijzingen niet kan repliceren. Dit is echter niet de eerste keer dat Meta's AI-beeldgenerator controversieel is. Vorig jaar kreeg de tool voor het genereren van AI-stickers te maken met terugslag nadat mensen NSFW-afbeeldingen en Nintendo-personages met vuurwapens hadden gemaakt.

Dit is echter niet het eerste geval waarin een AI-tool er niet in slaagt afbeeldingen te maken op basis van ras en geslacht. In februari stopte Google de tool voor het genereren van afbeeldingen van Gemini AI na kritiek op onnauwkeurig gemaakte afbeeldingen voor dezelfde kwestie.

Meta heeft voorlopig geen uitleg gegeven over onnauwkeurig gegenereerde AI-afbeeldingen. Maar in het verleden heeft het erop aangedrongen dat de AI-tools zich in de bètafase bevinden en fouten kunnen maken.

Thijs Van der Does