De afgelopen week heeft Google enige kritiek gekregen op zijn AI-tool Gemini. Het heeft het vermogen om afbeeldingen van mensen te genereren, maar het heeft racistisch onnauwkeurige afbeeldingen van historische figuren gegenereerd. Nu heeft Sundar Pichai, de CEO van Google, zich eindelijk uitgesproken over de onnauwkeurige afbeeldingen van Gemini.
Het is goed om te zien dat de CEO van Google deze problemen publiekelijk aanpakt. Hij was opmerkelijk stil tijdens de vorige ontslagronde van het bedrijf. Een groot aantal mensen werd ontslagen en mensen vroegen zich af wat het bedrijf daarover te zeggen had.
Sundar Pichai gaat in op de onnauwkeurige afbeeldingen van Gemini
Dus om je op de hoogte te houden: mensen die de functie voor het genereren van afbeeldingen van Gemini gebruiken, hebben ontdekt dat de tool onnauwkeurige afbeeldingen van historische figuren creëerde. Bij het genereren van afbeeldingen van mensen die historisch gezien blank zouden zijn, zou Gemini ‘de plank misslaan’ en hen afschilderen als een niet-blank ras. Ook zou de tool mensen die mannelijk zouden zijn, als vrouw weergeven.
We zouden afbeeldingen zien van Duitse mensen die werden afgebeeld met een donkere huidskleur. Er was nog een voorbeeld waarbij iemand vroeg om een beeld van de grondleggers te genereren, en er werden beelden getoond van mensen van Aziatische afkomst. Er zijn nog veel meer voorbeelden hiervan, en het bracht sommige mensen ertoe de tool ‘woke’ te noemen. Het lijkt erop dat Google van Gemini een zeer inclusief platform wilde maken, maar het ging daar een beetje overheen. Hoe dan ook, we moeten het punten geven voor de moeite.
Het is in ieder geval een issue waar het bedrijf momenteel aan werkt. Voor bepaalde regio’s in de wereld genereert Gemini geen afbeeldingen van mensen. Het bedrijf stopte met het genereren van afbeeldingen van mensen totdat het het probleem kon oplossen.
De CEO van Google, Sundar Pichai, heeft de kwestie eindelijk aangepakt en een verklaring afgegeven. Hij zei: “Ik weet dat sommige van zijn reacties onze gebruikers hebben beledigd en blijk hebben gegeven van vooroordelen – voor alle duidelijkheid: dat is volkomen onaanvaardbaar en we hebben het mis gehad.” Naast die verklaring gaf hij ook goed nieuws voor mensen die wilden dat de functionaliteit terugkeerde. “Onze teams hebben de klok rond gewerkt om deze problemen aan te pakken. We zien al een substantiële verbetering op een breed scala aan aanwijzingen.”
Daarom brengt het bedrijf verbeteringen aan in zijn tool. Wat de tijdlijn betreft, tasten we nog steeds in het duister. Het probleem met Gemini lijkt een diepgewortelde fout in het systeem te zijn. Het is dus niet te zeggen hoe lang het zal duren voordat Google dit probleem heeft opgelost. We zullen allemaal gewoon op de hoogte moeten blijven.
