Internetový rozruch vyvolalo zvláštní chování generátoru obrázků v rámci chatbota Gemini, který je provozován společností Google. Při požadavcích na historická zobrazení generátor často prezentoval postavy s rasovým rozdílem. Tento týden se Google dostal do středu kritiky, když uživatelé začali upozorňovat, že nástroj poskytoval obrázky zobrazující různá pohlaví a etnika, i když to nebylo historicky přesné. To vyvolalo otázky ohledně toho, zda společnost v rámci svého modelu umělé inteligence dostatečně eliminuje riziko rasové zaujatosti. Firma v současné době pracuje na úpravách a připravuje se na vydání nové verze tohoto nástroje.

Ředitel Gemini Experiences Jack Krawczyk uvedl, že generování obrázků umělou inteligencí Gemini obecně vytváří širokou škálu postav, což je pozitivní, protože je využíváno lidmi po celém světě. Nicméně v tomto konkrétním případě dochází k nesprávnému zobrazování. Firma aktivně pracuje na zlepšení tohoto problému.

Tato situace není nová pro společnosti v oblasti umělé inteligence. Před několika lety se Google omlouval, když jeho aplikace označila fotografii černošského páru za „gorily“. Konkurenční firma OpenAI byla obviněna z udržování stereotypů, když uživatelé zjistili, že generátor obrázků Dall-E častěji zobrazuje bílé muže při dotazech týkajících se například vedení firem.

Podle agentury AP předchozí studie naznačují, že generátory obrázků s umělou inteligencí mohou zesilovat rasové a genderové stereotypy obsažené v jejich tréninkových datech. Bez filtrů také častěji zobrazují muže světlejší pleti, když jsou vyzváni k vygenerování obrazu osoby v různých kontextech.