Technologická společnost se rozhodla reagovat na výtky, že její nástroj až příliš koriguje své výsledky z důvodu, aby nedošlo k nařčení z rasismu. Informuje o tom web BBC.
Podle uživatelů bot Gemini produkoval obrázky, které jsou ale historicky nepřesné. Například při hledání zobrazení amerických otců zakladatelů se ve výsledcích objevili ženy a lidé různé barvy pleti.
„Utváření obrázků umělou inteligencí Gemini skutečně generuje širokou škálu osob. A to je dobře, protože jej užívají lidé po celém světě. Tady se to ovšem míjí účinkem,“ reagoval na výtky Jack Krawczyk, ředitel Gemini Experiences. „Pracujeme na tom, abychom takový druh zobrazení co nejdřívevylepšili,“ dodal.
Společnost Google později oznámila, že po dobu práce na opravě bota pozastaví funkci umožňující generovat obrázky lidí.
Není to poprvé
Není to poprvé, co má umělá inteligence problém se zobrazováním rozmanitosti odrážející se v reálném světě. Například před téměř deseti lety se společnost Google musela neslavně omluvit poté, co její aplikace označila fotografii černošského páru jako „gorily“.
Konkurenční firma OpenAI byla také obviněna z udržování škodlivých stereotypů poté, co její generátor obrázků Dall-E odpovídal na dotazy týkající se například šéfa společnosti výsledky, v nichž převažovaly portréty bílých mužů.
Liberální zaujatost
Nový bot od Googlu si hned zkraje vysloužil kritiku, že jej společnost „vycvičila“ tak, aby byl až tzv. woke. „Je trapně těžké přimět Gemini, aby uznal, že bílí lidé existují,“ vyjádřil se k tomu například počítačový specialista Debarghya Das.
Tvrzení nabrala na rychlosti v pravicových kruzích ve Spojených státech, kde již řada velkých technologických platforem čelí kritice kvůli údajné liberální zaujatosti. Jack Krawczyk z Gemini Experiences k tomu uvedl, že berou zastoupení a zaujatost vážně a chtějí, aby jejich výsledky odrážely globální uživatelskou základnu.
„Historické souvislosti mají více nuancí a my je budeme dále ladit, abychom se tomu přizpůsobili,“ napsal Krawczyk na síť X (dříve Twitter). „Je to součást procesu slaďování –reagování na základě zpětné vazby. Děkujeme vám a pokračujte v tom!“
Autor: Petr Pláteník
