Uživatelé tam upozorňovali, že tento nástroj dodával obrázky zobrazující různá pohlaví a etnika, ačkoliv to bylo historicky nepřesné, napsal server BBC News. Google proto v reakci pozastavil funkci generování obrázků s lidmi a brzy se chystá vydat upravenou verzi nástroje.
This is not good. #googlegemini https://t.co/LFjKbSSaG2
„Generování obrázků umělou inteligencí Gemini skutečně vytváří širokou škálu osob. A to je obecně dobře, protože jej používají lidé po celém světě. Ale tady se míjí účinkem,“ řekl ve středu ředitel Gemini Experiences Jack Krawczyk. „Pracujeme na tom, abychom tento druh zobrazování okamžitě zlepšili,“ dodal.
Některé společnosti zabývající se umělou inteligencí narazily na podobné situace už několikrát. Google se musel téměř před deseti lety omluvit, když jejich aplikace označila fotografii černošského páru jako „gorily“. Konkurenční firma OpenAI pak byla obviněna, že udržuje stereotypy. Uživatelé zjistili, že generátor obrázků Dall-E vytvářel pro dotazy týkající se například vedení firem převážně zobrazení bílých mužů.
Gemini je bot založený na umělé inteligenci, který generuje obrazový materiál po zadání písemného dotazu, takzvaného „promptu“. Google začal po spuštění nástroje čelit kritice, že nástroj pro AI vycvičil tak, aby byl „směšně woke“. Slovo Woke je výraz s nejasnou definicí, často označuje různé aspekty protidiskriminační nebo sociálně-liberální politiky.
