O Google está desativando temporariamente a capacidade de sua ferramenta Gemini AI de criar fotos de pessoas após erros históricos

Créditos da imagem: Kenzo Tripoillard /Getty Imagens

O Google afirma que suspendeu temporariamente a capacidade do Gemini, seu principal conjunto de modelos de IA, de gerar imagens de pessoas enquanto trabalha para atualizar a tecnologia para melhorar a precisão histórica dos resultados que incluem imagens de humanos.

em correspondência Na plataforma de mídia social

“Enquanto fazemos isso, pausaremos a criação das fotos das pessoas e relançaremos uma versão melhorada em breve”, acrescentou ela.

O Google lançou sua ferramenta de criação de fotos Gemini no início deste mês. Mas exemplos de geração de imagens desproporcionais de pessoas históricas encontraram seu caminho Nas redes sociais Nos últimos dias, as imagens dos Pais Fundadores dos EUA como indianos, negros ou asiático-americanos levaram a críticas e até ao ridículo.

Escreva na postagem em LinkedIn, O capitalista de risco com sede em Paris, Michael Jackson, juntou-se à multidão hoje – chamando a IA do Google de uma “paródia absurda da DEI”. (DEI significa “Diversidade, Equidade e Inclusão”.)

em Postado no X ontemO Google confirmou que estava “consciente” de que a inteligência artificial estava produzindo “erros em algumas imagens históricas de geração de imagens”, acrescentando em um comunicado: “Estamos trabalhando para melhorar imediatamente esses tipos de imagens”. A geração de imagens Al de Gêmeos atrai uma ampla gama de pessoas. Isso geralmente é bom porque pessoas ao redor do mundo o usam. Mas aqui erra o alvo.”

As ferramentas generativas de IA produzem resultados com base em dados de treinamento e outros parâmetros, como pesos de modelo.

Essas ferramentas têm enfrentado muitas vezes críticas porque produzem resultados tendenciosos de formas mais estereotipadas – por exemplo Imagens sexuais explícitas de mulheres Ou respondendo a reivindicações Cargos de alto status com imagens de homens brancos.

Uma ferramenta anterior de classificação de imagens de IA produzida pelo Google causou indignação, em 2015, quando classificou erroneamente homens negros como gorilas. A empresa prometeu resolver o problema, no entanto Com fio Relatada alguns anos depois, a “solução” foi pura solução alternativa: o Google simplesmente bloqueou a tecnologia de reconhecer gorilas.