A Google anunciou uma interrupção temporária na capacidade de seu conjunto de modelos de inteligência artificial generativa, conhecido como Gemini, de gerar imagens de pessoas. Esta medida foi tomada enquanto a empresa atualiza a tecnologia para aprimorar a precisão histórica das representações de humanos. Em uma declaração na plataforma de mídia social X, a gigante da tecnologia descreveu a ação como uma 'pausa', enfatizando que está trabalhando para resolver 'problemas recentes' relacionados a imprecisões históricas.

'Enquanto trabalhamos nisso, vamos pausar a geração de imagens de pessoas e logo mais lançaremos uma versão aprimorada', afirmou a empresa.

O comunicado da Google no Twitter no dia 22 de fevereiro de 2024 já indicava os esforços para corrigir problemas na função de geração de imagens do Gemini. A ferramenta de geração de imagens Gemini foi lançada no início do mês, mas críticas surgiram após a circulação de imagens geradas que representavam figuras históricas de maneira incongruente nas redes sociais — exemplos incluem retratos dos Pais Fundadores dos EUA como índios americanos, negros ou asiáticos, o que provocou censura e escárnio.

Michael Jackson, um capitalista de risco baseado em Paris, expressou no LinkedIn sua desaprovação, chamando a IA do Google de 'paródia sem sentido de DEI' (Diversidade, Equidade e Inclusão). No dia anterior, a Google reconheceu em uma publicação em X que estava 'ciente' de que a IA estava produzindo 'inexatidões em algumas gerações de imagens históricas', e disse: 'Estamos trabalhando para melhorar imediatamente esses tipos de representações. A geração de imagens de AI do Gemini realmente gera uma ampla gama de pessoas. E isso é geralmente uma coisa boa, pois pessoas ao redor do mundo a utilizam. Mas está falhando aqui.'

As ferramentas de IA generativa produzem resultados com base em dados de treinamento e outros parâmetros, como os pesos do modelo. Essas ferramentas têm sido frequentemente criticadas por gerar resultados tendenciosos de maneiras mais estereotipadas, como imagens sexualizadas de mulheres ou imagens de homens brancos em resposta a solicitações de cargos de alto status.

Um episódio anterior envolvendo uma ferramenta de classificação de imagens de IA feita pela Google também causou indignação em 2015, quando homens negros foram classificados incorretamente como gorilas. A empresa prometeu corrigir o problema, mas, conforme relatado pela Wired anos mais tarde, a 'correção' foi um simples paliativo: a tecnologia foi bloqueada para não reconhecer gorilas.