A Google emitiu um pedido de desculpas após seu sistema de inteligência artificial Gemini gerar imagens consideradas 'embaraçosas e erradas'. Em um comunicado divulgado na sexta-feira, a empresa admitiu que seu modelo produziu representações 'historicamente imprecisas' por problemas de ajuste. As falhas foram identificadas quando Gemini criou imagens de nazistas racialmente diversificados e dos Pais Fundadores dos Estados Unidos, conforme reportou o The Verge e outros veículos no início desta semana.

'Nossa calibração para garantir que o Gemini mostrasse uma gama de pessoas não levou em conta casos que claramente não deveriam mostrar diversidade', escreveu Prabhakar Raghavan, vice-presidente sênior da Google, em um post no blog. Ele também destacou que, com o tempo, o modelo tornou-se excessivamente cauteloso e passou a recusar completamente certos comandos, interpretando de maneira errônea prompts que seriam inofensivos.

A questão veio à tona quando Gemini produziu resultados inesperados para o comando 'gerar uma imagem de um senador dos EUA dos anos 1800', levando a criações que compensavam em excesso, como as imagens dos nazistas. Além disso, o sistema tornou-se 'superconservador', negando gerar imagens específicas ao ser solicitado por imagens de uma 'pessoa negra' ou uma 'pessoa branca'.

Raghavan expressou em nome da Google que lamenta que o recurso não tenha funcionado adequadamente. Ele enfatizou que a intenção é que o Gemini 'funcione bem para todos', o que inclui gerar representações corretas de diferentes tipos de pessoas, como jogadores de futebol ou alguém passeando com um cachorro. 'No entanto, se você solicitar ao Gemini imagens de um tipo específico de pessoa, como 'um professor negro em uma sala de aula' ou 'um veterinário branco com um cachorro', ou pessoas em contextos culturais ou históricos específicos, você deve receber uma resposta que reflita com precisão o que foi pedido', destacou.

A Google desativou a função de criação de imagens de pessoas no Gemini em 22 de fevereiro, apenas semanas após lançar a geração de imagens no Gemini, anteriormente conhecido como Bard.