A nova funcionalidade do Google, chamada AI Overviews, tem gerado polêmica devido a respostas absurdamente incorretas em buscas, incluindo uma sugestão para usar cola na pizza para evitar que o queijo escorregue. Em uma entrevista recente ao The Verge, o CEO do Google, Sundar Pichai, reconheceu que essas 'alucinações' são uma característica inerente aos modelos de linguagem de grande escala, uma tecnologia ainda com problemas não resolvidos. Apesar dos esforços para mitigar esses erros, exemplos bizarros continuam surgindo, como a alegação falsa de que 13 presidentes americanos se formaram na Universidade de Wisconsin-Madison. Pichai tentou minimizar os erros, indicando que, apesar das falhas, a ferramenta ainda é útil. 'Estamos fazendo progresso', afirmou ele, destacando melhorias na factualidade ano após ano. No entanto, a reputação da ferramenta de busca do Google já está manchada, e críticos como a consultora de AI e SEO, Britney Muller, sugerem que a empresa deveria focar em usos mais valiosos da IA, além das buscas. A insistência do Google em competir com empresas como Perplexity e OpenAI em vez de explorar novos territórios é vista como um jogo arriscado.