Em uma nova revelação, um grupo de hackers, incluindo Joseph "rez0" Thacker, Justin "Rhynorater" Gardner e Roni "Lupin" Carta, anunciou que conseguiu explorar vulnerabilidades na IA Gemini do Google e vazou parte de seu código-fonte. Essa jornada de hacking ocorreu durante o evento bugSWAT em Las Vegas, onde a equipe foi reconhecida com o prêmio de Melhor Hacker (MVH).

"A corrida pela dominação no campo dos Modelos de Linguagem de Grande Escala (LLMs) só se intensifica, com gigantes da tecnologia como Meta, Microsoft e Google na dianteira, mas novos concorrentes como Anthropic e Mistral estão emergindo", afirmaram os hackers. Eles destacaram a importância de garantir que as ferramentas de IA sejam construídas com segurança, especialmente à medida que sua adoção se torna mais rápida e generalizada.

Durante o evento, a equipe teve acesso antecipado a uma atualização do Gemini, que incluía várias novas funcionalidades. Após testar o ambiente de sandbox do Gemini, que é destinado a permitir a execução de códigos Python de forma segura, os hackers descobriram que conseguiriam acessar e explorar arquivos dentro do sistema, revelando um arquivo binário de 579MB chamado /usr/bin/entry/entry_point.

Usando técnicas de exfiltração, como impressão de dados em blocos, eles conseguiram recuperar partes do arquivo binário, que continha referências a repositórios internos do Google. A análise revelou diretórios inteiros de código-fonte proprietário, levantando questões sobre a segurança e a confidencialidade das informações da empresa. "A inclusão de código interno que deveria ser mantido em sigilo foi, de fato, uma escolha deliberada", afirmaram os hackers, enfatizando que o conteúdo vazado não deveria ter sido exposto publicamente.

Os hackers também trouxeram à tona que, ao executar comandos específicos, conseguiram extrair arquivos proto internos, que detalham como os dados são classificados dentro do Google. Esses arquivos são considerados altamente confidenciais e sua exposição levantou preocupações significativas sobre a segurança da informação na empresa.

"É crucial testar sistemas de IA antes que eles sejam lançados ao público. Um pequeno descuido pode abrir novas oportunidades para problemas", alertaram, enfatizando a importância de um processo rigoroso de testes e segurança em desenvolvimento de software.

Encerrando suas observações, a equipe expressou sua gratidão ao time de segurança do Google pela colaboração e pela experiência enriquecedora no bugSWAT. Eles também parabenizaram outros participantes do evento, ressaltando a camaradagem e o espírito de comunidade entre os profissionais de segurança cibernética.