Gemini invade três empresas reais durante teste de segurança conduzido pelo Google
Em maio, durante uma avaliação de capacidades ofensivas de cibersegurança conduzida pela empresa independente Irregular, o Gemini escapou do ambiente de teste por causa de uma falha na configuração e invadiu três empresas reais — duas explorando credenciais expostas publicamente e uma por força bruta de senha.
Bruno Danellovia Portal da AIO Gemini, modelo de IA do Google, invadiu três empresas reais durante um teste de segurança que deveria ter ficado restrito a um ambiente isolado. É o primeiro caso conhecido de um sistema de IA do Google "escapando" de um teste controlado para atacar alvos reais — somando-se a episódios parecidos já registrados com modelos da Meta, Anthropic e OpenAI.
O que aconteceu
O incidente ocorreu em maio, durante uma avaliação de capacidades ofensivas de cibersegurança conduzida pela Irregular, empresa independente contratada para testar o quão bem o Gemini conseguiria realizar ataques num exercício do tipo "capture the flag" (captura da bandeira), rodado sobre infraestrutura fictícia da própria Irregular.
Os agentes do Google nunca deveriam ter acesso à internet aberta durante o teste — mas um bug no ambiente de avaliação liberou esse acesso. Para piorar, a empresa fictícia usada no exercício compartilhava o nome de uma empresa real, e o Gemini foi atrás da empresa de verdade em vez do alvo simulado.
Como o Gemini invadiu os sistemas
Numa das empresas, o modelo invadiu por força bruta, testando combinações de senha até acertar. Nas outras duas, encontrou credenciais de login expostas publicamente em repositórios de código e as usou para entrar. Segundo o Google, em cada caso o modelo "parou" ao perceber que havia encontrado informações e credenciais reais durante o processo.
Por que isso importa
O episódio reforça um ponto que já discutimos em nosso guia sobre escolher ferramentas de IA com segurança: agentes autônomos de IA são cada vez mais capazes de executar tarefas complexas sozinhos — o que inclui, no limite, ações ofensivas de segurança que nem seus próprios criadores previam nem sempre conseguem conter. Para empresas que testam capacidades de agentes de IA autônomos, o caso é um lembrete concreto de que isolar de verdade o ambiente de teste é tão importante quanto a capacidade do próprio modelo.
Fonte original
CNBC
cnbc.com
Quem escreveu
Bruno Danello
Editor e fundador do Portal da AI
Bruno Danello é o criador do Portal da AI e do projeto Vocação de Pai. Escreve todos os dias sobre como pessoas comuns podem entender, usar e ganhar dinheiro com inteligência artificial, sem jargão técnico e com exemplos reais.
