OpenAI diz ter bloqueado extração do raciocínio oculto do ChatGPT

A OpenAI publicou nesta quinta-feira (1º) um relatório afirmando ter identificado e interrompido uma campanha coordenada para extrair o raciocínio interno e protegido de seus modelos de IA, atribuindo um núcleo central da atividade a pessoas associadas à Moonshot AI, empresa chinesa por trás do modelo Kimi. Segundo reportagem do The Hacker News, a atividade começou em 1º de julho em volume baixo, disparou para 16 mil requisições vindas de mais de 4 mil usuários em 24 e 25 de julho, e foi totalmente neutralizada pela empresa em 28 de julho.

A técnica usada, batizada pela OpenAI de "destilação adversarial", consistia em copiar o raciocínio criptografado gerado em uma conversa e colar esse conteúdo em outra conversa, pedindo ao modelo que decodificasse e repetisse o texto, tornando legível algo que normalmente fica oculto do usuário final. A empresa afirma que os operadores não quebraram sua criptografia, não invadiram nenhum banco de dados e não tiveram acesso a conversas armazenadas de outros usuários: o problema foi conseguir, por meio de manipulação do próprio modelo, reproduzir um conteúdo que deveria permanecer protegido.

Por que o raciocínio oculto é tão valioso

Modelos de "raciocínio", como os usados no ChatGPT e no Claude, geram uma cadeia de pensamento interna antes de dar a resposta final ao usuário. Essa cadeia costuma ficar oculta ou resumida porque contém informações sobre como o modelo chega às conclusões, o que é considerado propriedade intelectual sensível e também um mecanismo de segurança: esconder o raciocínio bruto dificulta que outros laboratórios copiem capacidades caras de treinar sem fazer o mesmo investimento. A OpenAI chamou esse tipo de extração de risco tanto comercial quanto de segurança nacional, porque permite que concorrentes avancem rapidamente sem os mesmos cuidados de segurança aplicados ao desenvolvimento original.

Essa não é a primeira acusação do tipo contra a Moonshot AI. Em setembro, a própria Anthropic publicou um relatório detalhando oito meses de uso indevido do Claude, incluindo uma denúncia de que a Moonshot teria repassado secretamente pedidos de clientes para o Claude, devolvido as respostas do modelo da Anthropic como se fossem próprias, e guardado essas trocas para treinar seu modelo de cadeia de raciocínio. O episódio também ocorre num momento em que o Congresso dos EUA pressiona por mais transparência sobre o risco de espionagem chinesa em modelos de IA, como mostrou o pedido do deputado Ro Khanna por dados sobre espionagem chinesa à OpenAI e à Anthropic.

Por que isso importa para você

Para quem usa ChatGPT, Claude ou qualquer outro modelo de IA no trabalho no Brasil, o episódio em si não muda nada no funcionamento do produto: a OpenAI diz que nenhuma conversa de usuário foi exposta, e o ataque visou apenas o raciocínio interno do modelo, não dados pessoais. O que importa aqui é o retrato mais amplo que o caso revela sobre a corrida entre laboratórios de IA: cada vez mais empresas tratam proteger o "miolo" de seus modelos como prioridade de segurança, no mesmo nível de proteger dados de clientes, porque esse miolo é o que sustenta a vantagem competitiva e o valor de mercado da empresa.

Isso tem reflexo direto em quem decide qual ferramenta de IA adotar para o negócio: laboratórios que investem pesado em segurança e detectam esse tipo de ataque em poucas semanas, como a OpenAI fez aqui, tendem a aplicar o mesmo rigor na proteção dos dados que o cliente corporativo compartilha ao usar a API ou o ChatGPT Enterprise. Antes de conectar um agente de IA a sistemas internos de uma empresa, como e-mail, CRM ou planilhas financeiras, vale revisar com calma o histórico de segurança do fornecedor escolhido, e nosso guia de como escolher uma ferramenta de IA com segurança traz um checklist prático para essa avaliação.

Um padrão que se repete entre os grandes laboratórios

O caso da OpenAI com a Moonshot segue um roteiro parecido com episódios anteriores envolvendo outros modelos chineses. A própria DeepSeek já foi acusada publicamente de treinar seus modelos usando saídas de modelos ocidentais, numa prática chamada de "destilação" que permite replicar capacidades sofisticadas a um custo de treinamento muito menor do que o original. A diferença, neste caso específico, é a escala documentada: mais de 15 mil usuários participaram de algum padrão relacionado de extração, segundo a OpenAI, o que sugere uma operação coordenada e não o comportamento isolado de curiosos testando os limites do sistema.

Vale lembrar que "destilação" em si não é ilegal nem incomum: diversos laboratórios, incluindo os ocidentais, usam técnicas legítimas de destilação para treinar modelos menores e mais baratos a partir de modelos maiores que eles mesmos possuem. O que a OpenAI classifica como problema é a extração não autorizada do raciocínio de um modelo de terceiros, em violação direta dos termos de serviço, e não a técnica de destilação enquanto tal. Essa distinção é importante para quem acompanha o debate sobre regulação de IA, porque fica fácil confundir uma prática comum de engenharia com uma acusação específica de violação contratual e possível espionagem industrial.

O que observar daqui para frente

A OpenAI diz ter banido as contas envolvidas, fechado o caminho técnico que permitia reproduzir o raciocínio criptografado e reforçado verificações para impedir que streaming de respostas exponha esse conteúdo no futuro. A empresa também afirma ter compartilhado as descobertas com o Frontier Model Forum, consórcio que reúne laboratórios de IA para discutir segurança, e com agências do governo americano, o que sugere que o episódio pode alimentar ainda mais a pressão por regras formais sobre transferência de capacidades de IA entre países.

Para o leitor brasileiro que acompanha o mercado de IA, o episódio é mais um dado na disputa comercial e geopolítica entre laboratórios americanos e chineses, que já passou por acusações recíprocas envolvendo Anthropic, DeepSeek e agora Moonshot AI. Vale observar se a Moonshot vai responder publicamente às acusações, como fez em episódios anteriores, e se o Congresso dos EUA usa esse caso concreto para avançar com alguma das propostas de restrição a modelos chineses que já tramitam no país. Para quem decide entre contratar ferramentas de IA americanas ou chinesas para seu negócio, episódios como esse reforçam a importância de entender não só o preço e a qualidade do modelo, mas também o histórico de disputas de propriedade intelectual e segurança de cada fornecedor.