Anthropic diz no S-1 que está perto de uma IA que se aperfeiçoa sozinha

A Anthropic, dona do Claude, acrescentou nesta segunda-feira (2) novas frases à seção de fatores de risco do prospecto de abertura de capital (S-1) que enviou à SEC, a comissão de valores mobiliários dos Estados Unidos. Segundo a reportagem do TechCrunch, assinada por Julie Bort, o texto indica que a empresa está perto de criar um modelo capaz de "autoaperfeiçoamento recursivo", conhecido pela sigla em inglês RSI. A leitura abaixo parte dessa reportagem e dos trechos do documento que ela cita, não de uma leitura nossa de todo o S-1.

O que é RSI e por que o termo assusta e anima

RSI é o ponto em que uma IA fica tão boa em treinar a si mesma que provoca uma aceleração forte nas próprias capacidades: um modelo ajuda a construir o próximo, que ajuda a construir outro melhor, e assim por diante. Para quem teme a tecnologia, é o cenário em que a IA se torna poderosa demais para ser controlada. Para os entusiastas, é a promessa de produtividade e descoberta científica em uma escala nunca vista. O TechCrunch lembra que, quando o termo ficou popular no início do ano, muita gente o via como modismo ou como uma meta difícil de definir e de provar.

A novidade é que a própria Anthropic passou a tratar o assunto como risco concreto em um documento que investidores vão ler com atenção e pelo qual a empresa responde legalmente. Não é um post de blog nem uma entrevista: é um texto de risco, escrito com cuidado jurídico.

O que a Anthropic escreveu no documento

De acordo com o TechCrunch, os acréscimos dizem duas coisas principais. A primeira é que a empresa já usou IA para desenvolver novos modelos cujos saltos de capacidade ela não reconheceu na hora. A segunda é que ela pode em breve atingir a sua própria definição interna de RSI.

O prospecto afirma que a Anthropic usa IA em pesquisa e desenvolvimento, mas avisa que usar IA para ajudar a construir IA mais capaz também pode representar um risco considerável de segurança, sobretudo se acelerar muito o ritmo do progresso. A empresa diz que esse é um dos pontos cobertos pela sua Política de Escalonamento Responsável (Responsible Scaling Policy), que define como monitorar e reduzir riscos conforme o setor se aproxima do que chama de autoaperfeiçoamento recursivo.

Ao mesmo tempo, a Anthropic afirma que nenhum de seus modelos cruzou esse limite até agora e promete manter pessoas no processo de pesquisa e desenvolvimento num futuro previsível. Segundo o texto citado pela reportagem, a empresa não espera conseguir usar o Claude, com segurança, para projetar e construir sozinho gerações sucessivas de modelos de ponta sem supervisão e compreensão humanas relevantes, quando e se isso se tornar tecnicamente possível. Por isso, diz estar considerando atualizações na política para manter as pessoas no controle do desenvolvimento de modelos de fronteira.

Como isso se encaixa no que a empresa já vinha dizendo

O alerta chega junto da versão emendada do prospecto, que também trouxe os resultados do terceiro trimestre. Nós cobrimos esses números em Anthropic fatura US$ 17 bi no trimestre e tem US$ 895 bi em compromissos, e a primeira versão do documento em Anthropic abre S-1: ANT na Nasdaq e US$ 16,3 bi de receita no semestre. A parte nova aqui é outra: não é sobre dinheiro, é sobre o ritmo da própria tecnologia.

O tema também conversa com pesquisas recentes da empresa sobre comportamento de modelos. Em Claude cria dados de treino aparentemente inócuos que ensinam IA a sabotar, vimos como um modelo pode influenciar o treino de outros de formas difíceis de notar. E, na política, a Anthropic já pediu à Califórnia que tribunais possam barrar modelos de risco, como contamos em Anthropic escreve a Newsom e pede que tribunais possam barrar modelos de IA na Califórnia. Juntos, os movimentos mostram uma empresa que tenta, ao mesmo tempo, acelerar e se posicionar como a voz da cautela.

Como ler esse aviso com os pés no chão

Primeiro, risco de prospecto não é previsão. Empresas listam nesse tipo de seção tudo o que poderia dar errado, em parte para se proteger de processos de investidores. Dizer que algo "pode" acontecer em breve não significa que vai acontecer. Segundo, a definição de RSI é da própria Anthropic: o que conta como cruzar o limite é uma régua interna, e outras empresas podem usar réguas diferentes. Terceiro, a empresa afirma que ainda não chegou lá e que pretende manter humanos no circuito.

Por outro lado, o TechCrunch observa que as capacidades do Claude, especialmente em programação, matemática e cibersegurança, cresceram em saltos neste ano, e argumenta que, se a Anthropic acha a possibilidade próxima, talvez valha acreditar e agir, até governar, de acordo. Essa é a opinião da reportagem, e vale tratá-la como tal. O fato verificável é o que está no documento: a empresa mudou o texto de risco e sinalizou que pode revisar a própria política de segurança.

Um detalhe que merece atenção é a admissão de que a empresa já usou IA para desenvolver modelos cujos ganhos não percebeu no momento. Isso sugere que medir o avanço de uma IA é difícil mesmo para quem a constrói, e que os testes de segurança feitos antes do lançamento podem ficar defasados se o modelo evoluir mais rápido do que a avaliação.

Por que isso importa para você

Mesmo longe de laboratórios de pesquisa, esse assunto toca quem usa IA para trabalhar. Se os modelos passam a ajudar a construir os próximos, o intervalo entre uma geração e outra tende a encurtar, e as ferramentas que você usa hoje podem mudar de preço, limite e capacidade com mais frequência. Planejar o negócio em cima de uma única ferramenta fica mais arriscado do que parecia.

Na prática, três atitudes ajudam. Evite depender de um só fornecedor: conhecer mais de um modelo, como no guia ChatGPT, Claude ou Gemini: qual IA escolher, reduz o impacto de mudanças bruscas. Revise com frequência o que a IA faz por você, principalmente em tarefas que envolvem dinheiro, dados de clientes ou decisões. E acompanhe com calma o debate sobre regras para modelos de ponta, porque as respostas de reguladores e das empresas vão definir o que estará disponível para você nos próximos anos.

Por fim, lembre que a Anthropic está em processo de abertura de capital e que o documento tem público e finalidade específicos. Leia o alerta como um sinal relevante de como a empresa enxerga o próprio ritmo, não como confirmação de que uma IA fora de controle está a caminho. O próximo passo a observar é se a empresa de fato atualizará a Política de Escalonamento Responsável, como diz estar considerando, e o que mudará nela.

Esta notícia se baseia em uma única fonte, o TechCrunch, que por sua vez cita trechos do S-1 emendado da Anthropic. Quem quiser a redação exata deve consultar o documento no sistema EDGAR da SEC.