OpenAI, Anthropic e Google negociam órgão próprio de segurança para IA

OpenAI, Google e Anthropic estão avançando na criação de um órgão próprio de padrões de segurança para inteligência artificial, batizado provisoriamente de Standards Authority for Frontier AI (SAFA). Segundo reportagem da PYMNTS, a entidade seria autorregulatória, sem supervisão do governo americano, e teria como meta de lançamento o fim de 2026 ou o início de 2027.

A ideia nasceu de uma proposta de Demis Hassabis, cofundador e cientista-chefe do Google DeepMind, que em julho defendeu publicamente a criação de uma organização encarregada de testar os sistemas de IA mais poderosos antes de chegarem ao público. O modelo de referência é a Finra (Financial Industry Regulatory Authority), autarquia que regula corretoras e operadores do mercado financeiro americano sem ser um órgão estatal. Entre as funções propostas para a SAFA estão testes de risco pré-lançamento, protocolos de notificação de incidentes de segurança, padrões para qualificação de auditores independentes e, possivelmente, avaliações próprias de capacidade dos modelos mais avançados.

De proposta isolada a negociação entre concorrentes

A proposta de Hassabis ganhou corpo depois que as conversas sobre um modelo de supervisão público-privada, com participação do governo dos Estados Unidos, travaram dentro da administração Trump: uma minuta de decreto executivo nesse sentido não conseguiu apoio suficiente. Sem o caminho federal, as três empresas passaram a negociar diretamente entre si uma versão exclusivamente privada do órgão, o que já gerou críticas de outros participantes do setor. Segundo o mesmo tipo de reportagem, o CEO da Cohere, Aidan Gomez, chegou a classificar a iniciativa de "cartel" disfarçado de preocupação com segurança, enquanto Meta, xAI e Nvidia se posicionaram contra a formação da SAFA em evento do setor.

A SAFA seria, na prática, uma evolução do Frontier Model Forum, consórcio fundado em 2023 por Anthropic, Google, OpenAI e Microsoft para discutir segurança de modelos de fronteira, mas com um escopo mais formal: em vez de apenas trocar boas práticas entre si, a nova entidade teria autoridade para credenciar auditores externos e, potencialmente, testar sistemas antes do lançamento comercial. Entre os nomes já sondados para liderar a organização estão Sriram Krishnan, ex-assessor de política de IA da Casa Branca, além de Arati Prabhakar, ex-funcionária de tecnologia do governo Biden, a ex-secretária de Estado Condoleezza Rice e o investidor de risco David Friedberg.

Por que isso importa para você

Para quem usa, revende ou constrói produtos em cima de ferramentas de IA no Brasil, a notícia confirma uma tendência que já vínhamos acompanhando: o principal mercado regulatório de referência do setor, os Estados Unidos, segue resolvendo a questão da segurança por meio de acordos entre as próprias fabricantes, não por lei federal. Isso ficou claro poucos dias antes, quando executivos de Meta, Anthropic, Google, Nvidia, Palantir, Amazon e OpenAI assinaram, na Casa Branca, o White House Accord on Superintelligence, descrito pelo próprio governo americano como "moralmente" vinculante, mas sem força legal.

Na prática, isso significa que quem depende de ChatGPT, Claude, Gemini ou qualquer outro modelo dessas empresas no dia a dia do trabalho não deve esperar, no curto prazo, uma fiscalização externa e independente com poder de multa ou suspensão. A existência de uma SAFA funcionando normalmente serviria como selo voluntário de "testamos antes de lançar", mas sem o mesmo peso de uma agência reguladora estatal. Vale revisar o nosso checklist de como escolher ferramenta de IA com segurança antes de colocar qualquer modelo novo em processos críticos do seu negócio, justamente porque esse tipo de selo autodeclarado ainda não substitui uma auditoria externa de verdade.

O contexto da corrida regulatória nos EUA

A movimentação pela SAFA acontece em um momento de pressão crescente sobre o setor nos Estados Unidos. Dias antes, a FTC abriu uma investigação formal contra OpenAI e Anthropic por possíveis riscos de agentes de IA a consumidores, e uma ação coletiva acusou as próprias empresas por trás da SAFA, junto com xAI, de combinação ilegal entre concorrentes ao coordenarem publicamente uma proposta de desaceleração da IA, como mostramos no processo antitruste movido na Califórnia. Esse pano de fundo ajuda a explicar por que a SAFA é um tema sensível: ao mesmo tempo em que o setor se move para parecer mais responsável diante da opinião pública e de parlamentares, cresce o risco jurídico de que qualquer coordenação entre concorrentes diretos, mesmo com intenção declarada de segurança, seja interpretada como prática anticompetitiva.

Também ajuda a entender o timing o fato de Anthropic estar, segundo reportagens recentes, preparando uma oferta pública inicial de ações para novembro. Empresas em processo de IPO costumam reforçar publicamente seus compromissos de governança e segurança, o que torna a participação ativa da Anthropic nas negociações da SAFA também um gesto relevante para investidores que vão avaliar o risco regulatório do negócio antes de comprar ações.

O que observar daqui para frente

Ainda não há um texto final sobre quem vai financiar a SAFA, como os auditores credenciados seriam remunerados e se empresas fora do trio fundador (como Meta, xAI, Microsoft ou a Mistral) vão aderir à entidade ou criar uma alternativa concorrente. A escolha do primeiro presidente da organização, entre nomes como Krishnan e Prabhakar, também vai sinalizar se a SAFA vai pender mais para o lado político de Washington ou para um perfil mais técnico e independente. Até lá, o mais prudente para empresas brasileiras que dependem desses modelos é tratar qualquer anúncio de "autorregulação" como um sinal de boas intenções, não como uma garantia equivalente à de um órgão público com poder de fiscalização e punição.