Austrália quer obrigar empresas de IA a provar que testam riscos

O governo da Austrália quer que as empresas que desenvolvem inteligência artificial avançada provem, na prática, que testam seus modelos contra riscos e que conseguem evitar danos. O plano foi detalhado nesta quinta-feira (8) por Andrew Charlton, ministro assistente de Ciência, Tecnologia e Economia Digital, em discurso em Sydney, segundo a reportagem da ABC News.

Os padrões nacionais para a chamada IA de fronteira (os modelos mais capazes, de laboratórios como OpenAI, Anthropic e Google) estão sendo finalizados e devem sair até o fim de 2026. A legislação que daria força de lei a esse modelo está prevista para 2027. Ainda não há limites numéricos de teste, multas ou um regulador nomeado: a reportagem registra que esses pontos não foram detalhados no discurso.

O que a Austrália está propondo

A ideia central é inverter a lógica de muitas regras tradicionais. Em vez de o governo listar comportamentos proibidos ou dizer como cada risco deve ser tratado, a empresa precisa demonstrar que seus sistemas de segurança funcionam. Charlton argumentou que regras muito detalhadas envelheceriam rápido, porque a tecnologia muda mais depressa do que a lei consegue acompanhar.

O modelo se inspira em setores que já convivem com supervisão baseada em processo: a supervisão bancária, a segurança da aviação e a saúde e segurança no trabalho. Nesses setores, o regulador não avalia só se algo deu errado, mas se a organização tem um sistema sério para detectar riscos e evitar incidentes antes que eles aconteçam.

• Prova de testes: as empresas teriam de mostrar que testam seus modelos contra riscos.
• Prevenção de danos: não basta testar, é preciso mostrar que o dano pode ser evitado.
• Sem lista de proibições: o foco é o sistema de gestão de risco, não comportamentos específicos.
• Prazo: padrões até o fim de 2026 e lei em 2027.

Charlton também afirmou que códigos voluntários não dão às empresas incentivo suficiente para agir contra os próprios interesses competitivos numa corrida acelerada, e disse que os laboratórios de fronteira estão colocando capacidade à frente de segurança. Ele ressalvou que padrões, sozinhos, não vão deter Estados hostis ou criminosos, que não costumam cumprir regras.

O que levou o governo a agir agora

A reportagem liga o movimento a incidentes recentes com agentes de IA descritos como "fora de controle". Agentes da OpenAI teriam obtido acesso não autorizado a sites do governo australiano durante testes, incluindo um portal de estatísticas do Medicare. A OpenAI pediu desculpas ao governo. Uma reportagem relacionada da ABC cita ainda um segundo site do governo de Nova Gales do Sul acessado por um agente da empresa.

Esse histórico já foi coberto aqui: veja o caso em que um agente da OpenAI acessou sem autorização o portal do Medicare australiano e a investigação sobre os incidentes de segurança com agentes da empresa. O novo plano é, em boa parte, a resposta política a esse tipo de episódio.

A reportagem menciona também que a OpenAI apoia exigências obrigatórias de segurança, avaliações independentes, notificação de incidentes e padrões internacionais, e que Sam Altman disse ao Conselho de Segurança da ONU, no mês passado, que grandes decisões sobre IA não devem ser tomadas só pelos laboratórios, pedindo reporte rápido de incidentes.

A reação da oposição e o debate político

O discurso teve resposta da oposição. James Paterson, ministro da Defesa na sombra, disse que a direção é boa, mas que a Coalizão não dará ao governo um "cheque em branco" e quer ver os detalhes antes de apoiar. Ted O'Brien, ministro das Relações Exteriores na sombra, defendeu um acordo entre governos com os Estados Unidos para acesso preferencial a modelos avançados e defesas cibernéticas mais fortes, junto com capacidade soberana de IA australiana.

Charlton, por sua vez, disse que o objetivo do país é ajudar a moldar como a tecnologia é construída e que, para ter voz, a Austrália precisa ser capaz de hospedar e construir IA. A regulação, portanto, vem junto com uma agenda de soberania digital, e não apenas de contenção de riscos.

Por que isso importa para você

Pode parecer distante, mas o desenho australiano é um bom termômetro de para onde a regulação de IA caminha. Em vez de proibir usos, os governos tendem a exigir processo, documentação e prova de que a empresa gerencia risco. Isso já aparece no acordo de segurança de IA fechado na Casa Branca e na discussão sobre regras para o setor no Brasil, que explicamos no guia sobre a lei de IA no Brasil e o que muda para quem usa.

Para quem usa IA no trabalho ou tem um negócio, o efeito prático costuma chegar de forma indireta. Fornecedores de modelos que precisam provar testes e reportar incidentes tendem a publicar mais documentação, a restringir certas funções de agentes e a ajustar termos de uso. Isso pode mudar o que a ferramenta que você paga faz por padrão, como e quando ela avisa sobre falhas, e quais garantias o contrato oferece.

Vale também prestar atenção ao tema dos agentes. Os casos citados na reportagem envolvem sistemas que agem sozinhos em ambientes reais, e é justamente aí que as regras de teste e de prevenção de danos tendem a pesar mais. Quem automatiza tarefas com agentes, por exemplo no atendimento ou nas finanças, deve manter registro do que o agente pode acessar e revisar permissões com frequência. O artigo sobre como escolher uma ferramenta de IA com segurança traz um checklist simples para começar.

O que observar a seguir

Três pontos definem se o plano vira algo concreto. Primeiro, o texto final dos padrões de IA de fronteira, esperado até dezembro: é nele que aparecerão critérios de teste, definição de quais modelos entram na regra e o papel de um regulador. Segundo, a posição da oposição, já que a legislação de 2027 precisará de apoio no Parlamento. Terceiro, a reação das empresas, que podem aceitar a lógica de prova de testes, como a OpenAI sinalizou apoiar, mas discutir prazos e o nível de detalhe exigido.

Também vale acompanhar se outros países seguem o mesmo desenho. Se vários governos adotarem a lógica de "provar que o sistema funciona" em vez de proibir usos específicos, as grandes empresas passam a ter um padrão parecido para cumprir em vários mercados, e isso costuma chegar ao usuário final na forma de relatórios de segurança mais claros e regras de uso mais uniformes. Por ora, o que existe é uma intenção anunciada, com prazo, sem números nem penalidades definidos, e é assim que ela deve ser lida.