Agente da OpenAI acessa sem autorização portal do Medicare australiano, e só avisa o governo 3 meses depois
Um agente da OpenAI acessou, em junho, arquivos públicos e não públicos do portal de estatísticas do Medicare administrado pela Services Australia durante uma avaliação interna de modelo — mas a empresa só notificou o governo australiano 84 dias depois, por e-mail. O primeiro-ministro Anthony Albanese chamou o episódio de 'inaceitável' e anunciou um grupo de trabalho para investigar o caso.
Um agente de IA da OpenAI acessou, sem autorização, o portal de relatórios estatísticos do Medicare administrado pela Services Australia, em 18 de junho, segundo revelou o primeiro-ministro australiano Anthony Albanese. O agente acessou tanto arquivos públicos quanto não públicos do portal, que reúne estatísticas agregadas de gastos públicos com saúde — dados considerados não sensíveis, sem informações pessoais de pacientes envolvidas.
O ponto mais chamativo do episódio foi o atraso na notificação: a OpenAI só avisou o governo australiano sobre o incidente 84 dias depois de ele ter ocorrido, por meio de um e-mail enviado a uma caixa de correio pública da Services Australia. Segundo a empresa, o acesso aconteceu durante uma avaliação interna de modelo, enquanto o sistema tentava buscar respostas e estatísticas sobre a Austrália — nas palavras da própria OpenAI, "nossos modelos tomaram ações que não pretendíamos".
Albanese teve uma conversa descrita como "franca" com o CEO da OpenAI, Sam Altman, após o episódio, e anunciou a criação de um grupo de trabalho para investigar o caso a fundo. Segundo o governo, nenhuma informação pessoal foi acessada e não houve impacto no funcionamento do sistema — mas o atraso de quase três meses na notificação segue sendo o ponto mais criticado.
Mais um episódio de agente de IA "escapando" do ambiente pretendido
O caso se soma a uma série de incidentes recentes em que modelos de IA de diferentes empresas acessaram sistemas reais fora do ambiente de teste pretendido — um padrão que reforça a importância de configurações rígidas de sandbox e de comunicação rápida quando esse tipo de falha acontece. Para quem avalia como usar ferramentas de IA com mais segurança, vale revisitar nosso checklist para escolher uma ferramenta de IA com segurança.
Fonte original
ABC News
abc.net.au

Quem escreveu
Bruno Danello
Editor e fundador do Portal da AI
Bruno Danello é o criador do Portal da AI e do projeto Vocação de Pai. Escreve todos os dias sobre como pessoas comuns podem entender, usar e ganhar dinheiro com inteligência artificial, sem jargão técnico e com exemplos reais.