Ordem de juiz federal com erros de IA chega ao Senado e à apelação

Uma decisão judicial cheia de erros, atribuída ao uso de inteligência artificial por um assessor, virou assunto no Senado americano e num tribunal de apelação. O caso envolve o juiz federal Henry T. Wingate, do Distrito Sul do Mississippi, e foi detalhado em reportagem publicada em 7 de outubro pela Missouri Lawyers Media.

A ordem em questão é uma medida liminar (um TRO, na sigla em inglês) concedida em uma ação de direitos civis contra uma lei estadual do Mississippi sobre diversidade e inclusão. O estado apontou, em petição, que o texto trazia nomes errados de autores e réus, descrevia alegações que não estavam na ação, citava termos que não aparecem na lei e se apoiava em declarações de quatro pessoas que não constavam do processo.

O que aconteceu na ordem do juiz

Segundo a reportagem, o estado pediu esclarecimento ou correção da ordem dois dias depois de ela ser assinada, listando os problemas. O juiz retirou a versão original do processo e a substituiu por uma versão corrigida. O estado alega que a nova versão foi assinada num dia e datada de outro, e que ela ainda manteve pelo menos uma citação de caso produzida por IA que estava na versão original. A reportagem não identifica as citações falsas específicas.

Wingate explicou, por escrito, que um assessor jurídico usou uma ferramenta de IA como "assistente de redação de base" para sintetizar informações públicas do processo. Segundo ele, a ordem era um rascunho inicial que não passou pelo processo normal de revisão. O ponto central, portanto, não é só o erro: é que um texto com efeito legal saiu antes de ser revisado por um humano responsável.

• Erros apontados pelo estado: partes e réus incorretos, alegações fora da ação, termos que não existem na lei.
• Declarações inexistentes: quatro pessoas citadas cujas declarações não estavam nos autos.
• Explicação do juiz: ferramenta de IA usada por um assessor, em rascunho sem revisão padrão.
• Reação: carta de um senador e questionamento no tribunal de apelação.

As consequências até agora

O senador Charles Grassley, presidente da Comissão Judiciária do Senado, enviou uma carta ao juiz expressando preocupação. Ele escreveu que os erros pareciam substantivos, e não simples deslizes, e que minam a confiança no processo de deliberação do tribunal.

O tribunal de apelação do Quinto Circuito também entrou na história. Antes da audiência, um aviso a advogados pediu que estivessem prontos para discutir se o caso deveria ser redistribuído para outro juiz, por causa do uso de IA na primeira instância. Na audiência, o advogado do estado defendeu a troca de juiz. O advogado dos autores admitiu que o erro foi sério, mas disse que a IA não mandou o juiz conceder a liminar. O juiz de apelação Jerry Smith questionou se o erro poderia ter influenciado o raciocínio da decisão e se o melhor caminho seria anular a liminar e deixar um novo juiz decidir. A reportagem não relata decisão do tribunal.

O debate de ética entre advogados

A matéria também ouve advogados sobre regras de uso de IA. A opinião formal 512 da Associação Americana de Advogados aplica à IA generativa deveres que já existem, como competência, confidencialidade, consentimento informado, supervisão e honorários. Segundo a reportagem, o Missouri tem apenas uma opinião informal de seu comitê de ética sobre o tema, e as regras não são uniformes entre os estados.

Jennifer Price, de um escritório de St. Louis, disse que a opinião da associação funciona como um piso, e que o mais importante para usar IA com ética é conhecer os riscos. Megan Stumph, de Kansas City, afirmou que advogados precisam de orientação mais prática e que citações falsas ainda aparecem em ferramentas básicas. Jennifer Buhler, de Denver, descreveu o "descarregamento cognitivo": confiar num resultado de aparência polida sem verificar.

Por que isso importa para você

O caso é americano, mas o problema é o mesmo que qualquer pessoa enfrenta ao usar IA para escrever contratos, petições, laudos ou relatórios: o texto sai bem escrito, com números e referências, e parece confiável mesmo quando não é. No caso do juiz, o resultado foi uma decisão com declarações que não existiam. Num negócio, o equivalente é um contrato com cláusula inventada ou um relatório com dado que ninguém conferiu.

A lição prática é separar quem rascunha de quem revisa e registrar quem aprovou. O guia sobre alucinação de IA e como checar se a resposta está certa traz um método de verificação em etapas, e o texto sobre IA para contratos e revisão de documentos jurídicos mostra onde ela ajuda e onde exige revisão humana. Em nenhum desses usos a ferramenta substitui a leitura de quem assina.

Para quem atua no Brasil, vale acompanhar como o tema evolui nas regras. O debate sobre responsabilidade por falhas de IA já aparece em projetos de lei, como o proposto nos EUA por Hawley e Murphy sobre responsabilidade por agentes de IA, e no guia sobre a lei de IA no Brasil e o que muda para quem usa. A direção geral é a mesma: quem usa a ferramenta responde pelo que publica ou assina.

O que observar a seguir

Dois pontos definem o desfecho. O primeiro é a decisão do tribunal de apelação sobre redistribuir o caso ou anular a liminar, ainda não divulgada. O segundo é se tribunais e entidades de advogados criam regras mais claras sobre uso de IA em decisões e petições, hoje desiguais de um estado para outro. Enquanto isso, o episódio serve de alerta para qualquer organização: política de uso de IA, revisão humana obrigatória e responsável identificado antes de um documento sair.