Denunciante da Anthropic diz que IA é 'extremamente irresponsável' em NY

A Câmara de Vereadores de Nova York realizou nesta segunda-feira (5) a primeira audiência do tipo no mundo: executivos de OpenAI, Anthropic, Google e Meta testemunharam sob juramento, lado a lado, sobre os riscos da inteligência artificial. Segundo a CBS News New York, o momento mais tenso veio do ex-pesquisador da Anthropic Jacob Coxon, que abriu seu depoimento acusando a indústria de ser "extremamente irresponsável diante do que está em jogo" e disse textualmente: "no caminho atual, acho mais provável do que não que a humanidade perca o controle dessas IAs, e isso pode terminar em extinção humana".

A SpaceXAI, empresa de Elon Musk que reúne X e o chatbot Grok, foi a única das cinco grandes companhias convocadas a não comparecer, mesmo depois de receber intimação formal da Câmara, como o Portal da AI já havia mostrado na semana passada. A ausência reforça o histórico recente da empresa de resistir a fiscalização pública, incluindo a disputa judicial que levou um tribunal de apelações a suspender a lei antinudificação do Minnesota.

O que disse o denunciante e como as empresas reagiram

Coxon, que deixou a Anthropic alertando sobre riscos de segurança em episódio parecido com o de outros pesquisadores que recentemente saíram de laboratórios de IA, como mostrou a saída do responsável por relatórios de segurança da OpenAI, foi além da crítica geral: disse que a indústria "funciona com mentalidade de startup: mover rápido, quebrar coisas, arrumar depois" e que esse modelo "não funciona para construir a tecnologia mais poderosa já criada". Ele também afirmou que a humanidade está se aproximando do ponto em que sistemas de IA conseguirão se automelhorar, fazendo pesquisa que antes só humanos faziam, um tema que vem sendo debatido publicamente até entre os próprios líderes do setor, como ficou claro na divergência pública entre Sam Altman e executivos da Anthropic sobre risco de IA.

Pelo lado das empresas, a resposta foi mais defensiva do que combativa: a OpenAI disse que testa seus modelos quanto a recursos perigosos antes de lançá-los e que vem fortalecendo processos internos de segurança, enquanto a Meta afirmou que segurança é parte essencial de suas operações. Nenhuma das companhias presentes contestou diretamente as falas de Coxon durante a sessão, formato que reuniu de uma vez os 51 vereadores da cidade, algo que não ocorria desde 2022.

Dez projetos de lei na mesa e o que vem a seguir

A Câmara está avaliando um pacote de dez projetos de lei para regular IA em Nova York, incluindo a exigência de um "kill switch" de emergência para desligar sistemas considerados perigosos, validação externa obrigatória antes de lançamentos e canais de denúncia para quem trabalha dentro das próprias empresas de IA. Nenhuma dessas propostas foi votada na audiência de hoje, que serviu para colher depoimento público e abrir caminho para a tramitação legislativa nas próximas semanas.

O episódio se encaixa num movimento mais amplo de pressão sobre o setor que já incluía o processo antitruste contra Anthropic, OpenAI, Google e SpaceXAI por suposta combinação para desacelerar a IA e o debate entre pesquisadores como Yann LeCun e Dario Amodei sobre a gravidade real dos riscos, como mostrou a troca pública entre os dois sobre segurança de IA.

Por que isso importa para quem usa IA no Brasil

Nenhuma lei votada em Nova York tem efeito fora dos Estados Unidos, mas o episódio importa para quem trabalha ou empreende com ferramentas de IA no Brasil por um motivo direto: quando um ex-funcionário de dentro de um dos principais laboratórios do mundo testemunha publicamente, sob juramento, que a própria indústria se comporta de forma irresponsável, isso tende a acelerar discussões regulatórias que depois se espalham para outros países, inclusive influenciando como ChatGPT, Gemini, Claude e Grok ajustam termos de uso, filtros de segurança e políticas internas em escala global, o que afeta também quem usa essas ferramentas aqui.

Há ainda um ponto prático sobre confiança: pesquisas como a que mostrou que 73% dos americanos acham que as empresas de IA não fazem o suficiente para evitar desastres já indicavam um ambiente de desconfiança crescente, e episódios como o de hoje tendem a reforçar esse sentimento também entre usuários e clientes corporativos brasileiros que avaliam qual fornecedor de IA adotar para processos críticos, levando em conta não só capacidade técnica, mas também histórico de transparência e resposta a crises de segurança.

O que observar nas próximas semanas

Três desdobramentos merecem atenção: se a SpaceXAI vai enfrentar execução judicial por ignorar a intimação da Câmara, se algum dos dez projetos de lei avança para votação formal nas próximas sessões, e se outras cidades ou estados americanos passam a adotar formato parecido de audiência pública sob juramento com executivos de IA, movimento que, se confirmado, tende a pressionar ainda mais as empresas a divulgar informações sobre riscos de forma proativa, como já fez a própria Anthropic ao dedicar boa parte de seu prospecto de IPO a alertar sobre riscos catastróficos ou existenciais de seus próprios modelos.