ChatGPT vai limitar respostas sobre armas e ataques em massa do passado

A OpenAI anunciou na sexta-feira (30) um pacote de novas travas de segurança no ChatGPT voltadas a conversas sobre violência. Segundo a reportagem do The Next Web, publicada neste sábado (31), o chatbot deixará de dar a adolescentes informação prática sobre armas e sistemas de segurança, mesmo quando a pergunta parecer inofensiva, e todos os usuários, de qualquer idade, receberão menos detalhes sobre ataques em massa do passado. A empresa também prometeu publicar um Community Safety Report, um relatório de segurança da comunidade, sobre prevenção da violência. As mudanças começam a chegar nas próximas semanas.

O anúncio foi feito em um post no blog da própria OpenAI. O Portal da AI não conseguiu abrir a página original, que bloqueia acessos automáticos, e por isso os detalhes abaixo vêm da cobertura do The Next Web, que cita o texto da empresa. Vale conferir o comunicado quando as mudanças chegarem à sua conta.

O que muda para os adolescentes

A primeira regra vale para contas de adolescentes. O ChatGPT deixará de fornecer informação prática sobre armas e sobre sistemas de segurança, mesmo que a pergunta pareça inocente e que não haja nenhum sinal de intenção violenta. Em outras palavras, a trava é preventiva: ela não depende de o sistema desconfiar do usuário, e sim da faixa etária estimada da conta.

Para decidir quem é adolescente, a OpenAI usa um sistema de previsão de idade, que estima se o usuário tem menos de 18 anos a partir de sinais como o comportamento na conversa. A empresa disse que reforçou esse sistema, que continua conferindo novos sinais e move o usuário para a experiência adolescente quando julga necessário. Adultos colocados ali por engano podem confirmar a idade pela Persona, parceira de verificação de idade da OpenAI.

Também há um aviso aos pais. Desde julho, responsáveis com contas vinculadas recebem um alerta se a OpenAI desativa a conta de um adolescente por causa de violência. A empresa afirmou que trabalha em alertas para o caso de pausar a conta do jovem por falar repetidamente sobre o assunto.

O que muda para todos os usuários

A segunda regra vale para qualquer pessoa, independentemente da idade ou do motivo da pergunta. O ChatGPT passará a dar menos detalhes sobre ataques em massa já ocorridos e sobre quem os cometeu, mesmo quando essa informação estiver disponível em outros lugares da internet. Ele não vai reconstruir um ataque, o que inclui dizer quais armas foram usadas e como o autor as obteve. Também evitará comparações detalhadas sobre quanto dano cada ataque causou.

A OpenAI deixou claro o que continua permitido: as pessoas ainda poderão perguntar como esses eventos afetaram as vítimas e as comunidades e como reconhecer sinais de alerta. Isso preserva usos legítimos, como o de jornalistas, pesquisadores, professores e familiares, que precisam entender o tema sem receber um passo a passo. Segundo a reportagem, a empresa escreveu que esses limites valem independentemente da idade ou do motivo do usuário. Ou seja, o recorte é de conteúdo, e não de perfil.

Conversas encerradas e contas pausadas

Quando uma conversa mostrar sinais de que alguém está fixado em violência ou em causar dano grave a outra pessoa, o ChatGPT poderá encerrá-la automaticamente. Se várias conversas de um mesmo usuário forem encerradas por esse motivo, a OpenAI poderá pausar a conta por um período. É uma resposta gradual, que começa pela conversa e só depois chega à conta.

A empresa informou ainda que fez mais de 200 encaminhamentos a autoridades policiais no terceiro trimestre. O número mostra que o monitoramento de conversas já gera comunicações a terceiros, algo que muita gente não imagina ao usar o chatbot como confidente. Para entender o que é privado e o que não é, vale ler nosso guia sobre chats bloqueados no ChatGPT, como proteger conversas e quais são os limites.

O relatório que vem em 2027

O primeiro Community Safety Report está previsto para o início de 2027 e cobrirá o segundo semestre de 2026, com atualizações a cada seis meses. A OpenAI disse que o documento explicará como a empresa detecta e responde a problemas de segurança, com exemplos anonimizados e dados. A empresa afirmou, segundo a reportagem, que desenvolver salvaguardas eficazes contra violência exige resolver problemas novos de reconhecimento de risco e de forma de responder.

O pacote se soma às medidas de segurança para adolescentes que a OpenAI lançou em agosto. Ele chega num momento de pressão: no início do mês, a Common Sense Media afirmou que o ChatGPT para adolescentes não é seguro para menores de 18 anos, tema da nossa notícia sobre o risco apontado pela Common Sense Media no ChatGPT for Teens. Oito estados americanos processaram a OpenAI por danos a crianças, e o Texas moveu ação contra a empresa e Sam Altman, como mostramos em Texas processa a OpenAI e Sam Altman por riscos do ChatGPT a menores. Outro caso que ganhou destaque foi o dos pais que processam a OpenAI e dizem que o GPT-4o levou a filha a largar um remédio.

O que ainda é incerto

Há pontos que o anúncio não resolve. Previsão de idade por comportamento erra, e adultos podem ser tratados como adolescentes, o que explica a saída pela verificação com a Persona. Travas de conteúdo também tendem a ser contornadas por quem insiste, e o texto da OpenAI promete salvaguardas, não garantias. Além disso, a empresa ainda não divulgou números sobre quantas conversas foram encerradas ou quantas contas pausadas, e esse dado só deve aparecer no relatório de 2027.

Outro ponto é o equilíbrio entre proteção e utilidade. Ao limitar detalhes de eventos históricos, o ChatGPT pode frustrar quem pesquisa o assunto por motivos legítimos. A OpenAI tenta responder a isso mantendo a porta aberta para perguntas sobre vítimas, comunidades e sinais de alerta, mas na prática só o uso mostrará onde a linha ficou.

Por que isso importa para você

Mesmo que você não tenha filhos adolescentes, a mudança diz algo sobre como as ferramentas de IA passam a se comportar. Elas deixam de ser neutras e passam a ter regras de conversa que variam por idade, assunto e histórico.

• Para pais e responsáveis: o alerta de conta desativada só funciona com contas vinculadas. Se seu filho usa o ChatGPT, vincule as contas e entenda o que a lei brasileira prevê no guia ECA Digital e IA: o que muda para pais, crianças, chatbots e apps.
• Para quem usa IA no trabalho ou vende serviços com ela: se você monta atendimentos, cursos ou produtos com o ChatGPT, saiba que respostas sobre alguns temas podem ficar mais curtas ou ser recusadas. Teste seus fluxos depois da atualização.
• Para quem escolhe ferramentas: política de segurança, verificação de idade e tratamento de dados entram na decisão de qual IA usar. Use o checklist para escolher ferramenta de IA com segurança.
• Para quem acompanha o setor: a OpenAI já foi alvo de críticas internas sobre segurança, como na notícia sobre a demissão de pesquisadores de segurança, e o relatório prometido para 2027 será um teste de transparência.

O que observar a seguir

O primeiro ponto é a chegada das travas, prevista para as próximas semanas, e como elas aparecerão para usuários brasileiros, já que o anúncio não detalha países ou idiomas. O segundo é a reação da concorrência: Anthropic e Google também precisam lidar com adolescentes e conversas de risco, e podem seguir o mesmo caminho. O terceiro é o primeiro relatório, no início de 2027, que dirá quanto isso tudo funciona na prática.