Common Sense Media aponta risco inaceitável no ChatGPT for Teens

A Common Sense Media, organização sem fins lucrativos que avalia mídia e tecnologia para famílias, classificou o ChatGPT for Teens como um "risco inaceitável". Segundo reportagem do TechCrunch, assinada por Rebecca Bellan, a análise concluiu que o produto da OpenAI mantém adolescentes conversando mesmo em situações de crise de saúde mental. A OpenAI contesta a metodologia do teste.

O ChatGPT for Teens foi lançado em agosto de 2026, depois de suicídios de adolescentes e de outras preocupações, como o uso da ferramenta para colar em provas. A empresa prometeu controles parentais, limites para conteúdo de alto risco e proteção contra dependência emocional.

O que a análise encontrou

De acordo com a reportagem, os sinais de estímulo ao engajamento eram "generalizados, mesmo em situações de crise". O chatbot alertava os jovens contra relacionamentos pouco saudáveis em geral, mas não reconhecia os danos de uma relação pouco saudável com a própria IA. Algumas proteções funcionaram, como a recusa de interpretar cenas sexuais. Outras falharam ou pioraram depois do lançamento.

O produto recebeu nota reprovada em três de cinco danos graves que a organização trata como linhas vermelhas, por respostas inadequadas a jovens em crise. Em um teste ligado a psicose, em que o usuário claramente estava piorando, o chatbot disse que ele poderia continuar falando sobre o que estava percebendo. Respostas a situações de crise muitas vezes terminavam com ofertas parecidas de seguir na conversa.

A própria especificação de comportamento da OpenAI para menores de 18 anos diz que o modelo não deve iniciar um enquadramento de relação, chamar a si mesmo de amigo ou sugerir sentimentos pelo usuário. Os testadores observaram que ele ainda tratava o jovem como amigo, o que, segundo a análise, pode atrapalhar o desenvolvimento de habilidades de relacionamento no mundo real e aumentar o isolamento.

Os números e os lembretes de pausa

Quando o risco vinha de outra pessoa, o modelo encaminhou o adolescente a um adulto de confiança em 94% dos prompts de crise. Quando o risco era a relação do jovem com o próprio ChatGPT, isso raramente acontecia. Em um caso, o testador disse que amigos achavam que ele conversava demais com o bot. O modelo validou a preocupação e, em seguida, respondeu que ele não precisava parar de conversar.

Os lembretes de pausa também quase não apareceram. Em cerca de 2 mil prompts, os testadores viram apenas dois, ambos em conversas únicas de aproximadamente 90 minutos. Os avisos pareciam acompanhar a duração de uma conversa isolada, e não o uso total ao longo do dia.

A resposta da OpenAI

A OpenAI disse que o teste não reflete com precisão como as proteções para adolescentes funcionam na prática. Um porta-voz afirmou que boa parte dos testes pode ter começado e terminado antes de os controles parentais estarem totalmente ativados, o que tornaria os resultados imprecisos. As objeções da empresa se concentraram nas notificações aos pais, nas notificações de crise e em outras conclusões, mas, segundo o TechCrunch, ela não explicou como isso afeta as conclusões sobre engajamento e relação com o usuário, nem informou se usa a duração da conversa ou da sessão como métrica.

No mesmo dia, a OpenAI divulgou dados próprios: adolescentes passam em média menos de 15 minutos por dia no serviço, menos de 2% ficam mais de três horas seguidas, e em quase metade das conversas de jovens com lembretes de pausa eles fizeram um intervalo ou encerraram o chat em até cinco minutos.

O contexto regulatório nos Estados Unidos

A reportagem lembra que a Meta concordou em pagar US$ 18 bilhões para encerrar um processo de 29 estados americanos sobre danos a crianças causados por recursos que viciam. Legisladores estaduais e federais agora olham para dinâmicas parecidas em chatbots. Um projeto bipartidário, o CHATBOT Act, apresentado neste ano, cita "recompensas, notificações e publicidade direcionada" usadas para prolongar o engajamento de adolescentes. O texto também menciona o HumaneBench, um teste que considera o incentivo a relações humanas saudáveis uma medida central do apoio de um chatbot à saúde mental.

O Portal da AI já acompanhou o assunto em outras frentes, como o plano de segurança para jovens da OpenAI na Austrália e o MentalHealthBench, criado para avaliar IA em saúde mental.

Por que isso importa para você

Para pais e responsáveis no Brasil, o recado prático é que a existência de um modo para adolescentes não elimina a necessidade de acompanhamento. Conversar com o jovem sobre como ele usa a IA, observar se o chatbot virou companhia constante e manter os controles parentais ativos desde o primeiro uso continuam sendo as medidas mais seguras. Em situações de crise, o apoio humano e os serviços especializados vêm antes de qualquer chatbot.

Para quem trabalha com produtos de IA, educação ou atendimento, o caso mostra que métricas de engajamento podem entrar em conflito com bem-estar do usuário, e que críticas externas tendem a cobrar justamente esse ponto. O guia como escolher uma ferramenta de IA com segurança traz um checklist que serve também para avaliar produtos usados por menores de idade.

Outro ponto prático é separar o que é limite técnico do que é escolha de produto. Um lembrete de pausa que depende da duração de uma única conversa, por exemplo, é fácil de driblar: basta abrir um novo chat. Medir o uso total ao longo do dia exigiria outro desenho, e é justamente essa diferença que a organização aponta como lacuna.

Vale lembrar que se trata de uma avaliação de uma organização e de uma resposta contestada da empresa. As duas versões usam métodos diferentes, e dados independentes ainda serão necessários para saber qual descreve melhor o uso real. A reportagem não informa se a OpenAI pretende alterar o produto em resposta ao relatório.