OpenAI demite prestadores de serviço flagrados usando IA para avaliar respostas do ChatGPT
Documentos internos revelam que a empresa baniu ferramentas como GPTZero, Grammarly e qualquer chatbot do trabalho de mais de dez mil avaliadores contratados para classificar respostas do ChatGPT — usar IA para treinar a própria IA pode causar 'colapso de modelo' quando dados sintéticos se acumulam no treinamento.
Bruno Danellovia Portal da AIA OpenAI demitiu diversos prestadores de serviço contratados para avaliar e melhorar as respostas do ChatGPT depois de flagrá-los usando ferramentas de IA no próprio trabalho de avaliação, segundo documentos internos obtidos pela imprensa. As diretrizes da empresa proíbem explicitamente o uso de detectores de texto por IA como o GPTZero, de assistentes de escrita como o Grammarly, de tradutores automáticos e de qualquer chatbot durante as tarefas de anotação — a instrução aos revisores é direta: "não use ferramentas de detecção de IA, nem IA você mesmo".
Segundo os documentos, mais de dez mil prestadores atuam nos diferentes pipelines de avaliação da empresa. Um desses programas, batizado internamente de "Project Lily", tem centenas de avaliadores lendo prompts reais de usuários e classificando as respostas do ChatGPT quanto a bajulação excessiva ou tendência a antropomorfizar o próprio modelo. Segundo a reportagem, os sinais que denunciam o uso indevido de IA pelos próprios avaliadores incluem padrões repetitivos de palavras, uso excessivo de travessões e tempos de conclusão da tarefa anormalmente rápidos.
A OpenAI usa avaliadores humanos justamente para evitar que seus modelos aprendam a partir de dados sintéticos gerados por outras IAs — um fenômeno conhecido como "colapso de modelo" (model collapse), em que a qualidade de um sistema de IA se degrada progressivamente quando treinado repetidamente sobre conteúdo produzido por outros modelos, em vez de dados originais gerados por humanos.
O episódio expõe uma tensão pouco discutida na cadeia de produção dos grandes modelos de linguagem: por trás do treinamento de sistemas como o ChatGPT existe uma vasta força de trabalho humana dedicada a avaliar e corrigir respostas — e a integridade desse processo depende justamente de que esses avaliadores não recorram à própria tecnologia que estão ajudando a aperfeiçoar.
Fonte original
404 Media
404media.co
Quem escreveu
Bruno Danello
Editor e fundador do Portal da AI
Bruno Danello é o criador do Portal da AI e do projeto Vocação de Pai. Escreve todos os dias sobre como pessoas comuns podem entender, usar e ganhar dinheiro com inteligência artificial, sem jargão técnico e com exemplos reais.
