RAG na IA: como o chatbot responde com base nos seus documentos

RAG, sigla de geração aumentada por recuperação, é a técnica em que a IA primeiro procura trechos relevantes em documentos e só depois escreve a resposta usando o que encontrou. É por isso que alguns chatbots conseguem responder sobre o regulamento da sua empresa ou o seu contrato, mesmo sem nunca terem sido treinados com esses textos.

Entender RAG ajuda a escolher melhor as ferramentas, a desconfiar na hora certa e a saber o que pedir a quem monta um chatbot para o seu negócio. Neste guia você vê como o processo funciona em quatro passos, onde já usa isso sem perceber, um exemplo com números e os erros mais comuns.

O que é RAG e por que ele existe

Todo modelo de linguagem aprende com uma grande quantidade de textos até uma certa data. Depois do treinamento, ele não sabe o que aconteceu no mês passado e nunca viu seus arquivos internos. Se você perguntar o prazo de entrega da sua loja, ele só pode adivinhar. O texto sobre como uma IA aprende e por que erra detalha essa limitação.

A saída mais barata do que treinar o modelo de novo é entregar a ele, na hora da pergunta, os trechos certos para ler. A AWS define o RAG como o processo de otimizar a saída de um modelo para que ele consulte uma fonte de conhecimento confiável antes de responder. Segundo a empresa, as vantagens são o custo menor que o de retreinar o modelo, o acesso a informação atual, a possibilidade de citar fontes e o maior controle de quem monta o sistema.

A ideia não é nova. O artigo científico que deu nome à técnica, de Patrick Lewis e colegas, foi enviado ao arXiv em maio de 2020 e aceito na conferência NeurIPS. Os autores descrevem um modelo que combina um gerador de texto com um buscador sobre a Wikipédia e obtém respostas mais concretas e baseadas em fatos do que um modelo parecido sem busca, segundo o resumo do artigo no arXiv.

Como o RAG funciona em quatro passos

Pense numa bibliotecária que, antes de responder a uma dúvida, vai à estante, separa três páginas e só então fala com você. O sistema faz algo parecido:

1. Preparar os documentos. Os arquivos são cortados em pedaços pequenos, chamados de trechos, e cada trecho recebe uma espécie de impressão digital numérica que representa o seu significado.
2. Receber a pergunta. Sua pergunta também vira uma impressão digital numérica.
3. Buscar. O sistema compara a pergunta com os trechos e separa os mais próximos em significado, não só os que repetem as mesmas palavras.
4. Responder. Os trechos escolhidos são colocados junto da pergunta dentro do pedido enviado ao modelo, que escreve a resposta com base neles e, quando configurado, indica de onde tirou cada informação.

Repare que o modelo continua o mesmo. O que muda é o material de leitura que chega junto com a pergunta. Esse material ocupa espaço na chamada janela de contexto, assunto do guia sobre tokens e janela de contexto, e por isso o sistema envia só os trechos úteis, e não o arquivo inteiro.

Onde você já usa RAG sem perceber

Quando você sobe PDFs em um caderno de estudo com IA e faz perguntas sobre eles, o princípio é o mesmo. O guia do caderno de pesquisa do Google e o comparativo entre Perplexity e NotebookLM mostram ferramentas que trabalham a partir das fontes que você escolhe. Outros exemplos do dia a dia:

• Chatbots de atendimento que respondem com base no catálogo e nas políticas da loja, como os descritos em chatbot de atendimento sem programar.
• Buscas com IA que leem páginas da internet antes de resumir, caso do modo IA do Google.
• Assistentes que consultam seu e-mail e sua agenda, que dependem de conectores como os explicados no texto sobre protocolo MCP.
• Ferramentas de resumo de documentos longos, como as do guia para resumir PDFs e textos longos.

RAG, treinamento e memória: qual a diferença

A memória, como mostra o guia de memória longa em IA, guarda quem você é. O RAG consulta o que está escrito nos seus arquivos. Os dois podem trabalhar juntos, mas resolvem problemas diferentes.

Exemplo prático: uma loja com 15 páginas de políticas

Uma loja de cosméticos online tem um arquivo de 15 páginas com prazo de entrega, regras de troca e formas de pagamento. Hoje a dona responde as mesmas dúvidas no WhatsApp, cerca de 40 vezes por semana, e cada resposta leva uns 3 minutos. São 2 horas por semana só em perguntas repetidas.

Com um chatbot de RAG, os 15 trechos do arquivo viram a base de consulta. Quando o cliente pergunta "quanto tempo leva para chegar em Salvador?", o sistema busca o trecho sobre prazo e responde só com o que está lá, indicando a página. Se a pergunta não tiver resposta no arquivo, a configuração correta manda o chatbot dizer que não sabe e chamar uma pessoa. O guia sobre atendimento no WhatsApp com IA mostra como encaixar isso na rotina.

Atenção ao custo real: o plano da ferramenta, as horas para organizar o arquivo e a revisão semanal das respostas entram na conta. Confira preços na página oficial de cada ferramenta no dia da contratação.

Teste em casa em 10 minutos

Você não precisa de programador para sentir como o RAG funciona. Escolha uma ferramenta que aceite upload de arquivos, suba três documentos seus (um contrato de aluguel, um manual de eletrodoméstico e o regulamento de um curso, por exemplo) e faça perguntas com resposta conhecida. Um modelo de pedido:

Responda apenas com base nos documentos enviados.
Para cada resposta, cite o nome do arquivo e o trecho usado.
Se a informação não estiver nos documentos, escreva exatamente: não encontrei isso nos arquivos.
Pergunta: qual é o prazo para avisar a rescisão do contrato?

Depois faça uma pergunta cuja resposta não esteja em nenhum arquivo. Uma boa configuração admite que não sabe. Se a ferramenta inventar, você descobriu um limite importante antes de confiar nela. Para repetir esse tipo de teste com método, o guia de como checar se a resposta da IA está certa traz um passo a passo.

Limites e erros comuns

• Busca errada. Se o sistema trouxer o trecho errado, a resposta sai errada, mas escrita com segurança. Confira sempre a citação.
• Documento desatualizado. O RAG repete o que está no arquivo. Política antiga gera resposta antiga.
• Arquivo bagunçado. Tabelas em imagem, PDF escaneado sem texto e arquivos com informações contraditórias confundem a busca.
• Dado sensível sem cuidado. Subir contratos e dados de clientes exige ler a política de privacidade da ferramenta. O checklist de LGPD para pequenos negócios ajuda nessa checagem.
• Texto malicioso dentro do documento. Páginas e e-mails podem conter instruções escondidas para enganar a IA, risco explicado em prompt injection.

Próximos passos

Se quiser consolidar o vocabulário, consulte o dicionário de inteligência artificial e o guia completo do que é inteligência artificial. Depois, escolha um conjunto pequeno de arquivos seus, rode o teste de 10 minutos e veja na prática onde a ferramenta acerta e onde precisa de supervisão. Explore a categoria Iniciantes do Portal para seguir aprendendo sem jargão.