O que a Geração Aumentada por Recuperação (RAG) faz?

A Geração Aumentada por Recuperação (Retrieval-Augmented Generation, ou RAG) busca em uma fonte externa de conhecimento, como um banco de documentos ou a web, trechos relevantes para a pergunta do usuário, e então alimenta esses trechos ao modelo junto com a pergunta, para que ele responda com base em informações atuais. Isso resolve uma fraqueza central dos grandes modelos de linguagem: seu conhecimento fica congelado no momento em que o treinamento terminou, então, sem essa busca, eles não podem saber o que aconteceu depois nem acessar documentos privados nos quais nunca foram treinados.

Retreinar o modelo inteiro a cada pergunta seria extremamente caro, basicamente reconstruindo a IA do zero toda vez, o que não é como o RAG funciona. Apagar respostas erradas depois de exibidas não resolve o conhecimento desatualizado; é uma limpeza reativa, não respostas melhores desde o início.

O RAG se tornou popular para construir assistentes de IA sob medida para empresas específicas, permitindo que um modelo de uso geral responda perguntas sobre documentos internos sem o custo enorme de treinar um modelo personalizado do zero.