Por que a geração aumentada por recuperação

Você tem 4.000 páginas de documentação interna: procedimentos de qualidade, contratos de manutenção, relatórios de incidentes. Um colega pergunta qual é a multa contratual aplicável após 48 horas de indisponibilidade no site de Lyon. A informação existe, em um aditivo em PDF assinado há dois anos. Ninguém consegue encontrá-lo. Você faz a pergunta a um modelo de linguagem: ele responde com segurança uma multa de 5% ao dia, um número plausível, inventado do zero, porque esse contrato nunca fez parte de seus dados de treinamento e ele não tem como saber.

A geração aumentada por recuperação responde exatamente a esse caso. Em vez de torcer para que o modelo conheça o seu aditivo, você mesmo o busca nos seus documentos, o insere no prompt e pede ao modelo que responda apenas a partir desse texto. O modelo deixa de ser uma base de conhecimento: passa a ser um mecanismo de leitura e de reformulação. Essa transferência de responsabilidade é todo o interesse da abordagem, e é também o que explica por que a maioria dos sistemas RAG decepcionantes não sofre de um problema de geração, mas de um problema de recuperação que seus autores nunca mediram.