Pourquoi le RAG
Le vrai problème n'est presque jamais le modèle de langage
Pourquoi la génération augmentée par récupération
Vous avez 4 000 pages de documentation interne : procédures qualité, contrats de maintenance, comptes rendus d'incidents. Un collègue demande quelle est la pénalité contractuelle applicable après 48 heures d'indisponibilité sur le site de Lyon. L'information existe, dans un avenant PDF signé il y a deux ans. Personne ne le retrouve. Vous posez la question à un modèle de langage : il vous répond avec assurance une pénalité de 5 % par jour, un chiffre plausible, inventé de toutes pièces, parce que ce contrat n'a jamais fait partie de ses données d'entraînement et qu'il n'a aucun moyen de le savoir.
La génération augmentée par récupération répond exactement à ce cas. Au lieu d'espérer que le modèle connaisse votre avenant, vous allez le chercher vous-même dans vos documents, l'insérer dans l'invite, et demander au modèle de répondre uniquement à partir de ce texte. Le modèle n'est plus une base de connaissances : il devient un moteur de lecture et de reformulation. Ce déplacement de responsabilité est tout l'intérêt de l'approche, et c'est aussi ce qui explique pourquoi la majorité des systèmes RAG décevants ne souffrent pas d'un problème de génération, mais d'un problème de récupération que leurs auteurs n'ont jamais mesuré.
Commentaires
Les commentaires sont alimentés par GitHub Discussions
Connectez-vous avec GitHub pour participer à la discussion