0%
Por qué la generación aumentada por recuperación

Por qué el RAG

El verdadero problema casi nunca es el modelo de lenguaje

10-15 min

Por qué la generación aumentada por recuperación

Tienes 4 000 páginas de documentación interna: procedimientos de calidad, contratos de mantenimiento, actas de incidentes. Un compañero pregunta cuál es la penalización contractual aplicable tras 48 horas de indisponibilidad en el sitio de Lyon. La información existe, en un anexo PDF firmado hace dos años. Nadie la encuentra. Planteas la pregunta a un modelo de lenguaje: te responde con seguridad una penalización del 5 % por día, una cifra plausible, inventada de cabo a rabo, porque ese contrato nunca formó parte de sus datos de entrenamiento y no tiene forma alguna de saberlo.

La generación aumentada por recuperación responde exactamente a este caso. En lugar de esperar que el modelo conozca tu anexo, vas a buscarlo tú mismo en tus documentos, lo insertas en el prompt y pides al modelo que responda únicamente a partir de ese texto. El modelo ya no es una base de conocimientos: se convierte en un motor de lectura y reformulación. Ese desplazamiento de responsabilidad es todo el interés del enfoque, y también explica por qué la mayoría de los sistemas RAG decepcionantes no sufren un problema de generación, sino un problema de recuperación que sus autores nunca midieron.

Comentarios

Los comentarios funcionan con GitHub Discussions

Inicia sesión con GitHub para participar en la discusión

¡Enlace copiado!