RAG o fine-tuning: ¿cuál utilizar?

La conversación suele empezar con “vamos a entrenar un modelo con los PDF de la empresa”. En la práctica, lo que la empresa quiere es una respuesta con el documento vigente, con permiso y con la posibilidad de actualizar el archivo mañana. Eso describe RAG. Fine-tuning es otra herramienta.

El problema

Un modelo genérico puede inventar políticas. Un modelo ajustado sin criterios adecuados puede memorizar información obsoleta y resultar costoso de actualizar. Si no se comprende la diferencia, el proyecto puede invertir en la solución incorrecta sin identificar qué documento sustentó cada respuesta.

Cómo funciona cada uno

RAG (generación aumentada por recuperación) busca fragmentos autorizados en la base — documentos, procedimientos, catálogo — y entrega ese contexto al modelo en el momento de la pregunta. El modelo sigue siendo genérico. Lo que cambia es el material que puede usar en esa respuesta.

Fine-tuning ajusta pesos del modelo con ejemplos. Sirve para formato de respuesta, estilo, tarea repetida con muchos pares pregunta-respuesta estables. No es la forma eficiente de “enseñar el PDF que jurídico actualizó el martes”.

Cuándo utilizar RAG

• Política, procedimiento y manual que cambian.
• Atención que necesita citar la regla vigente.
• Varios departamentos con bases distintas y permiso distinto.
• Necesidad de saber qué documento alimentó la respuesta.

Cuándo puede entrar fine-tuning

Cuando el problema es la forma de responder — clasificación estable, formato rígido, dominio estrecho con miles de ejemplos curados — y la base documental no es el cuello de botella. Incluso en esos casos, muchos equipos combinan: modelo ajustado para la tarea, RAG para el hecho.

Principales desafíos del RAG

Documentos sin responsable, carpetas completas indexadas sin criterios, un agente comercial con acceso a archivos de Recursos Humanos, índices que no se actualizan cuando cambia un PDF y preguntas sobre pedidos que deberían consultar una API en lugar del índice semántico.

Errores comunes

• Elegir fine-tuning solo porque el término parece más avanzado.
• Indexar todo el almacenamiento sin criterios de selección.
• No configurar una respuesta segura y la transferencia a una persona.
• Evaluar únicamente si la respuesta parece inteligente, sin comprobar su precisión.

Experiencia práctica

En plataformas con múltiples agentes y bases de conocimiento, es esencial definir qué documentos puede consultar cada agente, quién es responsable por ellos y cómo se monitorea el consumo. RAG sin controles de acceso puede exponer información; fine-tuning sin datos curados produce respuestas poco confiables y desactualizadas.