Prompt, RAG o fine-tuning: cómo saber qué necesita tu proyecto de IA

Has probado un modelo de IA para una tarea de tu trabajo y el resultado se queda corto: inventa datos de tu empresa, no sigue el formato que necesitas o no suena como tu marca. Al buscar soluciones aparecen tres palabras una y otra vez: prompt, RAG y fine-tuning. No son alternativas equivalentes. Cada una arregla un tipo de problema distinto, y elegir la equivocada sale caro.

Primero, diagnostica el problema

La guía de OpenAI sobre cómo mejorar la precisión de los modelos propone una distinción útil. Cuando un modelo falla, suele ser por una de dos razones:

• Le falta información. No sabe lo que necesita saber: tus precios, tus políticas internas, lo que pasó la semana pasada. Es un problema de contexto.
• No se comporta como necesitas. Tiene la información, pero responde con el formato, el tono o el razonamiento equivocado. Es un problema de comportamiento.

Con ese diagnóstico, la elección se aclara bastante.

Opción 1: mejorar el prompt

El prompt es la instrucción que le das al modelo. Mejorarlo significa explicar mejor la tarea, dar contexto, mostrar ejemplos de lo que esperas (lo que se llama few-shot) y fijar el formato de salida. Es lo que explicamos en detalle en Cómo escribir un prompt que funcione a la primera.

Cuándo usarlo: siempre, y siempre primero. Tanto OpenAI como Anthropic recomiendan empezar por aquí antes de pensar en reentrenar un modelo. Es inmediato, no cuesta más que tu tiempo y lo puedes cambiar en segundos.

Qué resuelve: formato, tono, nivel de detalle, pasos de razonamiento y una parte sorprendente de los problemas de calidad. Si añades al prompt dos o tres ejemplos de respuestas buenas, el modelo aprende el patrón sin ningún entrenamiento: es el aprendizaje en contexto.

Dónde se queda corto: no puede darle al modelo información que no tiene, y si necesitas cientos de ejemplos para fijar un comportamiento, el prompt se vuelve enorme y caro.

Opción 2: RAG, darle la información que le falta

RAG (generación aumentada por recuperación) es una técnica en la que, antes de responder, el sistema busca los fragmentos relevantes en tus documentos y se los pasa al modelo junto con la pregunta. El modelo responde a partir de esa información, no de su memoria.

Cuándo usarlo: cuando el problema es de contexto. Tus manuales, tu base de conocimiento, tu catálogo, normativa interna o cualquier información que cambia con frecuencia.

Qué resuelve: respuestas basadas en tus datos reales, actualizables sin tocar el modelo (basta con actualizar los documentos) y con la posibilidad de citar de dónde sale cada respuesta.

Dónde se queda corto: exige preparar bien los documentos, trocearlos con criterio y evaluar si la búsqueda encuentra lo correcto. Y muchas veces no hace falta: si tus documentos caben en la ventana de contexto, puedes simplemente pegarlos. Lo analizamos a fondo en RAG sin humo: cuándo necesitas búsqueda vectorial y cuándo no.

Opción 3: fine-tuning, cambiar el comportamiento

El fine-tuning (ajuste fino) consiste en seguir entrenando un modelo ya existente con tus propios ejemplos de entrada y salida, para que adopte un comportamiento de forma permanente. Técnicas como LoRA, que pertenecen a la familia PEFT (ajuste eficiente de parámetros), permiten hacerlo modificando solo una pequeña parte del modelo, lo que reduce mucho el coste.

Cuándo usarlo: cuando ya has exprimido el prompt y el problema sigue siendo de comportamiento. Por ejemplo, un formato de salida muy específico que el modelo no respeta de forma consistente, un estilo de redacción muy particular o una tarea de clasificación repetida miles de veces en la que quieres usar un modelo más pequeño y barato.

Qué resuelve: consistencia en tareas acotadas, prompts más cortos (el comportamiento ya está aprendido) y, a veces, la posibilidad de usar un modelo más pequeño con resultados parecidos a uno grande.

Dónde se queda corto: necesitas un conjunto de ejemplos de calidad, que lleva trabajo preparar; cada cambio exige volver a entrenar; y no es una buena manera de enseñar datos nuevos. Un modelo ajustado con tus documentos los «recuerda» de forma imprecisa y puede seguir inventando, sin decirte de dónde sale cada afirmación.

La confusión más cara

El error más habitual es intentar resolver un problema de información con fine-tuning: «vamos a entrenar el modelo con todos nuestros documentos para que los sepa». Suele acabar en un proyecto caro, lento de actualizar y con respuestas poco fiables. Si lo que falta es información, la respuesta es dársela en el contexto, ya sea pegándola o con RAG.

Al revés también pasa: montar un sistema de RAG complejo cuando el problema era que el prompt no explicaba bien el formato de respuesta.

En qué orden probar

1. Escribe un buen prompt con instrucciones claras, contexto y formato de salida. Mide los resultados con un conjunto pequeño de casos reales.
2. Añade ejemplos al prompt si el problema es de formato o estilo.
3. Añade información al contexto si el problema es que le faltan datos: primero pegando los documentos; si no caben o son muchos, con RAG.
4. Considera el fine-tuning solo si, tras todo lo anterior, el comportamiento sigue sin ser consistente y tienes un volumen de uso que justifica el esfuerzo.

Las técnicas no se excluyen: un asistente de atención al cliente puede usar un prompt cuidado, RAG sobre la base de conocimiento y un modelo ajustado para respetar el tono de la marca. Si necesitas ordenar la decisión con tu equipo, la plantilla Decidir con criterios te ayuda a ponerla por escrito.

Sigue leyendo

• Cómo escribir un prompt que funcione a la primera: el primer paso, siempre.
• RAG sin humo: cuándo necesitas búsqueda vectorial y cuándo no: cuándo compensa montar RAG.
• Modelos de IA abiertos o cerrados: qué modelos puedes ajustar por tu cuenta.
• Por qué la IA inventa datos (alucinaciones): por qué falta de información y alucinaciones van juntas.
• En el glosario: fine-tuning, RAG, LoRA y aprendizaje en contexto.

Fuentes

• OpenAI. Optimizing LLM accuracy. Documentación de la API de OpenAI.
• OpenAI. Fine-tuning best practices. Documentación de la API de OpenAI.
• Anthropic. Prompt engineering overview. Documentación de Claude.
• Lewis, P. et al. (2020). Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks. arXiv.
• Hu, E. et al. (2021). LoRA: Low-Rank Adaptation of Large Language Models. arXiv.