¿Qué es RAG y por qué es clave en los chatbots con IA?

Cuando una empresa se plantea poner un chatbot con IA en su web, la primera pregunta suele ser: “¿Cómo evitamos que se invente cosas?”. Es una preocupación lógica. Los modelos de lenguaje como los que hay detrás de ChatGPT y Claude se han entrenado con cantidades enormes de texto público, y son muy buenos generando textos fluidos que suenan bien. Pero no saben nada de los precios de tu empresa, de tu horario ni de tu política de devoluciones. Si les pides que respondan igualmente, adivinan.

La solución que se ha impuesto en los últimos años se llama generación aumentada por recuperación (retrieval-augmented generation), o RAG. Es la técnica que usan los chatbots con IA modernos para ceñirse a los datos de tu propio material en lugar de inventar.

Qué hace exactamente RAG

RAG es una idea sencilla, pero cambia mucho las cosas. En lugar de enviar la pregunta directamente a un modelo de lenguaje y esperar que salga bien, el sistema hace dos cosas:

1. Recupera: primero busca en una base de datos con tu contenido (páginas web, documentos, preguntas frecuentes) los fragmentos más relevantes para la pregunta.
2. Genera: después le pasa al modelo de lenguaje la pregunta y los fragmentos recuperados, y le pide que redacte una respuesta basada en ellos.

El resultado es una respuesta redactada con la naturalidad de una persona, pero anclada en tu propio material. Si la respuesta no está en el material de origen, el modelo puede decirlo en lugar de adivinar.

Cómo construye un chatbot su base de conocimiento

Para que RAG funcione, la IA primero tiene que leer y estructurar tu contenido. Normalmente el proceso es así:

1. Rastreo: un rastreador recorre todas las páginas relevantes de tu web. Puede hacerlo de forma automática a partir de tu sitemap o siguiendo los patrones que tú elijas.
2. División en fragmentos: cada página se divide en trozos más pequeños (normalmente de 1.000 a 2.000 caracteres) que se solapan un poco, para que no se pierda contexto relevante entre un fragmento y el siguiente.
3. Embeddings: cada fragmento pasa por un modelo de embeddings, que convierte el texto en un vector. El vector es una representación numérica que recoge el significado del texto.
4. Almacenamiento: los vectores se guardan en una base de datos vectorial, capaz de encontrar en milisegundos los fragmentos que más se parecen a una pregunta.

Cuando un visitante hace una pregunta, el proceso se repite: la pregunta se convierte en un vector, la base de datos vectorial encuentra los fragmentos más relevantes y un modelo de lenguaje construye la respuesta. Todo suele tardar menos de un segundo.

Por qué RAG es mejor que las alternativas para una pyme

Antes de RAG, estos eran los enfoques habituales para montar un chatbot:

• Bots basados en reglas: escribías a mano un árbol de decisiones con respuestas predefinidas. Escala mal y falla en cuanto un cliente formula algo de forma un poco distinta.
• Modelos ajustados (fine-tuning): entrenabas un modelo de lenguaje con tus propios datos. Caro, lento de actualizar, y el modelo podía seguir inventándose cosas.
• Solo un modelo de lenguaje: enviabas las preguntas directamente a ChatGPT o similar. Suena fluido, pero no puede responder nada concreto sobre tu negocio y tiende a sufrir alucinaciones.

RAG reúne lo mejor de cada uno: no tienes que escribir reglas a mano ni entrenar un modelo. Apuntas el sistema a tu contenido, entiende preguntas formuladas con naturalidad y responde según lo que hay en la web. Cuando actualizas tu contenido, las respuestas se actualizan en el siguiente rastreo, sin que nadie tenga que tocar código.

Dónde se queda corto RAG

RAG tiene límites, y conviene ser sinceros sobre ellos:

• Solo lo que está por escrito: si una respuesta no está en tu contenido, RAG no puede sacársela de la manga. Una buena implementación debería decir “No lo sé” en lugar de adivinar.
• No hace gestiones: RAG sirve para recuperar información, no para actuar. Puede explicar tu política de devoluciones, pero no puede tramitar una devolución ni consultar el estado de un pedido concreto.
• La ventana de contexto es limitada: normalmente el modelo de lenguaje recibe como contexto los 5 a 10 fragmentos más relevantes. Si tu tema exige leer toda la web de una vez, eso todavía puede ser un reto.

Para la mayoría de las pymes, estos límites no son un problema. Casi todos los visitantes hacen preguntas para informarse, no para hacer gestiones.

¿Cómo saber si un chatbot usa bien RAG?

Cuando compares proveedores, pregunta por estas cuatro cosas:

1. ¿De dónde saca las respuestas? Un buen sistema RAG puede mostrarte en qué documentos o páginas se basa cada respuesta.
2. ¿Qué hace cuando la respuesta no está? Debería decir “No lo sé” o remitir a los datos de contacto, no adivinar.
3. ¿Con qué rapidez se actualizan las respuestas cuando cambias el material de origen? Lo ideal es que vuelva a rastrear automáticamente con la frecuencia que tú elijas.
4. ¿Qué modelo de lenguaje usa? Cada modelo tiene una calidad y un precio distintos. Los mejores sistemas combinan varios modelos: los baratos se encargan de las preguntas sencillas y las complejas van a los mejores.

Cómo usa RAG Asktopus

Asktopus está construido sobre RAG desde el principio. Rastreamos tu web automáticamente, te permitimos subir documentos PDF y Word a la base de conocimiento y usamos una combinación de modelos de lenguaje para que obtengas buena calidad sin quemar el presupuesto en llamadas caras.

¿Quieres ver cómo funciona en la práctica en tu sector? Tenemos páginas sobre Asktopus para tiendas online, consultoras, empresas SaaS e instituciones públicas.