Ir al contenido

Arquitectura RAG en producción: búsqueda híbrida y reranking

IA · 16 de noviembre de 2026 · 9 min de lectura

A web of glowing lines in black, white and grey

La retrieval-augmented generation (RAG) es un patrón que, cuando llega una pregunta, recupera los pasajes adecuados de tus propios documentos y se los pasa a un modelo de lenguaje, de modo que la respuesta se apoya en textos que controlas y no en lo que el modelo recuerda de su entrenamiento. Le pusieron nombre Lewis y sus colegas en 2020. Al terminar esta guía tendrás una arquitectura RAG de producción en seis pasos: chunks que llevan su propio contexto, dos índices sobre los mismos chunks, una recuperación híbrida fusionada por posición, un reranker, un prompt que cita sus fuentes y un conjunto de preguntas de prueba que te avisa cuando algo empeora.

La demo es lo fácil. Una base de datos vectorial, una llamada de embeddings y un prompt responden bien a las diez primeras preguntas. En producción la recuperación falla sin hacer ruido, porque el modelo escribe una respuesta fluida con lo que le llegue. Anthropic midió la versión básica, embeddings sobre chunks sin tocar, en código, ficción, artículos científicos y documentos financieros: en el 5,7 % de las consultas el pasaje con la respuesta no estaba entre los 20 primeros resultados. Es más de una pregunta de cada veinte respondida desde la página equivocada, con el mismo tono seguro que las demás.

Qué necesitas antes de empezar

Lo primero es comprobar que de verdad necesitas recuperación. Según Anthropic, una base de conocimiento de menos de 200.000 tokens, unas 500 páginas, cabe entera en el prompt, y el prompt caching mantiene bajo el coste de las peticiones repetidas. La RAG compensa su complejidad cuando hay más documentos, cambian cada día o incluyen archivos que no todos los usuarios pueden ver. La parte del prompt la tratamos en la guía de context engineering.

Si estás por encima de ese umbral, ten esto listo:

  • 50 preguntas reales, cada una con el pasaje que la responde. Sácalas de los tickets de soporte, de las llamadas comerciales o de los registros de búsqueda, nunca de los propios documentos.
  • Un almacén que maneje vectores y palabras clave: Postgres con pgvector y búsqueda de texto completo, o una base de datos vectorial con un índice de palabras clave.
  • Un modelo de embeddings y un reranker, elegidos a la vez, porque son las dos piezas que más vas a cambiar.
  • Las reglas de acceso a los documentos: qué usuario o cliente puede leer qué archivo, guardadas como datos y no en la cabeza de alguien.

Paso 1: divide por estructura y dale a cada chunk su contexto

Divide los documentos donde los dividió quien los escribió: títulos, secciones, párrafos. Una tabla, un bloque de código o un procedimiento numerado van enteros en un chunk, porque media tabla no responde a nada. Unos cientos de tokens por chunk es un buen punto de partida; la estimación de costes de Anthropic supone 800.

Separado de su documento, un chunk pierde de qué trata. La frase «Los ingresos crecieron un 3 % respecto al trimestre anterior» se recupera mal, porque no dice de qué empresa ni de qué trimestre. El contextual retrieval lo arregla antes de indexar. Un modelo lee el documento entero junto a cada chunk y escribe un prefijo de 50 a 100 tokens que lo sitúa («Este chunk es del informe de ACME del segundo trimestre de 2023; los ingresos del trimestre anterior fueron...»). El prefijo se añade al chunk antes de calcular su embedding y antes de que entre en el índice de palabras clave. Con prompt caching el documento se lee una sola vez y no una por chunk, y Anthropic calculó un coste único de 1,02 dólares por millón de tokens de documento.

Guarda cada chunk con sus metadatos: id del documento, título, ruta de la sección, fecha de la última actualización y lista de acceso. Todos los pasos siguientes los usan.

Paso 2: indexa cada chunk dos veces

Los embeddings buscan por significado. Encuentran el pasaje sobre cancelar la suscripción cuando el usuario escribe «cómo dejo de pagar». Con las cadenas exactas, en cambio, flojean: códigos de error, referencias de producto, nombres comerciales, números de cláusula, justo los identificadores de los que están hechas las preguntas técnicas y legales. Un índice de palabras clave como BM25, o la búsqueda de texto completo de Postgres, los encuentra tal cual.

Las cifras de Anthropic muestran que cada índice hace su parte. Los embeddings contextuales por sí solos bajaron la tasa de fallo del 5,7 % al 3,7 %. Al añadir un índice de palabras clave sobre los mismos chunks contextualizados bajó al 2,9 %, un 49 % menos que al principio.

En Postgres los dos viven en la misma tabla: una columna vector con un índice HNSW para la similitud y una columna tsvector con un índice GIN para las palabras clave, como en la guía de búsqueda híbrida de Supabase. Las columnas de acceso, también en esa tabla. El paso 3 depende de ello, y las políticas siguen los patrones de Supabase RLS a escala.

Paso 3: recupera en amplio y fusiona las listas con reciprocal rank fusion

Lanza las dos búsquedas con cada pregunta y quédate con una lista amplia de candidatos de cada una, entre 50 y 150 chunks. Aplica el filtro de acceso dentro de las dos consultas. Filtrar después de recuperar abre una fuga: un documento que el usuario no puede ver desplaza de la lista a uno que sí podría ver, y un fallo en el filtro lo entrega entero.

Las dos listas puntúan en escalas distintas, similitud coseno por un lado y BM25 por el otro, así que sumar las puntuaciones no tiene sentido. La reciprocal rank fusion deja de lado las puntuaciones y usa las posiciones:

puntuación(chunk) = 1 / (k + posición en la lista vectorial) + 1 / (k + posición en la lista de palabras clave)

Gana el chunk que está arriba en las dos. El que solo encontró una búsqueda también cuenta. La constante k reduce la distancia entre el primer y el décimo puesto: Cormack, Clarke y Büttcher la fijaron en 60 en el artículo del SIGIR de 2009 que presentó el método, y la función de ejemplo de Supabase usa 50. Dale más peso a una de las dos búsquedas cuando tu conjunto de prueba lo pida, por ejemplo a las palabras clave si los documentos son referencias de API.

Paso 4: reordena los candidatos con un reranker y quédate con una lista corta

Los embeddings puntúan la pregunta y el chunk por separado. Un reranker, normalmente un cross-encoder, los lee juntos y juzga si ese pasaje responde a esa pregunta. Es más preciso y más lento, así que solo ve los candidatos ya fusionados. Anthropic pasó los 150 primeros a un reranker y se quedó con 20. La tasa de fallo bajó del 2,9 % al 1,9 %, un 67 % menos que con embeddings solos.

El reranker añade una llamada a cada pregunta, con su latencia y su precio. Ponlos en la balanza frente a la mejora en tu conjunto de prueba. Y quita los chunks casi idénticos antes del corte, para que cinco copias del mismo párrafo no llenen la lista.

Paso 5: pon primero los mejores pasajes y haz que el modelo los cite

Dentro del prompt, el orden importa. El estudio Lost in the Middle (Liu y colegas, TACL 2024) observó que los modelos aprovechan mejor la información cuando está al principio o al final del contexto, y bastante peor cuando está en medio. Así que manda menos pasajes, pon primero el mejor clasificado y no llenes la ventana solo porque hay sitio. Cada chunk de más son también tokens que pagas en cada petición, un coste que desglosamos en el artículo sobre el coste de tokens en funciones de IA.

Etiqueta cada pasaje con un id, su título y su fecha. Después pide tres cosas en las instrucciones: responder solo con los pasajes recibidos, citar el id tras cada afirmación y decir con claridad cuando los pasajes no contienen la respuesta. En la interfaz, muestra los ids como enlaces a la fuente. Quien puede abrir el párrafo que hay detrás de una frase lo comprueba en segundos, y un «los documentos no lo cubren» vale más que una suposición presentada como un hecho.

Paso 6: mide la recuperación y las respuestas por separado

Una respuesta equivocada tiene dos causas posibles, y cada una se arregla de una manera. O la recuperación no encontró el pasaje, o el modelo lo tenía y escribió otra cosa. Sigue una cifra para cada una.

  • Recall de la recuperación a k: para cada pregunta etiquetada, ¿está el pasaje correcto entre los k primeros resultados? Es la cifra que publica Anthropic, vista del revés.
  • Fidelidad: ¿cada afirmación de la respuesta se apoya en los pasajes recuperados? El framework RAGAS la define junto con la relevancia de la respuesta y la del contexto, y puntúa las tres sin respuestas de referencia escritas a mano.

Pasa las 50 preguntas con cada cambio en el chunking, el prompt contextual, el modelo de embeddings, el reranker o el prompt de sistema, y guarda los resultados de cada versión. En producción, registra la pregunta, los ids recuperados con sus puntuaciones, la respuesta y sus citas. Lee una muestra cada semana. De ese registro salen las preguntas que tu conjunto de prueba no había previsto, y se convierten en sus siguientes entradas.

¿Cómo sabes que funciona?

  • Una pregunta con un identificador exacto, un código de error o una referencia de producto, recupera el chunk que lo contiene.
  • Una pregunta que los documentos no responden recibe «no cubierto», nunca una invención.
  • Un usuario de prueba sin acceso a un documento no recibe nunca un chunk de ese documento, ni en la respuesta ni en las citas.
  • El recall a 20 y la fidelidad sobre el conjunto de prueba salen con cada versión, junto a las cifras de la anterior.

Fallos habituales y cómo arreglarlos

Las respuestas se quedan atrás cuando cambia un documento. Reindexa el documento en cada escritura: borra sus chunks antiguos y escribe los nuevos con la fecha actualizada. Una reconstrucción nocturna deja un día de respuestas equivocadas.

Un modelo de embeddings nuevo empeora los resultados de un día para otro. Los vectores de dos modelos distintos no se pueden comparar. Recalcula los embeddings de todo el archivo en un índice nuevo con número de versión, pasa el conjunto de prueba y cambia solo si gana.

Las tablas y los procedimientos vuelven a trozos. El divisor cortaba por número de caracteres. Pasa a un chunking que siga la estructura y deja cada tabla o lista numerada en un solo chunk.

El modelo ignora el pasaje con la respuesta. Estaba octavo de veinte, en mitad del contexto. Usa el reranker, acorta la lista y pon el mejor pasaje primero.

El streaming esconde una recuperación lenta. El primer token llega tarde y nadie sabe por qué. Mide los tiempos de recuperación y de reranking por separado, antes de que empiece la generación; la parte de streaming está en la guía de la API de Anthropic en Next.js.

Preguntas frecuentes

Artículos relacionados

¿Prefieres que lo hagamos nosotros?

Diseñamos y desarrollamos este tipo de trabajo para clientes. Cuéntanos qué necesitas.