Saltar al contenido
Nubent

/Glosario · IA

¿Qué es RAG?

RAG (Retrieval-Augmented Generation) es una técnica que mejora las respuestas de un modelo de lenguaje recuperando información relevante de tus propias fuentes y entregándola como contexto en el prompt. Así el modelo responde con datos actualizados y citables sin reentrenarlo.

Cómo funciona RAG

Primero se procesan los documentos: se dividen en fragmentos, se convierten en vectores con un modelo de embeddings y se guardan en una base vectorial. Cuando llega una pregunta, se convierte también en vector, se buscan los fragmentos más similares y se envían al modelo junto con la consulta para que genere la respuesta.

En AWS, Amazon Bedrock Knowledge Bases automatiza ese flujo: conecta fuentes como S3, Confluence o SharePoint, genera los embeddings y almacena los vectores en OpenSearch Serverless, Aurora PostgreSQL con pgvector, Amazon S3 Vectors u otros motores compatibles. Las respuestas pueden incluir citas a los documentos de origen.

Cuándo conviene usar RAG

RAG conviene sobre todo cuando el modelo necesita conocimiento privado o que cambia seguido: manuales internos, políticas, contratos, tickets de soporte o documentación de producto. También cuando necesitás trazabilidad, porque cada respuesta puede citar su fuente y los usuarios pueden verificarla.

Si lo que querés es cambiar el estilo o el formato de las respuestas, el ajuste fino o un buen prompt suelen ser mejores. Si los datos son estructurados, como ventas o inventario, a veces conviene que el modelo genere consultas SQL en lugar de buscar texto similar.

Buenas prácticas y errores comunes

La calidad de RAG depende más de la recuperación que del modelo. Probá distintas estrategias de fragmentación, combiná búsqueda semántica y léxica tipo BM25, usá reordenamiento de resultados y filtrá por metadatos como área o fecha. Medí la relevancia de lo recuperado y la fidelidad de la respuesta con un conjunto de evaluación propio.

Errores comunes: indexar documentos sin limpiar, ignorar permisos y exponer información a usuarios que no deberían verla, y no actualizar el índice cuando cambian las fuentes. Otro error es enviar demasiados fragmentos, lo que encarece cada llamada y empeora la precisión.

/FAQ

Preguntas sobre RAG

¿Tenés otra duda? Escribinos a hello@nubent.com y te responde un ingeniero.

¿Qué diferencia hay entre RAG y fine-tuning?

RAG agrega conocimiento en el momento de la consulta, sin modificar el modelo, y se actualiza con solo reindexar documentos. El fine-tuning ajusta los pesos del modelo para cambiar su comportamiento o estilo. Para conocimiento que cambia seguido, RAG suele ser más simple y económico.

¿Qué base de datos vectorial usar en AWS?

Depende del volumen y de lo que ya uses. OpenSearch Serverless combina búsqueda vectorial y léxica, Aurora PostgreSQL con pgvector aprovecha una base relacional existente y Amazon S3 Vectors reduce costos para grandes volúmenes con menor exigencia de latencia.

¿RAG elimina las alucinaciones?

Las reduce mucho, pero no las elimina. Si la recuperación trae fragmentos irrelevantes o incompletos, el modelo puede inventar. Por eso conviene pedir citas, indicar que responda solo con el contexto, usar Guardrails con verificación de fundamentación y evaluar respuestas de forma continua.

Siguiente paso

¿Construimos lo próximo en AWS?

30 minutos con un ingeniero. Próximos pasos concretos, trabajes o no con nosotros.