/Glosario · IA
¿Qué es RAG?
RAG (Retrieval-Augmented Generation) es una técnica que mejora las respuestas de un modelo de lenguaje recuperando información relevante de tus propias fuentes y entregándola como contexto en el prompt. Así el modelo responde con datos actualizados y citables sin reentrenarlo.
Cómo funciona RAG
Primero se procesan los documentos: se dividen en fragmentos, se convierten en vectores con un modelo de embeddings y se guardan en una base vectorial. Cuando llega una pregunta, se convierte también en vector, se buscan los fragmentos más similares y se envían al modelo junto con la consulta para que genere la respuesta.
En AWS, Amazon Bedrock Knowledge Bases automatiza ese flujo: conecta fuentes como S3, Confluence o SharePoint, genera los embeddings y almacena los vectores en OpenSearch Serverless, Aurora PostgreSQL con pgvector, Amazon S3 Vectors u otros motores compatibles. Las respuestas pueden incluir citas a los documentos de origen.
Cuándo conviene usar RAG
RAG conviene sobre todo cuando el modelo necesita conocimiento privado o que cambia seguido: manuales internos, políticas, contratos, tickets de soporte o documentación de producto. También cuando necesitás trazabilidad, porque cada respuesta puede citar su fuente y los usuarios pueden verificarla.
Si lo que querés es cambiar el estilo o el formato de las respuestas, el ajuste fino o un buen prompt suelen ser mejores. Si los datos son estructurados, como ventas o inventario, a veces conviene que el modelo genere consultas SQL en lugar de buscar texto similar.
Buenas prácticas y errores comunes
La calidad de RAG depende más de la recuperación que del modelo. Probá distintas estrategias de fragmentación, combiná búsqueda semántica y léxica tipo BM25, usá reordenamiento de resultados y filtrá por metadatos como área o fecha. Medí la relevancia de lo recuperado y la fidelidad de la respuesta con un conjunto de evaluación propio.
Errores comunes: indexar documentos sin limpiar, ignorar permisos y exponer información a usuarios que no deberían verla, y no actualizar el índice cuando cambian las fuentes. Otro error es enviar demasiados fragmentos, lo que encarece cada llamada y empeora la precisión.
/FAQ
Preguntas sobre RAG
¿Tenés otra duda? Escribinos a hello@nubent.com y te responde un ingeniero.
¿Qué diferencia hay entre RAG y fine-tuning?
RAG agrega conocimiento en el momento de la consulta, sin modificar el modelo, y se actualiza con solo reindexar documentos. El fine-tuning ajusta los pesos del modelo para cambiar su comportamiento o estilo. Para conocimiento que cambia seguido, RAG suele ser más simple y económico.
¿Qué base de datos vectorial usar en AWS?
Depende del volumen y de lo que ya uses. OpenSearch Serverless combina búsqueda vectorial y léxica, Aurora PostgreSQL con pgvector aprovecha una base relacional existente y Amazon S3 Vectors reduce costos para grandes volúmenes con menor exigencia de latencia.
¿RAG elimina las alucinaciones?
Las reduce mucho, pero no las elimina. Si la recuperación trae fragmentos irrelevantes o incompletos, el modelo puede inventar. Por eso conviene pedir citas, indicar que responda solo con el contexto, usar Guardrails con verificación de fundamentación y evaluar respuestas de forma continua.
Cómo te ayudamos con RAG
IA generativa en AWS
IA generativa en AWS con Amazon Bedrock: asistentes, RAG sobre tus documentos y funciones GenAI en tu producto, con evaluación, guardrails y control de costos.
Ver másAI-native en AWS
Productos y plataformas cuyo núcleo es la IA generativa: Amazon Bedrock, agentes, RAG, evaluación, guardrails, LLMOps y costo por inferencia bajo control.
Ver másData en AWS
Plataforma de datos en AWS: ingesta automatizada, data lake en S3, transformaciones con Glue, consultas con Athena y Redshift, y gobierno con Lake Formation.
Ver másClaude en Amazon Bedrock
Integración de los modelos Claude vía Amazon Bedrock: selección de modelo, prompt caching, tool use, guardrails, evaluación y cuotas, con los datos en tu cuenta AWS.
Ver másSiguiente paso
¿Construimos lo próximo en AWS?
30 minutos con un ingeniero. Próximos pasos concretos, trabajes o no con nosotros.