RAG explicado: cómo darle a un LLM tu propia información

A developer explains how Retrieval-Augmented Generation (RAG) allows large language models to answer questions using a company's own documents, reducing hallucinations by providing real context at query time. The post includes a Python example using sentence-transformers, FAISS, and Anthropic's Claude, and highlights RAG as a cost-effective way to apply AI in business without retraining models.

Un modelo de lenguaje sabe mucho del mundo, pero no sabe nada de tu empresa : tus manuales, tus políticas, tus productos. Y si le preguntas por algo que no sabe, puede inventar una respuesta que suena convincente. RAG Retrieval-Augmented Generation resuelve las dos cosas. En lugar de esperar que el modelo "se sepa" tu información, se la das en el momento de la pregunta : El modelo ya no adivina: responde a partir de un contexto real que tú controlas. Y puedes pedirle que cite de dónde salió cada dato. php 1. Indexado una vez : fragmentos - embeddings - base vectorial con librerías como sentence-transformers + FAISS, o un servicio gestionado 2. En cada pregunta: recuperar los fragmentos relevantes fragmentos = base vectorial.buscar pregunta, k=4 contexto = "\n\n".join fragmentos 3. Generar la respuesta con el contexto from anthropic import Anthropic client = Anthropic resp = client.messages.create model="claude-opus-4-8", max tokens=1024, system="Responde SOLO con la información del contexto. Si no está, dilo.", messages= { "role": "user", "content": f"Contexto:\n{contexto}\n\nPregunta: {pregunta}", } , print resp.content 0 .text Fíjate en la instrucción del system : pedirle que responda solo con el contexto y que admita cuando no sabe es lo que reduce drásticamente las alucinaciones. RAG es hoy una de las formas más rentables de aplicar IA en un negocio: no reentrenas nada, y el asistente mejora con solo actualizar tus documentos. En Xiliux construyo sistemas RAG en Python de principio a fin. Cuéntame qué información quieres poner a trabajar: contacto https://dev.to/ contacto .