1. 什么是 RAGRAGRetrieval-Augmented Generation检索增强生成是一种将信息检索与大型语言模型LLM生成能力相结合的技术框架。其核心思想是在 LLM 生成答案之前先从外部知识库如文档、数据库、网页中检索出与用户问题最相关的信息片段然后将这些信息作为上下文提供给 LLM从而生成更准确、更可信、更具时效性的回答。与传统仅依赖模型内部知识的生成方式相比RAG 能够有效解决 LLM 的“幻觉”问题、知识更新滞后问题以及特定领域知识不足的问题。2. RAG 的核心工作流程一个典型的 RAG 系统通常包含以下三个核心步骤索引Indexing将原始文档如 PDF、Word、网页进行预处理包括文本提取、清洗、分割Chunking然后通过嵌入模型Embedding Model将文本块转换为向量Vector最后存储到向量数据库Vector Database中。检索Retrieval当用户提出查询Query时系统同样使用嵌入模型将查询转换为向量然后在向量数据库中进行相似度搜索如余弦相似度找出与查询最相关的若干个文本块Chunks。生成Generation将检索到的相关文本块与用户的原始查询一起组合成一个精心设计的提示词Prompt输入给 LLM。LLM 基于提供的上下文信息生成最终的回答。3. RAG 的技术架构与关键组件3.1 文档加载与切分Document Loader Splitter这是构建知识库的第一步。需要根据文档格式PDF、HTML、Markdown 等选择合适的加载器。切分策略至关重要直接影响检索质量。常见的策略有固定长度重叠切分按固定字符数如 500切分并设置重叠如 50保证语义连续性。递归字符切分按段落、句子等语义边界递归切分。语义切分利用模型判断语义边界进行切分效果更好但成本更高。3.2 向量化与嵌入模型Embedding Model嵌入模型负责将文本转换为高维向量。模型的选择直接影响检索的准确性。常用的有 OpenAI 的 text-embedding-ada-002、开源模型如 BGE、Sentence Transformers 等。选择时需权衡效果、速度和成本。3.3 向量数据库Vector Database用于高效存储和检索向量。它支持近似最近邻ANN搜索能在海量数据中快速找到相似向量。主流选择包括Pinecone全托管服务简单易用。Chroma轻量级易于本地部署。Weaviate功能丰富支持混合搜索。Milvus高性能适合大规模生产环境。QdrantRust 编写性能优异。3.4 大语言模型LLM负责最终的答案生成。可以是云端 API如 GPT-4、Claude或本地部署的开源模型如 Llama 3、Qwen。其任务是理解“查询检索上下文”并生成连贯、准确的答案。3.5 提示工程Prompt Engineering连接检索与生成的桥梁。一个典型的 RAG 提示词模板如下请根据以下提供的上下文信息来回答问题。如果上下文信息不足以回答问题请直接说“根据已知信息无法回答此问题”不要编造答案。 上下文信息 {context} 问题{question} 请基于上下文信息回答4. RAG 的优势与挑战4.1 核心优势减少幻觉答案基于检索到的真实信息而非模型臆想。知识可更新只需更新向量数据库即可让系统获取最新知识无需重新训练昂贵的大模型。来源可追溯答案可附带引用来源检索到的文档块增强可信度。成本效益利用相对便宜的检索模块扩展昂贵大模型的知识边界。领域适应性强可快速为法律、医疗、金融等专业领域构建智能问答系统。4.2 面临的主要挑战检索质量检索不到或检索到不相关的内容会直接导致生成错误答案。上下文窗口限制检索到的内容过多可能超出 LLM 的上下文长度。多跳推理对于需要串联多个文档才能回答的复杂问题基础 RAG 表现不佳。上下文压缩与重排序如何从大量检索结果中筛选出最核心的信息给 LLM。5. 进阶 RAG 技术与优化策略为了应对上述挑战业界发展出许多优化技术查询转换Query Transformation对原始查询进行改写、扩展或分解以提升检索效果。重排序Re-ranking使用更精细的交叉编码器模型对初步检索结果进行重排提升 Top-K 结果的相关性。上下文压缩Context Compression提取检索文档中的关键句子或摘要减少无关信息输入。多向量检索Multi-Vector Retrieval为每个文档块生成多个向量如摘要、问题、标题从不同角度检索。递归检索Recursive Retrieval与图检索Graph Retrieval用于解决多跳复杂问题。自我反思Self-Reflection与检索验证Retrieval Validation让 LLM 判断检索结果是否足够回答当前问题若不够则触发新一轮检索。6. 动手实践构建一个简单的 RAG 系统以下是一个使用 Python、LangChain 和 Chroma 构建简易 RAG 系统的代码示例# 1. 安装依赖 # pip install langchain langchain-community langchain-chroma chromadb sentence-transformers from langchain_community.document_loaders import TextLoader from langchain.text_splitter import RecursiveCharacterTextSplitter from langchain_community.embeddings import HuggingFaceEmbeddings from langchain_community.vectorstores import Chroma from langchain.chains import RetrievalQA from langchain_community.llms import Ollama # 假设使用本地 Ollama 运行的 Llama 3 2. 加载并切分文档 loader TextLoader(knowledge.txt) documents loader.load() text_splitter RecursiveCharacterTextSplitter( chunk_size500, chunk_overlap50, separators[\n\n, \n, 。, , , ] ) chunks text_splitter.split_documents(documents) 3. 创建向量存储 embeddings HuggingFaceEmbeddings(model_nameBAAI/bge-small-zh-v1.5) vectorstore Chroma.from_documents(documentschunks, embeddingembeddings, persist_directory./chroma_db) 4. 创建检索器 retriever vectorstore.as_retriever(search_kwargs{k: 3}) 5. 创建 LLM 和 QA 链 llm Ollama(modelllama3) qa_chain RetrievalQA.from_chain_type( llmllm, chain_typestuff, # 简单地将所有检索到的上下文塞进提示词 retrieverretriever, return_source_documentsTrue ) 6. 提问 question RAG 的核心步骤是什么 result qa_chain.invoke({query: question}) print(答案, result[result]) print(\n来源) for doc in result[source_documents]: print(f- {doc.page_content[:200]}...)7. 总结与展望RAG 已成为构建可信、可追溯、知识可更新 AI 应用的主流范式。它巧妙地将传统信息检索的精确性与大语言模型的强大生成能力相结合。随着向量数据库、嵌入模型和提示工程技术的不断进步RAG 系统正变得更加高效、智能和可靠。未来RAG 可能会与智能体Agent、工作流自动化更深度地融合成为企业知识管理和智能决策的核心基础设施。对于开发者而言理解 RAG 的基本原理是第一步接下来需要根据具体业务场景在检索质量、生成效果、响应速度和成本之间找到最佳平衡点。