一、多路召回与重排序工程级的检索优化要让 Agent RAG 真正好用检索质量是关键。工程实践中最有效的提升策略是多路召回 重排序。多路召回策略三种检索方式融合用户查询并行触发三路向量检索语义相似度捕捉同义表达、关键词检索 BM25精确匹配捕捉专有名词、结构化查询]SQL/元数据过滤精准条件筛选。三路结果汇入重排序器用 Cross-Encoder 精细打分输出 Top-K 高质量上下文注入 LLM。为什么需要多路召回单纯的向量检索有盲区——它对语义相似度很敏感但对精确关键词不够好。例如用户问第 3.2.5 条款的内容——向量检索可能找不到但关键词检索能精确定位用户问关于资金安全的政策——关键词检索找不到但向量检索能命中语义相关的段落三路召回各司其职向量检索捕捉语义相似性处理同义表达关键词检索BM25精确匹配处理专有名词、型号、条款编号结构化查询利用元数据时间、类别、作者精准过滤缩小检索范围重排序Reranker三路召回可能带来几十个候选文档块。重排序器的任务是从中精选出最相关的 Top-K。Bi-Encoder向量检索的核心把查询和文档分别向量化计算相似度。速度快但精度较低——因为查询和文档没有交叉注意力。Cross-Encoder重排序的核心把查询和候选文档拼接在一起让模型同时看到两者给出相关性分数。精度高得多但速度慢——只适合对少量候选做精排而不是全库检索。实际系统的标准做法向量检索/关键词检索快覆盖广→ 多路合并 → Cross-Encoder 重排精准→ Top-K 注入 LLM。二、Self-RAG让 Agent 知道自己不知道在医疗、法律、金融]等高精度要求场景幻觉是零容忍的。Self-RAG是目前最有效的幻觉抑制方案之一。它的核心创新让模型在生成过程中主动插入反思令牌评估检索结果质量和回答可靠性。Self-RAG 完整流程图五步流程1.判断是否需要检索不需要则直接生成→ 2.执行多路召回 → 3.判断检索结果是否相关不相关则重检索有循环箭头→ 4.生成附引用来源的答案 → 左侧有最终自我核查的反向路径。Self-RAG 的四个关键判断① 是否需要检索Retrieval Token不是所有问题都需要查文档。2 2 等于多少不需要检索公司的差旅报销标准才需要。模型自主判断避免不必要的检索开销。② 检索结果是否相关ISREL Token对每个检索到的文档块打分这个段落真的和问题相关吗过滤掉无关内容只保留真正有用的部分。③ 答案是否有文档支撑ISSUP Token生成答案后模型检查这句话有文档依据吗如果某个陈述没有文档支撑模型应该标注无法确认而不是硬编。④ 答案整体质量评分ISUSE Token综合评估答案的有用性——不只是准确还要完整、清晰、真正回答了用户的问题。三、RAG 管道的关键工程决策分块策略怎么选fromlangchain.text_splitterimportRecursiveCharacterTextSplitter# 递归字符分割最常用splitterRecursiveCharacterTextSplitter(chunk_size512,# 每块大小Token 数chunk_overlap50,# 重叠大小防止边界截断separators[\n\n,\n,。,,, ]# 优先按段落切)# 语义分割质量更高速度更慢fromlangchain_experimental.text_splitterimportSemanticChunkerfromlangchain_openaiimportOpenAIEmbeddings semantic_splitterSemanticChunker(embeddingsOpenAIEmbeddings(),breakpoint_threshold_typepercentile# 在语义跳变处切割)经验法则纯问答场景chunk_size512, overlap50是个好起点需要完整上下文如合同条款chunk_size1024, overlap100代码文档按函数/类边界切而不是固定大小Embedding 模型怎么选模型语言支持向量维度适用场景text-embedding-3-small多语言1536通用性价比高text-embedding-3-large多语言3072高精度要求bge-m3开源多语言1024私有部署中文优秀jina-embeddings-v3多语言1024长文档效果好关键原则确定了就不要换。一旦换模型历史索引全部失效需要重新向量化整个知识库。检索数量 K 怎么设置K 太小可能漏掉关键信息K 太大塞满上下文LLM 被无关内容干扰成本也高经验参考简单问答K3~5复杂分析K8~12使用重排序后先召回 K×3重排后取 K