本文详细介绍了多轮Query改写、全文检索、向量检索、混合检索、排序算法以及基于LLM的相关性判断等大模型检索与排序的关键技术。内容涵盖了从基础概念到实际应用的多个方面包括TFIDF、BM25、BERT、向量模型、RRF融合排序、Cross-Encoder、CoIBERT等并提供了多种开源模型对比和实际应用案例。对于想要学习大模型检索与排序的程序员来说本文是一个全面且实用的参考资料。01多轮Query改写多轮Query改写怎么做多轮query改写用户提问之后结合大模型和思维链进行多轮query改写生成改写的query。分别用原始的query和改写query分别进行检索混合检索最后把结果取并集进行融合排序这两个排序都是分别针对两个不同的query进行排序排完之后再融合在一起最后合并在一起给大模型进行回答。大模型回答也有技巧依靠大模型多轮问答能力使用用户原始 query不是改写query用户原始query加历史聊天记录用户改写之后有可能改写的不对就算改写错了相当于检索内容也会有一些错误相当于用户的query加历史聊天记录大模型可以做一层过滤检索的内容有杂质大模型也能过滤这样就能提高一些容错性就算检索错了其实也可以进行解决。多轮Query改写模型的Prompt案例多轮问答优化02检索算法-全文检索rag技术实现全流程全文检索通常基于倒排索引技术。在创建索引时系统会对文本进行分词处理将文本分解为单词或词项并记录每个词项在哪些文档中出现以及出现的位置和频率等信息。文本分词定义将一段连续的文档或查询文本分解成单词、词语或有意义的单元的过程以便于索引和搜索处理。特点分词方法有规则、词典、统计和深度学习等多种方式适用于不同语言和应用场景。分词的算法第一种也是最常见的是TFIDF统计一个词在某一篇文档的频率再除以文档的数量TF。一些常见词的了你我他它的词频会很高会导致计算的词和文档的得分会很高这时就加入IDF用文档的总数除以词在文档的数量算一个 log值。如果说常见词在每篇文档都出现了相当于分子分母除完之后是等于1log10相当于TFIDF这种常见词它就会变成0IDF主要是解决那些稀有词频率又很高所以说TFIDF它的精确度相对来说比较高它能解决一些竞对关键词的问题实际上它的缺点就是语义理解会差构建成本会更高。TFIDF进行了一个进化就是常用的BM25算法这个算法经久不衰。BM25除了考虑它的词频、IDF逆文档频率之外还考虑了文档的长度。比如一篇文章有50个词分出50个词比如某个词叫“人工智能”出现了一次那它的词频是1/50。第二个文档有500个词“人工智能”出现了3次它的IDF 肯定是一样的所以我们比的是TF这时候1/50和3/500来比一定是3/500更小那就说明“人工智能”在这篇文章就不相关了吗那实际上文章长就没有优势了文章越短越有优势所以BM 25算法就是解决这样一个问题。第一BM25算法它右边TF这部分是一个非线性算法。IDF的TF就是说词频越高分数就会一直涨所以是线性的。BM 25算法这个区别就是说f(t,d)是它的一个词频k和b是它的一个超参数用词频乘以超参数。f(t,d)词频一直往上加加到一定程度之后就会饱和就不会一直是线性的。刚开始的时候词频很小的时候它属于一个线性的增长但是当增大一定程度的时候它就会饱和了就变成一个曲线了。所以BM25算法它并不是简单的计算次数当词数到一定程度的时候它就差不多就够了就不会再往上加了。不像TFIDF的词频如果越多它就会一直是线性的增加这是第一个改进。第二部分文档的长度也受影响比如文档a有50个词人工智能的概率1/50文档b是3/500这么一比它俩就不是一个数量级差了1/10了实际上用户问了一个人工智能那一定会更容易拿文档a不会拿文档b 但是用了长度的加权就是长度的归一化。上边的|d|是当前文档的长度下边avgdl这个是文档的平均长度当我文档长度大于平均长度的时候相除也就1-2之间这种所以它的值不会特别大再乘以超参数b进行平衡长文档和短文档。按公式算完之后把k1.2b0.75算完之后短文档是0.685长文档是0.615差距一下子就从刚才的10倍缩小了很多。在TF中就是长文档更因为它的词更多词频更高就导致它的命中率就更容易命中。但是BM 25算法就是说我们对这个长度进行归一化抑制了这个偏差。这是第二个改进就是对文档长度的一个优化。第三个改进是IDFIDF是要解决常见词“的了你我他”因为它太多了所以需要把它降权。如果说文档里“的了你我他”特别多那他这只是不加他的分但还有别的词在加分所以他的最差他权重全趋于0每篇文章都有“你我他”所以说他就变成0其实对常见词惩罚是不太足的但是BM25算法就考虑了这个点要对常见词进行一个惩罚。不能有那么多无关紧要的一些关键词更重要所以它这里权重就变成负(N-df(t))/df(t) 小于1log小于1就变成负数了如果它俩相等就是log10。如果它大于1那它就是大于0这里的0.5是一个为了平滑用的所以它就会对IDF进行一个常见词的惩罚。在常见词出现过多的时候这篇文章里出现过常见词太多了那它的负权重就会惩罚确保检索的结果更聚焦于有区分度的关键词。 BM25算法它的本质就是TFIDF 完了面试官问你那 TFIDF 是什么那BM25算法又对它有什么改进。第四点是灵活的参数TFIDF是固定公式它是不可以调整的而BM算法是提供了K1和 b去进行适配一般k选1.2b选0.75其实基本就是这样。现在BM25算法非常常见用TFIDF的很少这是全文检索计算相关性的一个算法。当用户进行提问query之后先进行分词分完词之后。先用倒排索引把所有文档拿回来我们需要找到跟用户提问query相关的比如TOP10的文档用query里面每个分词的词跟每个文档这些词计算BM 25算法每个文档都有一个得分之后再进行排序选择TOP10给返回来这就是全文检索的一个算法流程。开源分词模型对比如果发现全文检索不准了以它为基线去分析是TF太饱和了还是因为文档长度来进行调整参数。对全文检索BM25算法除了调参基本上没有改进的地方需要改进的就在于分词。分词的作用在这里面是说能够很好的分出业务场景跟业务场景相关的关键词能够很好区分出来。分词太细会把噪音也带进来分词太粗可能就召回不回来。如果又想把专业术语切出来又能正常分词。有两种方案第一种方案是命名实体识别专门识别这些专业术语进行命名实体识别其他正常切只把命名实体识别之外的那些句子正常切就可以了。第二种是把这一堆专业术语的词典放到分词工具里这些分词工具都支持把词典扔进去之后就可以切了按业务场景去切。比如一二百词的专业术语放到分词里面直接加载词典就可以了如果说词表太多而且这个词表还能直接靠一些硬匹配就能匹配出来把这些词直接匹配剩下的用分词工具去切就可以。宁肯切细一点也不要切粗。如果词典特别大、特别多有5万的词典5万的专业术语都扔到词典中都扔到那个结巴分词里可能会导致该切也切了不该切的它也切了所以把原来好的东西也没切出来。用分词工具先跑一遍数据集。比如有100篇文档跑一遍跑完之后分词算个最简单的TFIDF再去停用词这样就不能统计出关键词了。看下这些关键词是不是把业务场景里面的东西都包含了如果说没有包含可以把这个分词工具pass掉了。像jieba切的细全文检索不回来还有向量检索后边还有重排序可以补救切细了可以补救切粗了就补救不了了。03检索算法-向量检索BERT模型的核心设计双向Transformer架构BERT基于Transformer编码器结构通过多层自注意力机制基础版12层、大型版24层实现文本的双向上下文建模BERT能同时捕捉词汇左右两侧的语境信息句向量的提取方法[CLS]标记向量句子开头添加的特殊标记[CLS]其对应向量常作为整句的语义表示适用于分类任务。词向量池化对句子中所有词向量取平均或最大值池化Mean/Max Pooling保留全局信息。向量检索是向量空间中相应的计算先对用户的query对文档切块进行向量表示表示完就构建索引。在线的部分先进行用户的query向量表示进行检索。这里面的向量表示一般用匹配模型它是借鉴DSSM双塔思想每一个塔都是用预训练的语言模型进行表示。它这有两个塔左边一个塔是query是训练时候用用query生成的。另一个塔是document是文档的分别走Bert走完之后最后出一个向量层document也出向量最后计算相似度这是基于表示的。它的特点就是说query和document是两个独立编码比如说现在有100万篇文档query来了之后生成向量不可能把这100万篇文档重新在线计算一遍计算完了之后再一个个比较不可能所以提前把这些向量文档构建好在线的时候只需对query进行一个向量表示这样提高效率。 缺点就是在模型学习的时候没有交互它们互相之间是独立的无法充分挖掘两者信息细粒度的匹配程度。双塔一个query一个document用的是bge-m3query和document是一个模型用一个模型既可以对query生成一个向量也可以对document生成一个向量。预训练的时候有一些策略在里面所以可以解决这种非对称的情况非对称就是说query因为很短document会很长这种检索的时候会存在问题。索引构建: 全文检索用倒排索引构建到数据库向量检索是一个暴力搜索的flat还有图这种结构。计算相关性是余弦相似度用两个向量计算余弦相度也是一个经久不衰的一个方式。文本长度对向量模型的影响词序感知对向量模型的影响LLM类向量模型Qwen3-Embedding基于大模型的向量模型Qwen3的embedding区别首先它是大模型类左边这个图包括了四部分第一部分是它可以提供一些任务指令比如根据查询找相关的文档query是用户输入信息docs是文档的一些数据通过这样进行一个判断最后用EOS序列标记符进行判断生成它的向量。这跟bert类模型不一样因为bert是前面CLS或者整体的一个池化但是大模型用的是序列结束标识符EOS。因为bert类模型是only encoder所以它上来就可以直接看到双向编码所以它可以直接用CLS 开头就可以拿到它的向量而基于大模型类它是only decoder。它没有办法看到后边的所以只要生成完之后用最后一个标记符获取它的向量这是基于大模型类。训练过程分三个阶段第一个阶段是弱监督预训练用通义32B生成了1.5亿对合成文本覆盖了很多任务基本覆盖了四类任务把任务构成文本之后。先进行弱监督训练预训练是对比学习的一个预训练。我们这第一阶段就结束了。第二阶段是一个有监督的微调通过1.5亿的数据进行筛选筛选出来1200万对数据进行learning微调对一个领域的泛化这是第二阶段。第三阶段是进行模型融合采用了一种球面线性插值方式这种技术在合并的时候可以微调保存多个模型进行模型的合并可以提高鲁棒性。所以在通义三向量模型里相对来说比较复杂。训练方式比正常的BGE 会比较复杂因为BGE就相当于只拿到开源数据整理好之后进行微调。通义3的embedding有三个一个是0.6B、一个是4B、还有一个8B。Bert类与LLM类向量模型区别开源向量模型检索能力对比bce只支持512就跟切块相关。Bert类是双向编码Bert虽然解决了LSTM长尾遗忘还会存在一些信息丢失所以太长也不太好。所以建议用256到512来进行切块是有原因的跟它的向量模型有关系像bge-m3可以支持8192但实际上也不太好因为太长也会有信息丢失还会有噪声切块的时候要配合向量模型。检索的时候一边是全文检索另一边向量检索。bce和bge-m3它俩是互补的有时候可以检索回来最后相当于用三路召回一路是全文检索一路是bce召回一路是bge-m3的召回。bge-m3加上全文检索调整全文检索的分词之后就可以把bce给拿掉它的互补能力就没有了因为bce除了互补之外还存在召回一些冗余内容而且耗时较长三路耗时会长所以慢慢就把它拿掉了。前期的时候如果没有别的办法可以尝试三路召回。04混合检索来一个query先进行k近邻向量检索这是向量检索一部分。第二种是query进行分词用BM25算法检索回来。混合检索就是左边一路用向量检索右边一路用BM25算法检索最后合并一起进入排序模型最后输出一路检索内容。向量检索可以解决相近语义像bge-m3是多语种的也可以理解多模态。向量检索除了用bge中文还也可以用CLIP它的容错性强因为泛化能力强这是向量优势。全文检索优势是精准匹配比如问是 iphone 17库里全是iphone 16、iphone 15iphone 17没有实际上是检索不回来的全文检索这一路是召不回来内容的但是向量检索就可以。向量检索就可能会出现问iphone 17但把库里的iphone 16和 iphone 15拿回来存在向量检索的问题全文检索能精准的把iphone 17拿回来它还对短文本有优势。第三点倾向于低频词汇匹配可解释性强所以混合检索融合它俩的优势。混合检索可以利用全文检索和向量检索对数据查询提高检索的准确性和可行度。混合检索可以利用向量模型的多样性返回多种不同的结果它们之间互相还能补充。混合检索可以用全文检索进行排序、过滤这种复杂查询需求跟业务场景相关这是全文检索的一个情况。可解释全文检索可以用文本匹配高亮显示这是混合检索的一个优势。知识库构建流程知识库格式对比05排序算法 向量模型处理的是相似但是不相关排序模型rerank就是来解决相似不相关的。向量检索与排序模型之间的差异RRF融合排序RRF融合排序就是对两路或者多路不同的检索进行排序它不是利用每个检索的得分而是靠排名。因为全文第三指令感知这个和现在模型是一样的这也是大模型的一个特点。可以跟最新用户的指令进行一个动态调整它的排序标准。和通义的向量模型区别它就不像通义3的向量模型做了三阶段它是两阶段的第二阶段就是有监督的微调。第三阶段就是一个模型的融合相当于用同一类的数据构建了两个模型。rerank模型也有三个不同的大小一个是0.6B一个是4B还有一个是8B。通义3排序模型相当于把排序模型进行一个对话传统的就是rank、boost类的模型输入CLS query sep再加上到后面的结果最后通过CLS算一个MLP之后进行相关性得分。他算的方式相对来说快一些但它只能算相对来说比较浅层的内容。通义从关系模型做转化第一个就是任务转化对系统提示词进行一个调整只需要判断模型的任务是否从文档满足它的需求回答只需要对输出的结果是yes和no结构也有变化因为输入像大模型聊天是一样的。任务质量query document利用了大模型的理解和推理能力它像传统的rerank它用 cos去算相关性得分它预测下个词yes或 no 的概率直接进行一个相关性判别与传统的方法来对比传统是一个简单的打分器。rerank模型就像判官一样输出yes和no的概率。它不是依赖于分类头输出的抽象得分通过预测答案的yes or no的结果它最大优势就是第一它能支持像大模型一样的任务指令第二是解释性强可以根据不同的任务适配不同的检索任务。大模型可以支持长上下文语义推理能力也比较好给了相关性得分完了判别yes or no输入用户的指令、用户的查询以及他的文档最后输出结果就是它的一个得分用yes的分除以yes加no的分因为大模型输出结果的时候有多个TOKEN。主流排序模型06基于LLM相关性判断背景问题大模型遵循“Garbage in, Garbage out”原则检索阶段经常会召回无关或噪声知识不相关知识会导致回答偏差或错误解决方案Knowledge作用作为一个“检索结果质量关口”在传入大模型前进行知识过滤。原理基于自然语言推理NLI任务来判断检索到的知识是否能支持问题的回答Entailment是否与问题无关Neutral是否与问题相矛盾Contradiction实现方式使用小参数模型在NLI任务上进行微调或直接应用只保留与问题呈现“蕴含关系”的知识丢弃无关或矛盾的信息模块效果过滤后知识更精准回答基于高相关知识不再被噪声干扰答案更简洁可信避免冗余和错误用户体验提升增强系统鲁棒性即使召回到部分无关文档也能在过滤环节自动剔除可扩展性未来可以引入更多模型如BERT、DeBERTa、LLaMA或多任务联合训练进一步提升判别能力。07全链路多路召回优化多路召回结合多种召回方式语义关键词规则…→获得更全面的候选文档。 可以提升RAG检索的覆盖率与准确性应用于搜索引擎、推荐系统、智能客服等。多路召回的方式①并行召回向量Top10 BM25 Top10 → 合并去重 → 重排取TopN优势多路召回充分利用了语义与关键词两种优势互补性强能够更全面地覆盖候选文档减少单一召回策略导致的漏检问题是当前工业界最主流的做法。②RRF融合多路排序综合得分③精排模型Cross-EncoderBERT类打分更精准多路召回的优势融合信息利用语义理解关键词匹配提供更全面的检索结果。提升性能覆盖率↑漏检↓误检↓抗噪声强抗噪声能力强保证结果稳定性和可靠性。流程设计方案BM25召回向量召回→RRF初排提升融合效果→ Reranker精排Cross-Encoder→大模型生成最终答案实际应用根据具体应用场景和需求灵活调整召回策略和参数确保在应用中能够达到最佳效果。混合检索架构多模型互补关键词检索使用BM25捕获精准片段进行快速初步筛选。向量检索使用bge-m3向量检索处理复杂语义提升语义检索的全面性与精度。候选粗筛粗排序RRF倒数融合排序基于BM25与向量检索的相对排名融合去重并提高粗排效率。语义重排精排序异构内容处理表格→文本摘要图片→跨模态描述。轻量重排BGE-Reranker-v2-M3基于交叉编码器快速排序平衡速度与效果。相关性判别基于LLM相关性判别去除无关噪声。业务驱动排序策略数据混合按需配置问答对与文档切片比例更符合实际应用场景。阈值筛选基于置信度过滤确保结果相关性与质量。如何学习大模型 AI 由于新岗位的生产效率要优于被取代岗位的生产效率所以实际上整个社会的生产效率是提升的。但是具体到个人只能说是“最先掌握AI的人将会比较晚掌握AI的人有竞争优势”。这句话放在计算机、互联网、移动互联网的开局时期都是一样的道理。我在一线科技企业深耕十二载见证过太多因技术卡位而跃迁的案例。那些率先拥抱 AI 的同事早已在效率与薪资上形成代际优势我意识到有很多经验和知识值得分享给大家也可以通过我们的能力和经验解答大家在大模型的学习中的很多困惑。我们整理出这套AI 大模型突围资料包✅ 从零到一的 AI 学习路径图✅ 大模型调优实战手册附医疗/金融等大厂真实案例✅ 百度/阿里专家闭门录播课✅ 大模型当下最新行业报告✅ 真实大厂面试真题✅ 2026 最新岗位需求图谱所有资料 ⚡️ 朋友们如果有需要《AI大模型入门进阶学习资源包》下方扫码获取~① 全套AI大模型应用开发视频教程包含提示工程、RAG、LangChain、Agent、模型微调与部署、DeepSeek等技术点② 大模型系统化学习路线作为学习AI大模型技术的新手方向至关重要。 正确的学习路线可以为你节省时间少走弯路方向不对努力白费。这里我给大家准备了一份最科学最系统的学习成长路线图和学习规划带你从零基础入门到精通③ 大模型学习书籍文档学习AI大模型离不开书籍文档我精选了一系列大模型技术的书籍和学习文档电子版它们由领域内的顶尖专家撰写内容全面、深入、详尽为你学习大模型提供坚实的理论基础。④ AI大模型最新行业报告2025最新行业报告针对不同行业的现状、趋势、问题、机会等进行系统地调研和评估以了解哪些行业更适合引入大模型的技术和应用以及在哪些方面可以发挥大模型的优势。⑤ 大模型项目实战配套源码学以致用在项目实战中检验和巩固你所学到的知识同时为你找工作就业和职业发展打下坚实的基础。⑥ 大模型大厂面试真题面试不仅是技术的较量更需要充分的准备。在你已经掌握了大模型技术之后就需要开始准备面试我精心整理了一份大模型面试题库涵盖当前面试中可能遇到的各种技术问题让你在面试中游刃有余。以上资料如何领取为什么大家都在学大模型最近科技巨头英特尔宣布裁员2万人传统岗位不断缩减但AI相关技术岗疯狂扩招有3-5年经验大厂薪资就能给到50K*20薪不出1年“有AI项目经验”将成为投递简历的门槛。风口之下与其像“温水煮青蛙”一样坐等被行业淘汰不如先人一步掌握AI大模型原理应用技术项目实操经验“顺风”翻盘这些资料真的有用吗这份资料由我和鲁为民博士(北京清华大学学士和美国加州理工学院博士)共同整理现任上海殷泊信息科技CEO其创立的MoPaaS云平台获Forrester全球’强劲表现者’认证服务航天科工、国家电网等1000企业以第一作者在IEEE Transactions发表论文50篇获NASA JPL火星探测系统强化学习专利等35项中美专利。本套AI大模型课程由清华大学-加州理工双料博士、吴文俊人工智能奖得主鲁为民教授领衔研发。资料内容涵盖了从入门到进阶的各类视频教程和实战项目无论你是小白还是有些技术基础的技术人员这份资料都绝对能帮助你提升薪资待遇转行大模型岗位。以上全套大模型资料如何领取