Day 012|Embedding 和向量数据库:知识库检索到底在检什么
系列100 天系统学习 AI Agent 开发当前阶段RAG、知识库与工具边界今日目标Embedding 把文本映射到向量空间向量检索用相似度找出最相关的片段。搜到“意思差不多”离答对还很远关键词搜索擅长找相同字词。用户问“Agent 断线后怎么接着跑”资料里写的是“checkpoint 支持恢复执行”两边没有完全相同的表达关键词可能错过。Embedding 的用处是把文本编码成一组数字让语义接近的文本在向量空间里更靠近。但“靠近”只是统计意义上的相似不代表事实正确更不代表片段足以回答问题。部署文档和卸载文档会共享大量词旧版本与新版本也可能非常相似。向量检索解决的是候选召回不是最终判断。从文本到候选片段文档片段Embedding 模型向量 原文 metadata用户问题同一 Embedding 模型查询向量相似度搜索过滤/重排后的 Top K交给模型基于证据回答向量数据库实际保存的不应只有向量。至少还要有原始文本、chunk_id、来源、版本、权限和更新时间。否则即使搜到了也无法引用、过滤或删除。常见相似度可以直观理解为“方向是否接近”。下面只是数学演示不负责生成真实 Embeddingfrommathimportsqrtdefcosine_similarity(a:list[float],b:list[float])-float:iflen(a)!len(b)ornota:raiseValueError(向量维度必须相同且不能为空)dotsum(x*yforx,yinzip(a,b))norm_asqrt(sum(x*xforxina))norm_bsqrt(sum(y*yforyinb))ifnorm_a0ornorm_b0:raiseValueError(零向量没有可用方向)returndot/(norm_a*norm_b)真实系统必须使用同一套、同一版本的 Embedding 生成文档向量和查询向量。更换模型后直接混用旧索引维度可能不同即便维度碰巧相同空间含义也不保证一致通常需要重建索引或维护明确的索引版本。五段学习笔记怎么准备chunk_id笔记主题关键词是否独立成块理由d006-loopAgent Loop 与最大轮数loop、停止条件、observation是能独立回答循环控制d007-retry可重试错误与幂等timeout、retry、idempotency是与参数缺失策略不同d007-input缺参数时如何追问missing field、ask user是不应和自动重试混为一谈d008-memory短期/长期记忆scope、TTL、source是有完整的概念边界d009-cliCLI 与安全计算器router、allowlist、trace可按标题再拆代码和设计理由检索意图不同这里我会保留标题路径例如“Day 007 错误分类 需要补充”而不是只存正文。很多短片段脱离标题后会失去“它在讨论什么”的信息。向量、关键词还是混合检索查询特点更合适的起点精确错误码、函数名、订单号关键词/倒排检索同义表达、自然语言问题向量检索既有专有名词又有语义描述混合检索强版本或权限约束先做 metadata 过滤再检索只用向量检索的一个典型反例是错误码。“E_CONN_1042”几乎不需要语义联想精确匹配更可靠。工程上经常把关键词和向量候选合并再用规则或重排模型排序。我会怎样比较而不是凭感觉准备五个问题为每题预先标注应命中的 chunk_id再记录 Top 1、Top 3 是否包含目标{query:网络超时可以自动重试吗,expected_chunk_ids:[d007-retry],retrieved_chunk_ids:[],hit_at_1:null,hit_at_3:null,notes:真实运行后填写}列表保留空值是为了明确本文没有运行向量模型。之后改变 chunk 大小、Embedding 模型或过滤条件时用同一批问题复跑才知道提升发生在哪里。今天留下的判断Embedding 像一张语义地图向量数据库像管理这张地图的检索系统它们都不是事实裁判。真正可靠的 RAG 还需要切分、元数据、过滤、重排、引用和拒答。下一篇研究 Chunking正是因为“地图上的一个点代表多大一段文本”会直接影响能否找对。面试官会追问换一个 Embedding 模型怎么证明更好不能只看某个问题“搜得更像”。同一批查询要固定语料、切分和 top-k比较 Recallk、MRR、索引体积、构建时间与单次检索延迟中文、英文、代码和缩写查询还要分桶统计。向量维度更大可能提升表达能力也会增加存储、内存和 ANN 搜索成本。我会准备三类难例同义改写、精确编号、跨语言表达。若向量检索擅长同义改写但漏掉产品编号就用 BM25 与向量检索做混合召回而不是逼一个 Embedding 模型同时解决全部问题。面试时最重要的一句是Embedding 选型是检索系统实验不是模型排行榜抄答案判断标准来自自己的语料和查询分布。今日检查清单文档向量和查询向量来自同一模型版本每个向量能追溯到原文、来源、版本和权限精确标识符没有强行只走语义检索用预标注问题计算命中不用一条漂亮回答下结论更换 Embedding 模型时有索引迁移或重建计划

相关新闻

PhotoGIMP:让GIMP拥有Photoshop操作体验的完整配置指南

PhotoGIMP:让GIMP拥有Photoshop操作体验的完整配置指南

对于从 Adobe Photoshop 转向开源图像编辑的用户来说,最大的挑战往往不是功能差异,而是界面布局和操作习惯的断层。PhotoGIMP 正是为了解决这一痛点而生——它不是一个独立软件,而是一个针对 GIMP 3.0 的配置补丁,通过重新组织工具…

2026/10/18 3:52:43 阅读更多 →
Python常用模块全解析:从数据处理到Web开发

Python常用模块全解析:从数据处理到Web开发

1. Python常用模块概述作为一名Python开发者,掌握常用模块是提升开发效率的关键。Python标准库和第三方模块为我们提供了丰富的工具集,涵盖了从基础数据处理到高级机器学习等各个领域。在实际项目中,合理选择和使用这些模块可以避免重复造轮子…

2026/10/18 3:52:54 阅读更多 →
Steam创意工坊跨平台下载解决方案:WorkshopDL使用深度指南

Steam创意工坊跨平台下载解决方案:WorkshopDL使用深度指南

Steam创意工坊跨平台下载解决方案:WorkshopDL使用深度指南 【免费下载链接】WorkshopDL WorkshopDL - The Best Steam Workshop Downloader 项目地址: https://gitcode.com/gh_mirrors/wo/WorkshopDL 你是否曾在其他平台购买游戏,却发现最精彩的模…

2026/10/17 21:42:22 阅读更多 →

最新新闻

OpenRT实战:多模态大模型红队安全评估从入门到落地

OpenRT实战:多模态大模型红队安全评估从入门到落地

如果你最近在盯多模态大模型的安全测评,大概已经听过OpenRT这个名字——一个开源的LLM红队框架,主打对多模态模型做系统化的健壮性评估。前阵子我正好把它用在一个客服问答系统的上线前检查里,发现很多人对它的理解还停留在“又一个提权工具”…

2026/10/18 10:48:51 阅读更多 →
Oracle 12c Windows补丁升级避坑指南:OPatch版本、JDK兼容与路径陷阱

Oracle 12c Windows补丁升级避坑指南:OPatch版本、JDK兼容与路径陷阱

简介:本资源是专为Windows平台Oracle 12c数据库环境定制的OPatch补丁管理工具集,面向DBA、运维工程师及数据库开发人员,用于安全、高效地应用Oracle官方补丁(如PSU、BP、One-Off等),解决补丁部署失败、OPat…

2026/10/18 10:48:51 阅读更多 →
ODAC122010Xcopy-x64.zip:.NET Framework 4.x 免注册 Oracle 数据访问方案

ODAC122010Xcopy-x64.zip:.NET Framework 4.x 免注册 Oracle 数据访问方案

简介:本资源是Oracle官方ODAC(Oracle Data Access Components)12.2.0.1.0版本的64位完整离线安装包,专为Windows平台下.NET开发者设计,适用于ASP.NET Web应用、桌面程序及企业级事务系统开发,解决.NET项目连…

2026/10/18 10:48:51 阅读更多 →
OPC UA Python客户端实战:Linux边缘设备稳定连接PLC指南

OPC UA Python客户端实战:Linux边缘设备稳定连接PLC指南

简介:本资源为一套经过实际测试验证的OPC UA客户端完整实现工程,面向工业自动化领域开发者、物联网系统集成工程师及学习工业通信协议的中高级技术人员,解决OPC UA客户端开发入门难、安全连接配置复杂、服务调用逻辑不清晰等实践痛点。压缩包…

2026/10/18 10:48:51 阅读更多 →
Java Swing黄金矿工实战:抛物线动画与双缓冲渲染

Java Swing黄金矿工实战:抛物线动画与双缓冲渲染

简介:本资源是基于Java语言实现的经典休闲游戏《黄金矿工》的完整可运行项目,面向Java初学者与GUI编程进阶学习者,帮助掌握面向对象设计、Swing图形界面开发、事件驱动机制及基础游戏逻辑实现等核心能力。压缩包共30个文件,包含6个…

2026/10/18 10:48:51 阅读更多 →
PFA算法:基于正交投影一致性的多模态特征空间隐式对齐

PFA算法:基于正交投影一致性的多模态特征空间隐式对齐

简介:本资源为数据挖掘领域Pattern Fusion(PFA)算法的完整实践套件,面向算法研究者、R/ MATLAB开发者及高年级本科生或研究生,聚焦于大规模频繁模式的精炼提取与融合优化问题。资源共23个文件,涵盖9个txt&a…

2026/10/18 10:47:51 阅读更多 →

日新闻

基于GMM的语音识别系统原理与MATLAB实现详解

基于GMM的语音识别系统原理与MATLAB实现详解

说到基于高斯混合模型(GMM)的语音识别系统,很多人第一反应就是一堆数学公式,觉得门槛很高。但如果你真的在MATLAB里把它落地跑通,会发现核心其实就是三件事:把声音变成特征向量,用GMM给每个类别…

2026/10/18 0:00:55 阅读更多 →
数字图像处理入门:反白、灰度化、调色板修改与导出txt实践

数字图像处理入门:反白、灰度化、调色板修改与导出txt实践

数字图像处理这四个字听起来挺唬人,但落到具体操作上,无非就是让计算机按你的想法“摆弄”像素。我在一个模拟项目X里用了一套特别经典的基础处理流程:对图像做反白、改调色板、彩色转灰度,最后把像素数据导出成txt文件。单看每一…

2026/10/18 0:00:55 阅读更多 →
机器人大脑技术盘点:具身智能的感知、决策与数据闭环

机器人大脑技术盘点:具身智能的感知、决策与数据闭环

如果你的信息流最近也天天刷到“机器人大脑”这个词,你会发现一个很有意思的现象:每个人说的“大脑”根本不是同一个东西。有人指的是大语言模型,有人指的是运动控制系统,还有人指的是能理解物理世界的端到端模型。在2026年这个时…

2026/10/18 0:00:55 阅读更多 →

周新闻

基于GMM的语音识别系统原理与MATLAB实现详解

基于GMM的语音识别系统原理与MATLAB实现详解

说到基于高斯混合模型(GMM)的语音识别系统,很多人第一反应就是一堆数学公式,觉得门槛很高。但如果你真的在MATLAB里把它落地跑通,会发现核心其实就是三件事:把声音变成特征向量,用GMM给每个类别…

2026/10/18 0:00:55 阅读更多 →
数字图像处理入门:反白、灰度化、调色板修改与导出txt实践

数字图像处理入门:反白、灰度化、调色板修改与导出txt实践

数字图像处理这四个字听起来挺唬人,但落到具体操作上,无非就是让计算机按你的想法“摆弄”像素。我在一个模拟项目X里用了一套特别经典的基础处理流程:对图像做反白、改调色板、彩色转灰度,最后把像素数据导出成txt文件。单看每一…

2026/10/18 0:00:55 阅读更多 →
机器人大脑技术盘点:具身智能的感知、决策与数据闭环

机器人大脑技术盘点:具身智能的感知、决策与数据闭环

如果你的信息流最近也天天刷到“机器人大脑”这个词,你会发现一个很有意思的现象:每个人说的“大脑”根本不是同一个东西。有人指的是大语言模型,有人指的是运动控制系统,还有人指的是能理解物理世界的端到端模型。在2026年这个时…

2026/10/18 0:00:55 阅读更多 →

月新闻

我发现了一个新思路:用 Remotion + Claude Code 像写代码一样自动化生成短视频

我发现了一个新思路:用 Remotion + Claude Code 像写代码一样自动化生成短视频

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/18 0:55:02 阅读更多 →
Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式:TaoToken 统一 Key 配置与验证

Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式:TaoToken 统一 Key 配置与验证

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/17 17:22:31 阅读更多 →
黑夜航拍船只数据集训练YOLOV5模型全流程解析

黑夜航拍船只数据集训练YOLOV5模型全流程解析

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/16 14:23:36 阅读更多 →