Day 012|Embedding 和向量数据库:知识库检索到底在检什么
系列100 天系统学习 AI Agent 开发当前阶段RAG、知识库与工具边界今日目标Embedding 把文本映射到向量空间向量检索用相似度找出最相关的片段。搜到“意思差不多”离答对还很远关键词搜索擅长找相同字词。用户问“Agent 断线后怎么接着跑”资料里写的是“checkpoint 支持恢复执行”两边没有完全相同的表达关键词可能错过。Embedding 的用处是把文本编码成一组数字让语义接近的文本在向量空间里更靠近。但“靠近”只是统计意义上的相似不代表事实正确更不代表片段足以回答问题。部署文档和卸载文档会共享大量词旧版本与新版本也可能非常相似。向量检索解决的是候选召回不是最终判断。从文本到候选片段文档片段Embedding 模型向量 原文 metadata用户问题同一 Embedding 模型查询向量相似度搜索过滤/重排后的 Top K交给模型基于证据回答向量数据库实际保存的不应只有向量。至少还要有原始文本、chunk_id、来源、版本、权限和更新时间。否则即使搜到了也无法引用、过滤或删除。常见相似度可以直观理解为“方向是否接近”。下面只是数学演示不负责生成真实 Embeddingfrommathimportsqrtdefcosine_similarity(a:list[float],b:list[float])-float:iflen(a)!len(b)ornota:raiseValueError(向量维度必须相同且不能为空)dotsum(x*yforx,yinzip(a,b))norm_asqrt(sum(x*xforxina))norm_bsqrt(sum(y*yforyinb))ifnorm_a0ornorm_b0:raiseValueError(零向量没有可用方向)returndot/(norm_a*norm_b)真实系统必须使用同一套、同一版本的 Embedding 生成文档向量和查询向量。更换模型后直接混用旧索引维度可能不同即便维度碰巧相同空间含义也不保证一致通常需要重建索引或维护明确的索引版本。五段学习笔记怎么准备chunk_id笔记主题关键词是否独立成块理由d006-loopAgent Loop 与最大轮数loop、停止条件、observation是能独立回答循环控制d007-retry可重试错误与幂等timeout、retry、idempotency是与参数缺失策略不同d007-input缺参数时如何追问missing field、ask user是不应和自动重试混为一谈d008-memory短期/长期记忆scope、TTL、source是有完整的概念边界d009-cliCLI 与安全计算器router、allowlist、trace可按标题再拆代码和设计理由检索意图不同这里我会保留标题路径例如“Day 007 错误分类 需要补充”而不是只存正文。很多短片段脱离标题后会失去“它在讨论什么”的信息。向量、关键词还是混合检索查询特点更合适的起点精确错误码、函数名、订单号关键词/倒排检索同义表达、自然语言问题向量检索既有专有名词又有语义描述混合检索强版本或权限约束先做 metadata 过滤再检索只用向量检索的一个典型反例是错误码。“E_CONN_1042”几乎不需要语义联想精确匹配更可靠。工程上经常把关键词和向量候选合并再用规则或重排模型排序。我会怎样比较而不是凭感觉准备五个问题为每题预先标注应命中的 chunk_id再记录 Top 1、Top 3 是否包含目标{query:网络超时可以自动重试吗,expected_chunk_ids:[d007-retry],retrieved_chunk_ids:[],hit_at_1:null,hit_at_3:null,notes:真实运行后填写}列表保留空值是为了明确本文没有运行向量模型。之后改变 chunk 大小、Embedding 模型或过滤条件时用同一批问题复跑才知道提升发生在哪里。今天留下的判断Embedding 像一张语义地图向量数据库像管理这张地图的检索系统它们都不是事实裁判。真正可靠的 RAG 还需要切分、元数据、过滤、重排、引用和拒答。下一篇研究 Chunking正是因为“地图上的一个点代表多大一段文本”会直接影响能否找对。面试官会追问换一个 Embedding 模型怎么证明更好不能只看某个问题“搜得更像”。同一批查询要固定语料、切分和 top-k比较 Recallk、MRR、索引体积、构建时间与单次检索延迟中文、英文、代码和缩写查询还要分桶统计。向量维度更大可能提升表达能力也会增加存储、内存和 ANN 搜索成本。我会准备三类难例同义改写、精确编号、跨语言表达。若向量检索擅长同义改写但漏掉产品编号就用 BM25 与向量检索做混合召回而不是逼一个 Embedding 模型同时解决全部问题。面试时最重要的一句是Embedding 选型是检索系统实验不是模型排行榜抄答案判断标准来自自己的语料和查询分布。今日检查清单文档向量和查询向量来自同一模型版本每个向量能追溯到原文、来源、版本和权限精确标识符没有强行只走语义检索用预标注问题计算命中不用一条漂亮回答下结论更换 Embedding 模型时有索引迁移或重建计划

相关新闻

PhotoGIMP:让GIMP拥有Photoshop操作体验的完整配置指南

PhotoGIMP:让GIMP拥有Photoshop操作体验的完整配置指南

对于从 Adobe Photoshop 转向开源图像编辑的用户来说,最大的挑战往往不是功能差异,而是界面布局和操作习惯的断层。PhotoGIMP 正是为了解决这一痛点而生——它不是一个独立软件,而是一个针对 GIMP 3.0 的配置补丁,通过重新组织工具…

2026/7/30 2:50:49 阅读更多 →
Python常用模块全解析:从数据处理到Web开发

Python常用模块全解析:从数据处理到Web开发

1. Python常用模块概述作为一名Python开发者,掌握常用模块是提升开发效率的关键。Python标准库和第三方模块为我们提供了丰富的工具集,涵盖了从基础数据处理到高级机器学习等各个领域。在实际项目中,合理选择和使用这些模块可以避免重复造轮子…

2026/7/26 19:18:56 阅读更多 →
Steam创意工坊跨平台下载解决方案:WorkshopDL使用深度指南

Steam创意工坊跨平台下载解决方案:WorkshopDL使用深度指南

Steam创意工坊跨平台下载解决方案:WorkshopDL使用深度指南 【免费下载链接】WorkshopDL WorkshopDL - The Best Steam Workshop Downloader 项目地址: https://gitcode.com/gh_mirrors/wo/WorkshopDL 你是否曾在其他平台购买游戏,却发现最精彩的模…

2026/7/29 4:44:30 阅读更多 →

最新新闻

AI智能体技术解析:从任务规划到愿望实现的架构与实践

AI智能体技术解析:从任务规划到愿望实现的架构与实践

最近 OpenAI CEO 山姆奥特曼在一次访谈中再次语出惊人,声称"将造出实现愿望的精灵"。这句话乍听起来像是科幻电影台词,但在 AI 技术快速发展的今天,我们需要认真思考:这到底意味着什么?是营销噱头&#xff0…

2026/7/30 11:55:43 阅读更多 →
Nmap网络扫描从入门到实战:主机发现、端口扫描与安全评估指南

Nmap网络扫描从入门到实战:主机发现、端口扫描与安全评估指南

1. 项目概述:为什么你需要了解Nmap? 如果你刚接触网络安全或者系统运维,听到“Nmap”这个词可能会觉得有点神秘,甚至有点“黑客工具”的意味。但我想告诉你,Nmap远不止于此。它更像是一个网络世界的“超级手电筒”和“…

2026/7/30 11:55:43 阅读更多 →
基于模糊C均值聚类的Matlab图像颜色空间转换系统

基于模糊C均值聚类的Matlab图像颜色空间转换系统

1. 项目概述:当模糊数学遇上色彩科学在数字图像处理领域,颜色空间转换和聚类分析是两个看似独立却存在深度关联的技术方向。这个基于Matlab的GUI系统项目,巧妙地将模糊C均值聚类(FCM)算法与颜色空间转换技术相结合&…

2026/7/30 11:55:43 阅读更多 →
Flutter跨平台开发OpenHarmony理财应用实践

Flutter跨平台开发OpenHarmony理财应用实践

1. 项目概述:全平台个人理财助手的架构设计这个项目本质上是在探索一种跨平台移动开发的创新实践——使用Flutter框架构建能在OpenHarmony系统上原生运行的理财类应用。不同于常规的Flutter应用,我们需要解决两个核心矛盾:一是Flutter默认渲染…

2026/7/30 11:55:43 阅读更多 →
WebHostView技术解析:浏览器内核中的高级渲染与进程隔离

WebHostView技术解析:浏览器内核中的高级渲染与进程隔离

1. WebHostView 技术全景解析 WebHostView 是浏览器内核中实现桌面级 Web 内容渲染的核心组件,它本质上是一个高度优化的 Web 内容宿主环境。与传统 iframe 或简单 WebView 不同,WebHostView 提供了完整的浏览器运行时特性支持,包括但不限于&…

2026/7/30 11:55:43 阅读更多 →
【PC】 MuMu模拟器国际版(MuMuPlayer)V6.3.1

【PC】 MuMu模拟器国际版(MuMuPlayer)V6.3.1

【PC】 MuMu模拟器国际版(MuMuPlayer)V6.3.1 链接:https://pan.xunlei.com/s/VOygf9fGJQXIBBw3aAiAyw_AA1?pwdjbvw# 国际版MuMu模拟器,开机后主页没有一大堆广告,自带GMS,同样支持Android15

2026/7/30 11:54:43 阅读更多 →

日新闻

Windows驱动存储终极清理工具:DriverStoreExplorer完全指南

Windows驱动存储终极清理工具:DriverStoreExplorer完全指南

Windows驱动存储终极清理工具:DriverStoreExplorer完全指南 【免费下载链接】DriverStoreExplorer Driver Store Explorer 项目地址: https://gitcode.com/gh_mirrors/dr/DriverStoreExplorer 您是否曾因Windows系统盘空间不足而烦恼?是否遇到过设…

2026/7/30 0:00:13 阅读更多 →
如何3步掌握Video Download Helper:网页视频下载的完整实战指南

如何3步掌握Video Download Helper:网页视频下载的完整实战指南

如何3步掌握Video Download Helper:网页视频下载的完整实战指南 【免费下载链接】VideoDownloadHelper Chrome Extension to Help Download Video for Some Video Sites. 项目地址: https://gitcode.com/gh_mirrors/vi/VideoDownloadHelper 你是否曾经在浏览…

2026/7/30 0:00:13 阅读更多 →
“双减”后首个AI备课压力测试报告:覆盖32所中小学的176节AI辅助课,暴露4大隐性增负节点

“双减”后首个AI备课压力测试报告:覆盖32所中小学的176节AI辅助课,暴露4大隐性增负节点

更多请点击: https://intelliparadigm.com 第一章:AI 教师备课辅助 AI 教师备课辅助系统正逐步成为教育数字化转型的核心支撑工具,它并非替代教师,而是通过语义理解、知识图谱与多模态生成能力,将教师从重复性劳动中解…

2026/7/30 0:00:13 阅读更多 →

周新闻

深度学习道路桥梁裂缝检测系统 道路桥梁裂缝检测数据集 道路桥梁病害识别检测数据集

深度学习道路桥梁裂缝检测系统 道路桥梁裂缝检测数据集 道路桥梁病害识别检测数据集

深度学习道路桥梁裂缝检测系统 数据集6000张 完整源码已标注数据集训练好的模型环境配置教程程序运行说明文档,可以直接使用!系统支持图片、视频、摄像头等多种方式检测裂缝,功能强大实用。 1数据集6000张 8各类别

2026/7/29 22:18:20 阅读更多 →
深度学习YOLO模型如何训练 PUBG 绝地求生目标检测数据集

深度学习YOLO模型如何训练 PUBG 绝地求生目标检测数据集

pubg数据集 精选原图1.42万数据 1.49万标签 无任何重复、算法增强或冗余图像! pubg绝地求生目标检测数据集 1分类:e_body,14905个标签,txt格式 共计14244张图,99%为640*640尺寸图像 适合yolo目标检测、AI训练关键词&am…

2026/7/29 14:34:28 阅读更多 →
Apex英雄目标检测数据集 深度学习框架YOLO如何训练APEX数据集

Apex英雄目标检测数据集 深度学习框架YOLO如何训练APEX数据集

Apex检测数据集数据集详情检测类别: allies enemy tag图片总量:7247张训练集:5139张验证集:1425张测试集:683张标注状态:全部已标注,即拿即用数据格式:支持YOLO格式及其他格式&#…

2026/7/29 15:00:03 阅读更多 →

月新闻