01-从第一性原理理解RAG-企业知识库为什么不能只依赖大模型
从第一性原理理解 RAG为什么企业知识库不能只依赖大模型系列从零构建企业 RAG 知识库第 1 篇1. 先拆开企业问答的真实需求企业并不是只需要一段“像答案的话”而是需要答案基于组织允许访问的资料资料更新后不必重新训练整个模型回答能说明来自哪份文档没有证据时拒绝猜测不同用户只能看到自己有权访问的数据。大模型的核心能力是根据输入 Token 和训练中学到的统计规律预测后续 Token。模型参数不是企业数据库也不会自动知道刚更新的制度更不能天然理解当前登录用户的数据权限。2. RAG 的第一性结构RAGRetrieval-Augmented Generation检索增强生成把任务拆成两个阶段Retrieval从外部知识中找出与问题相关、且用户有权访问的证据 Generation把问题和证据交给模型生成受证据约束的回答因此RAG 不是某个产品名称也不等于“向量数据库”。只要系统在生成之前检索外部资料并把结果用于约束回答就具备 RAG 的基本结构。3. 最小数据模型fromdataclassesimportdataclassdataclass(frozenTrue)classChunk:可检索的最小证据单元。chunk_id:strdocument_id:strtenant_id:strtext:strsource_title:strdataclass(frozenTrue)classSearchContext:权限信息必须来自可信登录会话。tenant_id:strallowed_document_ids:frozenset[str]tenant_id和allowed_document_ids不能由模型填写也不能从用户问题中推断。4. 先用确定性检索理解闭环下面不是生产级搜索而是一个可运行的关键词重合检索器。它帮助我们看清必须先过滤权限再计算相关性。importredefterms(text:str)-set[str]:教学分词提取英文单词、数字和连续中文字符。returnset(re.findall(r[A-Za-z0-9_]|[\u4e00-\u9fff],text.lower()))defretrieve(question:str,chunks:list[Chunk],context:SearchContext,top_k:int3,)-list[Chunk]:ifnotquestion.strip():raiseValueError(问题不能为空)ifnot1top_k20:raiseValueError(top_k 必须在 1 到 20 之间)query_termsterms(question)scored:list[tuple[int,str,Chunk]][]forchunkinchunks:# 权限过滤必须发生在候选进入结果之前ifchunk.tenant_id!context.tenant_id:continueifchunk.document_idnotincontext.allowed_document_ids:continuescorelen(query_termsterms(chunk.text))ifscore0:# chunk_id 作为稳定排序键保证测试结果可复现scored.append((-score,chunk.chunk_id,chunk))scored.sort()return[item[2]foriteminscored[:top_k]]5. 没有证据时必须拒答defbuild_grounded_prompt(question:str,evidence:list[Chunk])-str:ifnotevidence:return现有授权资料中没有足够证据请不要猜测。context_text\n\n.join(f[{item.chunk_id}] 来源{item.source_title}\n{item.text}foriteminevidence)returnf 你是企业知识库助手。 只能根据 evidence 回答不得使用无法从证据确认的事实。 回答中的关键结论必须引用对应 chunk_id。 证据冲突时说明冲突证据不足时回答“现有资料无法确认”。 evidence{context_text}/evidence question{question.strip()}/question .strip()Prompt 约束不能保证模型永远不幻觉最终还需要输出校验、评测和人工审核。6. 可复验测试deftest_permission_filter_happens_before_retrieval()-None:chunks[Chunk(c1,d1,tenant-a,退款期限为七天,A 租户制度),Chunk(c2,d2,tenant-b,退款期限为三十天,B 租户制度),]contextSearchContext(tenant-a,frozenset({d1}))resultretrieve(退款期限,chunks,context)assert[item.chunk_idforiteminresult][c1]assert三十天notinbuild_grounded_prompt(退款期限,result)deftest_no_evidence_refuses_to_guess()-None:promptbuild_grounded_prompt(董事长手机号是什么,[])assert不要猜测inprompt7. RAG 能解决什么不能解决什么RAG 能改善私有知识接入知识更新速度回答溯源一部分事实性幻觉查询前的数据权限过滤。RAG 不能自动保证检索一定召回正确文档文档本身没有错误或冲突模型一定忠实使用证据用户一定有权查看检索结果所有问题都适合用知识库回答。8. 对抗性审查文档内容同样是不可信数据可能包含 Prompt Injection权限过滤应在检索阶段完成不能生成后再删除不把整个企业文档库塞进上下文证据必须保留文档、页码或段落等来源元数据知识更新后要使旧索引和缓存失效高风险答案需要人工确认。9. 总结RAG 的本质不是“给大模型加数据库”而是把知识事实从模型参数中分离出来检索系统负责找到授权证据生成模型负责基于证据表达。企业知识库的可靠性来自两部分共同受控。

相关新闻

Java工厂模式深度解析:从简单工厂到抽象工厂的实战应用

Java工厂模式深度解析:从简单工厂到抽象工厂的实战应用

1. 项目概述:为什么我们需要工厂模式? 干了这么多年Java开发,每次带新人或者面试的时候,聊到设计模式,工厂模式总是绕不开的话题。它不像单例模式那样简单直接,也不像策略模式那样充满“智慧”,…

2026/11/2 23:30:51 阅读更多 →
抖音直播数据采集技术深度解析:DouyinLiveWebFetcher架构设计与实现方案

抖音直播数据采集技术深度解析:DouyinLiveWebFetcher架构设计与实现方案

抖音直播数据采集技术深度解析:DouyinLiveWebFetcher架构设计与实现方案 【免费下载链接】DouyinLiveWebFetcher 抖音直播间网页版的弹幕数据抓取(2025最新版本) 项目地址: https://gitcode.com/gh_mirrors/do/DouyinLiveWebFetcher 抖…

2026/11/2 23:24:07 阅读更多 →
Java远程调试实战:JDWP协议原理、IDEA配置与生产环境安全指南

Java远程调试实战:JDWP协议原理、IDEA配置与生产环境安全指南

1. 项目概述:为什么我们需要远程Debug? 想象一下这个场景:你负责维护的一个核心Java服务,在测试环境跑得好好的,一上线到生产服务器就间歇性报错,日志里只有一句模糊的“NullPointerException”&#xff0c…

2026/11/3 12:14:20 阅读更多 →

最新新闻

Electron桌面应用开发实战:从环境搭建到打包发布全流程

Electron桌面应用开发实战:从环境搭建到打包发布全流程

做前端这些年,我大部分时间都在跟浏览器标签页打交道,直到第一次把桌面应用跑起来,才发现原来自己一直被限制在地址栏和刷新按钮围起来的框框里。Electron这个词,最开始是在某段时间频繁出现在同事的讨论里,一个用HTML…

2026/11/4 1:35:24 阅读更多 →
滑盖智能锁T109深度解析:结构原理、安装调试与故障排查

滑盖智能锁T109深度解析:结构原理、安装调试与故障排查

简介:亚太天能T109滑盖智能锁产品说明书是一份PDF格式的官方技术文档,主要面向智能锁安装人员、终端用户及售后维护者,帮助快速掌握产品安装、配置与常见故障处理。全包仅1个PDF文件,大小4.37MB,内容结构清晰&#xff…

2026/11/3 10:57:27 阅读更多 →
PMSM弱磁控制原理与Simulink建模:高速AGV驱动系统设计指南

PMSM弱磁控制原理与Simulink建模:高速AGV驱动系统设计指南

上个月我在调试一台高速AGV的驱动系统,整车要求空载跑到8m/s,电机转速已经拉到额定点,驱动器的输出电压也顶到了母线电压极限附近。再往上踩速度指令,转速纹丝不动,三相电流反而开始震荡。那会儿我的第一反应就是&…

2026/11/3 11:35:49 阅读更多 →
C++核心知识点:从内存管理到STL的实战指南

C++核心知识点:从内存管理到STL的实战指南

C 这门语言我前前后后折腾了十几年,用它写过嵌入式驱动、做过游戏服务端,也搭过基础组件库。每次看到新人一头扎进"C 核心知识点"这个搜索词,我其实挺感慨的——这门语言的难点从来不是语法多,而是知识点之间的耦合太深…

2026/11/4 6:23:50 阅读更多 →
T109滑盖智能锁怎么装?安装调试与故障排查全攻略

T109滑盖智能锁怎么装?安装调试与故障排查全攻略

简介:亚太天能T109滑盖智能锁产品说明书以PDF格式发布,适合智能锁用户、安装人员与售后维修人员阅读。内容围绕T109系列指纹密码刷卡锁展开,先介绍前面板、后面板、锁体、机械钥匙、电池盒盖等部件名称与功能,再给出完整安装步骤&…

2026/11/3 10:47:27 阅读更多 →
LLM知识降熵:从信息垄断到理解权下放

LLM知识降熵:从信息垄断到理解权下放

你有没有过这种经历:翻开源码注释、论文摘要或者一份专业报告,每个字都认识,连在一起却像天书。想找人聊聊,身边要么没人懂,要么懂的懒得跟你解释。后来我试着把同一段内容丢给一个大语言模型,几秒钟之后&a…

2026/11/3 10:57:33 阅读更多 →

日新闻

周新闻

月新闻