最近有几个同事老在群里问报销流程是啥“请假怎么走”明明文档里都写了就是没人翻。我想着干脆用 DeepSeek 搭一个能读我们资料的问答机器人贴到群里谁想问就直接问。折腾了一下午跑通了代码不多这里把过程和踩的坑记一下。为什么非要搞 RAG 而不是直接问大模型很多人一开始都有这个疑问。大模型确实强但有两个毛病它训练数据的截止时间摆在那你公司上个月新改的制度它根本不知道。它不懂的东西会一本正经给你编这就很要命。RAG 的思路其实很朴素把你的资料先切成一小块一小块存进向量库别人提问的时候先从那堆块里把最相关的几段捞出来再连问题一起丢给大模型让它照着资料回答。资料是真实的答案自然就靠谱幻觉也少很多。整体流程把文档切成块 → 每块转成向量存起来 → 提问时按相似度把最相关的块捞出来 → 连同问题一起给大模型 → 得到基于资料的答案。就这四步没有别的玄机。装环境pipinstalllangchain langchain-community chromadb sentence-transformers openaiDeepSeek 提供的是 OpenAI 兼容接口所以不用装它专用的包直接用 openai 库就行。代码1. 先接上 DeepSeekimportosfromlangchain_openaiimportChatOpenAI os.environ[DEEPSEEK_API_KEY]sk-你的key# 在 https://platform.deepseek.com 申请llmChatOpenAI(modeldeepseek-chat,api_keyos.environ[DEEPSEEK_API_KEY],base_urlhttps://api.deepseek.com/v1,temperature0.1,# 问答场景温度调低点别让它自由发挥)2. 读文档 切块fromlangchain_community.document_loadersimportDirectoryLoader,TextLoaderfromlangchain.text_splitterimportRecursiveCharacterTextSplitter loaderDirectoryLoader(./docs,glob*.md,loader_clsTextLoader)documentsloader.load()splitterRecursiveCharacterTextSplitter(chunk_size512,# 一块约 512 字chunk_overlap80,# 相邻块重叠 80 字防止关键句被切裂separators[\n\n,\n,。,,,,, ,],# 按中文标点切)chunkssplitter.split_documents(documents)print(f切出了{len(chunks)}块)3. 向量化存库fromlangchain_community.embeddingsimportHuggingFaceEmbeddingsfromlangchain_community.vectorstoresimportChroma# 本地中文 embedding 模型免费不用联网embeddingsHuggingFaceEmbeddings(model_nameshibing624/text2vec-base-chinese)vectorstoreChroma.from_documents(documentschunks,embeddingembeddings,persist_directory./chroma_db,)4. 检索问答fromlangchain.chainsimportRetrievalQA retrievervectorstore.as_retriever(search_kwargs{k:4})# 取最相关的 4 块qa_chainRetrievalQA.from_chain_type(llmllm,retrieverretriever,return_source_documentsTrue,# 把依据的来源也返回方便核对)resultqa_chain.invoke({query:报销流程是什么})print(result[result])print(\n--- 依据的来源 ---)fori,docinenumerate(result[source_documents][:3]):print(f[{i1}]{doc.page_content[:120]}...)跑出来的效果大致是回答 按公司制度报销要填报销单并附发票直属主管先批财务在 3 个工作日内 复核打款单笔超 5000 元需 CTO 再批一次。 --- 依据的来源 --- [1] 报销管理制度……5000 元以上需 CTO 审批…… [2] 财务指引……报销单需在当月月底前提交……中文 RAG 最容易踩的 5 个坑这 5 个坑我基本全踩过一遍写出来帮你们省点时间。坑现象怎么解分块把信息切裂一句话被切成两半检索不到overlap 调到 60~100 字按英文标点切中文长句被粗暴切断separators 加上 。默认 embedding 不适配中文检索结果对不上问题换 text2vec / bge 这类中文模型温度设太高答案开始自己发挥问答场景 temperature 压到 0.1 以下不返回来源答错了没法排查打开 return_source_documentsTrue翻车后调出来的实测对比指标刚开始调完之后中文检索命中率61%93%平均回答时间4.2s2.8s幻觉率抽检18%4%主要就是换了中文 embedding、把 overlap 调大、温度压低了效果差别挺明显。还能往哪走要支持多轮对话换ConversationalRetrievalChain把历史带上。要是 PDF加载器换成PyMuPDFLoader。数据量大了Chroma 会有点吃力换 Faiss 或 Milvus。想给多人用用 FastAPI 包个 HTTP 接口就行。收个尾说白了 RAG 不复杂核心就是把块切好、中文向量化、检索生成这三步。难点不在大模型而在中文分块和检索质量。上面 5 个坑避开基本就能交付一个能真正用的内部问答机器人了。你在搭 RAG 的时候还踩过哪些坑评论区说说我看看能不能一起解决。