LangChain 大模型应用开发实战：从提示词工程到完整应用

这里写自定义目录标题欢迎使用Markdown编辑器引言为什么需要一套工程化框架一、LangChain 到底解决了什么问题二、环境搭建与第一次模型调用2.1 安装与本地模型准备2.2 一行代码调用本地大模型三、六大核心组件精讲3.1 Prompts提示词模板3.4 Indexes文档加载与向量检索3.5 Chains链式编排3.6 Agents智能代理四、实战搭建一个带记忆的知识库问答助手五、工程化落地的几个关键建议六、总结新的改变功能快捷键合理的创建标题有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能丰富你的文章UML图表流程图FLowchart流程图导出与导入导出导入欢迎使用Markdown编辑器你好 这是你第一次使用# LangChain 大模型应用开发实战从提示词工程到完整应用引言为什么需要一套工程化框架过去两年里大模型的能力边界被不断刷新但真正让开发者头疼的从来不是模型不够聪明而是如何把模型稳定地嵌进业务系统。直接调用模型 API 只能应付单轮问答一旦涉及多轮记忆、私有知识库、工具调用、结构化输出这些真实需求裸调 API 的代码会迅速变得难以维护。LangChain 的价值恰恰在于它把调用模型这件看似简单、实则充满细节的事情抽象成了一套可组合、可复用的组件体系。它之于大语言模型类似于 Spring 之于 Java——不是替代模型而是为模型搭建工程化的脚手架。本文不打算罗列 API 文档而是沿着一条完整的实战路径讲清楚核心组件如何协同工作并给出可以直接运行的代码。一、LangChain 到底解决了什么问题在动手写代码之前先厘清它解决的核心痛点。直接调用大模型 API你会立刻撞上四堵墙知识滞后。模型的知识截止到训练数据的时间点它不知道昨天发生的新闻更不知道你公司内部的私有文档。让它回答内部制度问题它只能一本正经地编造。无状态。每次 API 调用都是全新的开始。你问它我叫什么它回答了下次再问它完全忘记。这不是模型笨而是调用机制决定的——每次请求相互独立没有状态保持。无法连接外部世界。模型只能说不能做。问它现在比特币多少钱它只能猜测让它算一道精确的算术题大概率算错。输出不稳定。同样的问题模型可能给出不同的答案且难以约束输出格式。LangChain 的应对之道是模块化组合把 AI 应用拆解成 Models、Prompts、Memory、Indexes、Chains、Agents 等独立组件每个组件职责单一再通过链式或图式编排把它们串联成完整工作流。这种设计的精妙之处在于数据流向清晰、组件职责单一——这正是优秀架构的标志。二、环境搭建与第一次模型调用2.1 安装与本地模型准备对于初学者最友好的方式是先用本地模型跑通流程避免 API 密钥和网络问题。Ollama 是目前最流行的本地模型运行工具一条命令即可拉起一个模型服务pipinstalllangchain langchain-community ollama pull qwen2.5:7b这里有一个容易混淆的概念ollama run是给人用的命令行聊天工具而 LangChain 中的ChatOllama是给程序用的接口让 Python 代码去调用本地模型。两者的调用链是Python 程序 → LangChain(ChatOllama) → Ollama 服务 → 本地模型。2.2 一行代码调用本地大模型fromlangchain_community.chat_modelsimportChatOllamafromlangchain_core.messagesimportHumanMessage llmChatOllama(modelqwen2.5:7b,temperature0.7)respllm.invoke([HumanMessage(content用一句话解释什么是大模型)])print(resp.content)temperature是控制随机性的关键参数取 0 时接近贪心解码输出几乎确定取值越高越随机、越有创造性。对于事实性问答建议调低对于创意生成可以调高。三、六大核心组件精讲3.1 Prompts提示词模板PromptTemplate 解决的是LLM 输入格式化问题支持变量替换能把零散的用户输入转化为模型可理解的标准化提示fromlangchain_core.promptsimportPromptTemplate templatePromptTemplate.from_template(你是一位{role}请用{style}的语气回答下面的问题\n{question})prompttemplate.format(role资深架构师,style简洁专业,question什么是微服务) 提示词模板的价值在于把提示词当作一等公民来管理。真实项目中提示词往往需要反复迭代如果硬编码在业务代码里每次修改都要重新发版。把提示词抽成模板文件配合版本管理是工程化的第一步。### 3.2 Models统一模型接口LangChain 通过统一的接口封装了 OpenAI、Anthropic、通义千问、DeepSeek 以及本地模型。切换模型通常只需要改一行配置业务代码几乎不用动。这种适配器模式的设计让团队可以在不同模型之间做 A/B 测试也避免被单一厂商锁定。### 3.3 Memory对话记忆记忆组件解决无状态问题。LangChain 提供了多种记忆实现ConversationBufferMemory 保存全部历史ConversationSummaryMemory 用摘要压缩历史ConversationBufferWindowMemory 只保留最近 N 轮。选择哪种记忆策略本质是在信息完整度和Token 成本之间做权衡。 pythonfromlangchain.memoryimportConversationBufferMemoryfromlangchain.chainsimportConversationChain memoryConversationBufferMemory()chainConversationChain(llmllm,memorymemory)chain.run(我叫小明)chain.run(我叫什么名字)# 能正确回答小明3.4 Indexes文档加载与向量检索Indexes 组件是 RAG 的基础负责把文档加载、切分、向量化并存入向量库。核心流程是Loader 加载文档 → TextSplitter 切分 → Embedding 向量化 → VectorStore 存储。切分策略直接影响检索质量后面会专门讨论。3.5 Chains链式编排Chain 把提示词 模型 输出解析封装成一个可复用的单元多个 Chain 可以串联成复杂流程。比如先总结文档再根据总结写周报就是典型的链式调用。链式编排适合流程相对固定的场景逻辑清晰、易于调试。3.6 Agents智能代理Agent 是 LangChain 中最灵活也最复杂的组件。它让模型具备思考-行动-观察的循环能力模型根据任务决定调用哪个工具观察工具返回结果再决定下一步。这种 ReAct 模式让应用从被动回答升级为主动完成任务。四、实战搭建一个带记忆的知识库问答助手把上面的组件串起来实现一个完整的 RAG 问答助手fromlangchain_community.document_loadersimportTextLoaderfromlangchain.text_splitterimportRecursiveCharacterTextSplitterfromlangchain_community.vectorstoresimportChromafromlangchain_community.embeddingsimportHuggingFaceEmbeddingsfromlangchain_core.promptsimportChatPromptTemplatefromlangchain_core.output_parsersimportStrOutputParser# 1. 加载并切分文档loaderTextLoader(company_policy.txt)docsloader.load()splitterRecursiveCharacterTextSplitter(chunk_size500,chunk_overlap50)chunkssplitter.split_documents(docs)# 2. 向量化并存储embeddingsHuggingFaceEmbeddings(model_nameBAAI/bge-small-zh-v1.5)vectorstoreChroma.from_documents(chunks,embeddings)retrievervectorstore.as_retriever(search_kwargs{k:4})# 3. 构建提示词promptChatPromptTemplate.from_template(请基于以下资料回答问题如果资料中没有相关信息请明确说明不知道。 资料{context} 问题{question} 回答)# 4. 组装 RAG 链fromlangchain_core.runnablesimportRunnablePassthrough chain({context:retriever,question:RunnablePassthrough()}|prompt|llm|StrOutputParser())print(chain.invoke(年假制度是怎样的))这段代码虽然只有几十行却完整覆盖了 RAG 的核心链路文档加载、切分、向量化、检索、提示词组装、生成。理解这条链路是理解所有企业级 RAG 系统的基础。五、工程化落地的几个关键建议第一提示词要版本化。把提示词模板放到独立文件配合 Git 管理每次改动都能回溯。线上出问题时能快速定位是提示词变化还是模型变化导致的。第二重视可观测性。生产环境一定要记录每次调用的输入输出、Token 消耗、延迟。LangSmith 这类工具可以可视化追踪链的执行过程对排查问题帮助极大。第三做好降级策略。模型服务可能超时、限流、返回异常。生产系统必须有超时控制、重试机制和兜底回复不能因为模型挂了整个服务就崩了。第四评估先行。不要凭感觉判断效果变好了要建立评估集用准确率、召回率、相关性等指标量化评估。没有评估体系优化就是盲人摸象。六、总结LangChain 的价值不在于它提供了多少现成组件而在于它建立了一套如何组织大模型应用的心智模型。掌握这套心智模型比记住任何 API 都重要。当你理解了组件如何组合、数据如何流动、状态如何管理你就能用任何框架、甚至不用框架构建出高质量的大模型应用。对于初学者建议的进阶路径是先用本地模型跑通基础调用再逐个掌握六大组件然后动手实现一个完整的 RAG 应用最后关注工程化问题——可观测性、评估、降级。这条路走完你就具备了独立构建生产级大模型应用的能力。Markdown编辑器所展示的欢迎页。如果你想学习如何使用Markdown编辑器, 可以仔细阅读这篇文章了解一下Markdown的基本语法知识。新的改变我们对Markdown编辑器进行了一些功能拓展与语法支持除了标准的Markdown编辑器功能我们增加了如下几点新功能帮助你用它写博客全新的界面设计将会带来全新的写作体验在创作中心设置你喜爱的代码高亮样式Markdown将代码片显示选择的高亮样式进行展示增加了图片拖拽功能你可以将本地的图片直接拖拽到编辑区域直接展示全新的KaTeX数学公式语法增加了支持甘特图的mermaid语法1功能增加了多屏幕编辑Markdown文章功能增加了焦点写作模式、预览模式、简洁写作模式、左右区域同步滚轮设置等功能功能按钮位于编辑区域与预览区域中间增加了检查列表功能。功能快捷键撤销Ctrl/CommandZ重做Ctrl/CommandY加粗Ctrl/CommandB斜体Ctrl/CommandI标题Ctrl/CommandShiftH无序列表Ctrl/CommandShiftU有序列表Ctrl/CommandShiftO检查列表Ctrl/CommandShiftC插入代码Ctrl/CommandShiftK插入链接Ctrl/CommandShiftL插入图片Ctrl/CommandShiftG查找Ctrl/CommandF替换Ctrl/CommandG合理的创建标题有助于目录的生成直接输入1次#并按下space后将生成1级标题。输入2次#并按下space后将生成2级标题。以此类推我们支持6级标题。有助于使用TOC语法后生成一个完美的目录。如何改变文本的样式强调文本强调文本加粗文本加粗文本标记文本删除文本引用文本H2O is是液体。210运算结果是 1024.插入链接与图片链接: link.图片:带尺寸的图片:居中的图片:居中并且带尺寸的图片:当然我们为了让用户更加便捷我们增加了图片拖拽功能。如何插入一段漂亮的代码片去博客设置页面选择一款你喜欢的代码片高亮样式下面展示同样高亮的代码片.// An highlighted blockvarfoobar;生成一个适合你的列表项目项目项目项目1项目2项目3计划任务完成任务创建一个表格一个简单的表格是这么创建的项目Value电脑$1600手机$12导管$1设定内容居中、居左、居右使用:---------:居中使用:----------居左使用----------:居右第一列第二列第三列第一列文本居中第二列文本居右第三列文本居左SmartyPantsSmartyPants 是一个文本转换工具主要功能是将普通的 ASCII 标点符号自动转换为更美观的印刷体标点符号。例如原始符号转换后说明引号“引号”直引号变弯引号单引号‘单引号’直单引号变弯单引号--–两个连字符变短破折号---—三个连字符变长破折号...…三个点变省略号创建一个自定义列表MarkdownText-to-HTMLconversion toolAuthorsJohnLuke如何创建一个注脚一个具有注脚的文本。2注释也是必不可少的Markdown将文本转换为HTML。KaTeX数学公式您可以使用渲染LaTeX数学表达式 KaTeX:Gamma公式展示Γ ( n ) ( n − 1 ) ! ∀ n ∈ N \Gamma(n) (n-1)!\quad\forall n\in\mathbb NΓ(n)(n−1)!∀n∈N是通过欧拉积分Γ ( z ) ∫ 0 ∞ t z − 1 e − t d t . \Gamma(z) \int_0^\infty t^{z-1}e^{-t}dt\,.Γ(z)∫0∞​tz−1e−tdt.你可以找到更多关于的信息LaTeX数学表达式here.新的甘特图功能丰富你的文章2014-01-072014-01-092014-01-112014-01-132014-01-152014-01-172014-01-192014-01-21已完成进行中计划一计划二现有任务Adding GANTT diagram functionality to mermaid关于甘特图语法参考 这儿,UML图表可以使用UML图表进行渲染例如下面产生的一个序列图王五李四张三王五李四张三李四想了很长时间, 文字太长了不适合放在一行.你好李四, 最近怎么样?你最近怎么样王五我很好谢谢!我很好谢谢!打量着王五...很好... 王五, 你怎么样?关于UML图表语法参考 这儿,流程图链接长方形圆圆角长方形菱形关于Mermaid语法参考 这儿,FLowchart流程图我们依旧会支持flowchart.js的流程图语法Created with Raphaël 2.3.0开始我的操作确认结束yesno关于Flowchart流程图语法参考 这儿.导出与导入导出如果你想尝试使用此编辑器, 你可以在此篇文章任意编辑。当你完成了一篇文章的写作, 在上方工具栏找到文章导出生成一个.md文件或者.html文件进行本地保存。导入如果你想加载一篇你写过的.md文件在上方工具栏可以选择导入功能进行对应扩展名的文件导入继续你的创作。mermaid语法说明 ↩︎注脚的解释 ↩︎