最近在尝试用大模型解决实际开发问题时你是否也遇到过这样的困惑明明感觉自己的问题描述得很清楚但模型给出的回答却总是差强人意要么答非所问要么过于笼统或者看到别人能用简单的几句话就让大模型写出高质量的代码、生成精美的图片而自己却不得其法这背后正是Prompt Engineering提示词工程在发挥作用。Prompt Engineering 并非魔法而是一门可以系统学习和实践的技能。它就像是我们与大模型沟通的“编程语言”掌握这门语言你就能更高效、更精准地驾驭大模型的强大能力。本文将为你提供一份从零到进阶的实战指南无论你是刚接触 AI 的开发者还是希望提升大模型应用效率的工程师都能从中找到清晰的路径和可复现的代码示例。我们将从核心概念讲起逐步深入到高级技巧和实战项目手把手带你构建属于自己的高效提示词工具箱。1. 背景与核心概念为什么需要提示词工程在深入实践之前我们有必要理解 Prompt Engineering 究竟是什么以及它为何如此重要。1.1 什么是提示词工程简单来说提示词Prompt就是我们输入给大语言模型LLM或生成式 AI 模型的指令或问题。而提示词工程Prompt Engineering则是设计、优化和构造这些提示词的一门艺术与科学目的是为了从模型中引出更准确、更相关、更符合预期的输出。你可以把它类比为“搜索引擎优化SEO”。在搜索引擎时代你需要学习如何组织关键词以便从海量网页中快速找到所需信息。在 AI 时代你需要学习如何组织提示词以便从拥有海量知识的“智能大脑”中精准提取或生成你想要的答案。1.2 大模型如何工作理解“上下文”与“生成”要写好提示词需要对大模型的基本工作原理有个直观认识。当前主流的大语言模型如 GPT、LLaMA、通义千问等本质上是基于海量文本训练的“下一个词预测器”。上下文Context模型在生成每一个词时都会参考你提供的所有输入文本即提示词以及它自己已经生成的部分。这段文本就是模型的“思考上下文”。提示词的质量直接决定了模型“思考”的起点和方向。生成Generation模型根据上下文计算出所有可能的下一个词的概率分布然后按照某种策略如选择概率最高的选出一个词将其追加到上下文中再继续预测下一个词如此循环直到生成完整回答。因此一个糟糕的提示词可能会将模型的“思考”引向错误的方向导致输出无关或低质量的内容。1.3 提示词工程的核心价值降低成本与提升效率对于按 token 收费的 API如 OpenAI低效的提示词意味着你需要为冗余的输入和输出付费。一个精炼、高效的提示词能直接节省成本。同时减少反复调试和重新生成的次数也提升了开发效率。提高输出质量与可控性通过精心设计的提示词你可以约束模型的输出格式如 JSON、Markdown、指定角色如资深程序员、文案专家、控制风格如严谨、幽默甚至引导其进行分步推理Chain-of-Thought从而获得更可靠、更专业的结果。解锁复杂任务能力许多高级应用如智能体Agent、复杂工作流编排、代码生成与调试、多模态理解等都依赖于一套稳定、可复用的提示词模板和策略。掌握提示词工程是构建这些应用的基础。2. 环境准备与工具选择在学习提示词工程时你并不需要复杂的本地开发环境。核心是选择一个合适的大模型平台进行交互和实验。2.1 在线平台推荐入门对于初学者强烈建议从在线平台开始它们免去了部署的麻烦并提供友好的交互界面。OpenAI Playground / ChatGPT业界标杆响应速度快理解能力强。适合学习最前沿的提示词技巧。需注意网络访问和付费。通义千问、文心一言、Kimi等国内主流模型访问便捷中文理解能力强部分提供免费额度。是实践中文场景提示词的绝佳选择。Google AI Studio (Gemini)谷歌的模型平台提供免费的 API 额度性能强劲是多语言任务的好选择。2.2 本地/开源模型适合进阶与定制如果你需要处理敏感数据、追求极致成本控制或进行深度定制可以考虑部署开源模型。模型选择轻量级7B/13BLlama 3、Qwen2、ChatGLM3。适合在消费级显卡如 RTX 4060 16G上运行用于学习和简单任务。中量级70B需要更强的算力如多张 A100/A800适合企业级应用。部署工具Ollama最简单的一键本地部署工具支持 Mac、Linux、Windows。一条命令即可运行 Llama、Mistral 等模型。# 安装 Ollama (Mac/Linux) curl -fsSL https://ollama.com/install.sh | sh # 拉取并运行 Llama3 模型 ollama run llama3LM Studio图形化界面对 Windows 用户非常友好方便下载和管理多种模型。vLLM高性能推理框架特别适合批量处理和 API 服务部署。Text Generation WebUI功能丰富的 Web 界面支持多种模型加载方式和扩展插件。2.3 编程环境用于自动化与集成当你需要将提示词工程集成到自己的应用中时需要准备编程环境。Python目前与 AI 集成最主流的语言。关键库openai调用 OpenAI API 的官方库。langchain用于构建基于 LLM 应用程序的框架提供了大量提示词模板、链Chain和智能体Agent工具。litellm一个统一的接口可以用相同代码调用 OpenAI、Anthropic、Cohere、开源模型等数十种 API。IDEVS Code、PyCharm 等均可。版本说明本文的代码示例将主要基于 Python 和 OpenAI 兼容的 API 格式。由于 AI 领域迭代迅速具体的库版本如openai1.0.0请以官方文档为准核心在于理解概念和模式。3. 提示词设计核心原则与基础技巧掌握以下几个核心原则你的提示词质量将立刻得到显著提升。3.1 清晰性与具体性模糊的指令得到模糊的结果。务必明确你的需求。反面例子“写一篇关于 Python 的文章。”正面例子请你扮演一位有10年经验的软件工程师为编程初学者写一篇关于 Python 中列表推导式list comprehension的教程。要求解释其基本语法[expression for item in iterable if condition]。提供一个将1到10的整数平方放入列表的简单示例。再提供一个带条件过滤例如只选择偶数的复杂示例。与传统的for循环方法进行对比说明其优点简洁、高效。最后指出一个初学者常见的错误如滥用导致可读性降低。 请使用中文语言通俗易懂并包含完整的代码块。3.2 提供上下文与角色扮演给模型一个“身份”和“背景”能极大提升回答的专业性和针对性。技巧在提示词开头使用“你是一个/扮演...”、“假设你是...”。示例你是一位资深的安全运维专家。请检查以下一段简单的 Flask 应用代码识别其中可能存在的安全漏洞如 SQL 注入、XSS 等并给出修复建议。from flask import Flask, request import sqlite3 app Flask(__name__) app.route(/search) def search(): query request.args.get(q) conn sqlite3.connect(database.db) cursor conn.cursor() cursor.execute(fSELECT * FROM products WHERE name LIKE %{query}%) results cursor.fetchall() return str(results)3.3 使用分隔符和结构化输入对于复杂的输入使用分隔符如、---、 将指令、上下文、问题清晰分开避免模型混淆。示例请根据以下用户评论和给定的回复模板生成一封客户服务邮件。用户评论 “我三天前下单的《人工智能导论》这本书订单号是#ORD-78901现在还没发货物流信息一直没更新我很着急用。”回复模板 尊敬的[客户称呼] 感谢您联系[公司名]。关于您订单 #[订单号] 的物流延迟问题我们深表歉意。经查询[说明原因]。我们已催促物流方预计[新的预计时间]前更新信息。您可以通过此链接跟踪订单[跟踪链接]。如有其他问题请随时回复本邮件。 祝好 [客服姓名] [公司名]客服团队请填充模板生成完整邮件。如果信息缺失请合理推断。3.4 分步思考与链式提示Chain-of-Thought, CoT对于逻辑推理、数学计算或复杂问题要求模型“一步步思考”或提供“推理过程”可以显著提高答案的准确性。示例问题一个房间里有三盏灯门外有三个开关分别控制这三盏灯。你只能进房间一次。如何确定哪个开关控制哪盏灯请按以下步骤思考并回答首先分析限制条件只能进一次房间意味着需要在进入前通过操作开关获得可区分的状态。其次考虑灯的特性除了亮/灭还有什么可以利用比如灯泡发热。然后设计操作步骤进入房间前如何操作开关进入房间后观察什么最后给出完整的推理过程和答案。3.5 明确输出格式直接告诉模型你希望的回答格式便于后续程序化处理。常用格式JSON、XML、Markdown 表格、HTML、纯列表、代码块。示例分析以下段落的情感倾向并以 JSON 格式返回结果。 JSON 格式要求 { “sentiment”: “positive/negative/neutral” “confidence”: 0.95, “key_phrases”: [“短语1” “短语2”] }段落“这款产品的设计简直太惊艳了用户体验流畅得超乎想象虽然价格有点小贵但绝对物超所值”4. 进阶提示词模式与实战案例掌握了基础原则后我们来看一些更高级、更工程化的提示词模式。4.1 少样本学习Few-Shot Learning在提示词中提供一两个输入-输出的例子让模型通过类比来学习任务。这对于格式固定或定义模糊的任务非常有效。案例将客服对话分类# 这是一个使用 OpenAI API 的 Few-Shot 示例 from openai import OpenAI client OpenAI(api_keyyour-api-key) # 请替换为你的 API Key response client.chat.completions.create( modelgpt-3.5-turbo, messages[ {role: system, content: 你是一个客服对话分类助手。请将用户消息分类为‘咨询’、‘投诉’、‘售后’或‘其他’。}, {role: user, content: “你们这个产品怎么用啊”}, {role: assistant, content: 咨询}, {role: user, content: “我刚买的东西就坏了太差劲了”}, {role: assistant, content: 投诉}, {role: user, content: “我想查询一下我的订单进度。”} # 模型会根据上面的例子将此条分类为“咨询” ] ) print(response.choices[0].message.content)4.2 思维链Chain-of-Thought与自洽性Self-Consistency对于复杂问题不仅要求分步思考还可以让模型生成多条推理路径然后选择最一致或最合理的答案这被称为自洽性。案例解决数学应用题提示词设计请解决以下数学问题。请分步展示你的推理过程最后给出答案。 问题一个水池有一个进水管和一个出水管。单开进水管6小时可将空池注满单开出水管8小时可将满池水放完。如果同时打开进水管和出水管多少小时可将空池注满 让我们一步步思考 1. 先计算进水管和出水管的效率。 2. 再计算它们同时工作时的净效率。 3. 最后计算注满空池所需时间。4.3 生成-验证-修正循环对于代码生成、文章创作等任务可以设计一个多轮交互的提示词流程让模型自我验证和修正。案例生成并修正 Python 函数第一轮提示生成写一个 Python 函数find_duplicates(nums)接收一个整数列表nums返回列表中所有出现超过一次的元素。要求时间复杂度尽可能低。假设模型返回了一个使用双重循环的 O(n²) 版本。第二轮提示验证与修正你刚才提供的函数使用了双重循环时间复杂度是 O(n²)。请分析这个函数在遇到大型列表例如包含100万个元素时可能存在的性能问题。然后使用 Python 的集合set或字典dict来优化这个函数将时间复杂度降低到 O(n)。请提供优化后的代码并简要解释优化原理。4.4 使用系统提示词System Prompt进行全局设定在聊天补全 API如 OpenAI ChatCompletion中system消息用于设置助手的全局行为、角色和风格它对整个会话的基调有持久影响。from openai import OpenAI client OpenAI(api_keyyour-api-key) response client.chat.completions.create( modelgpt-3.5-turbo, messages[ { role: system, content: 你是一个乐于助人且幽默的编程助手擅长用生动的比喻解释技术概念。你的回答要简洁但必须包含关键点。如果用户的问题不清晰你会礼貌地请求澄清。 # 系统提示词定义角色 }, { role: user, content: 能解释一下什么是递归吗 } ] ) print(response.choices[0].message.content) # 模型可能会用“俄罗斯套娃”或“镜子中的镜子”这样的比喻来解释递归。5. 实战项目构建一个智能技术文档问答助手让我们综合运用以上技巧构建一个简单的实战项目一个能基于给定技术文档片段回答问题的智能助手。5.1 项目目标与设计目标用户输入一段技术文档和基于该文档的问题助手能准确回答问题。核心思路使用“上下文注入”模式。将文档作为上下文提供给模型并指令模型严格基于上下文回答。技术栈Python, OpenAI API (或兼容API)。5.2 完整代码实现# file: doc_qa_assistant.py import os from openai import OpenAI from typing import Optional class DocQAAssistant: def __init__(self, api_key: Optional[str] None, model: str gpt-3.5-turbo): 初始化问答助手。 Args: api_key: OpenAI API密钥。如果为None则从环境变量OPENAI_API_KEY读取。 model: 使用的模型名称。 api_key api_key or os.getenv(OPENAI_API_KEY) if not api_key: raise ValueError(必须提供 OpenAI API 密钥。可通过参数传入或设置环境变量 OPENAI_API_KEY。) self.client OpenAI(api_keyapi_key) self.model model def answer_question(self, document: str, question: str, temperature: float 0.2) - str: 基于文档回答问题。 Args: document: 技术文档文本。 question: 用户提出的问题。 temperature: 生成文本的随机性越低越确定。 Returns: 模型生成的答案。 # 精心设计的提示词模板 prompt_template f 你是一个技术文档分析专家。请严格根据以下提供的技术文档内容来回答问题。如果文档中没有明确答案请直接说“根据提供的文档我无法回答这个问题。”不要编造信息。 技术文档内容{{document}}问题{{question}} 请按以下格式回答 1. **答案**[你的答案] 2. **依据**[引用文档中的相关句子或段落] # 格式化提示词 formatted_prompt prompt_template.format(documentdocument, questionquestion) try: response self.client.chat.completions.create( modelself.model, messages[ {role: system, content: 你是一个严谨、准确的技术文档分析助手。}, {role: user, content: formatted_prompt} ], temperaturetemperature, max_tokens500 # 限制回答长度 ) answer response.choices[0].message.content.strip() return answer except Exception as e: return f调用API时发生错误{e} # 示例用法 if __name__ __main__: # 1. 设置你的API密钥这里为了安全建议通过环境变量设置 # os.environ[“OPENAI_API_KEY”] “your-api-key-here” # 2. 实例化助手 assistant DocQAAssistant(modelgpt-3.5-turbo) # 从环境变量读取API_KEY # 3. 准备示例文档和问题 sample_doc LangChain 是一个用于开发由语言模型驱动的应用程序的框架。 它主要提供两大价值 1. 组件化提供用于处理语言模型的抽象接口以及每个抽象接口的一系列实现。 2. 链式组装将上述组件以特定的方式链接起来以完成复杂的任务。 核心模块包括Models, Prompts, Indexes, Memory, Chains, Agents。 Agents 模块允许语言模型动态地决定执行任务的步骤序列并可以调用工具如搜索、计算器来获取信息。 sample_question LangChain 的 Agents 模块有什么作用 # 4. 获取答案 answer assistant.answer_question(sample_doc, sample_question) print( 技术文档问答演示 ) print(f文档片段\n{sample_doc[:200]}...\n) print(f问题{sample_question}\n) print(f助手回答\n{answer}\n) # 5. 测试一个文档中没有答案的问题 irrelevant_question LangChain 是用什么编程语言写的 answer2 assistant.answer_question(sample_doc, irrelevant_question) print(f问题{irrelevant_question}\n) print(f助手回答\n{answer2})5.3 运行与结果分析运行上述脚本确保已安装openai库pip install openai你可能会得到类似以下的输出 技术文档问答演示 文档片段 LangChain 是一个用于开发由语言模型驱动的应用程序的框架。 它主要提供两大价值 1. 组件化提供用于处理语言模型的抽象接口以及每个抽象接口的一系列实现。 2. 链式组装将上述组件以特定的方式链接起来以完成复杂的任务。 核心模块包括Models, Prompts, Indexes, Memory, Chains, Agents。 Agents 模块允许语言模型动态地决定执行任务的步骤序列并可以调用工具如搜索、计算器来获取信息。 ... 问题LangChain 的 Agents 模块有什么作用 助手回答 1. **答案**Agents 模块允许语言模型动态地决定执行任务的步骤序列并可以调用工具如搜索、计算器来获取信息。 2. **依据**文档中明确写道“Agents 模块允许语言模型动态地决定执行任务的步骤序列并可以调用工具如搜索、计算器来获取信息。” 问题LangChain 是用什么编程语言写的 助手回答 1. **答案**根据提供的文档我无法回答这个问题。 2. **依据**文档中未提及 LangChain 所使用的编程语言。项目亮点清晰的指令通过系统提示词和用户提示词明确了助手的角色和任务边界。上下文管理使用分隔符将文档内容清晰隔离防止与指令混淆。输出格式控制要求模型按“答案”和“依据”的结构化格式返回便于解析。处理未知问题明确指令模型在文档无答案时拒绝回答避免了“幻觉”Hallucination问题。可配置性通过temperature和model参数可以调整回答的确定性和使用的模型。6. 常见问题与排查思路在实际使用提示词工程时你可能会遇到以下典型问题。问题现象可能原因排查与解决思路回答偏离主题或胡言乱语1. 提示词指令模糊、矛盾。2. Temperature 参数设置过高导致随机性太大。3. 系统提示词System Prompt被后续用户消息覆盖或干扰。1.检查提示词确保指令清晰、具体、无歧义。使用角色扮演和结构化输入。2.调整 Temperature对于需要确定答案的任务如代码生成、事实问答将其调低如 0.1-0.3。对于创意任务可以调高。3.隔离系统指令在聊天API中确保system消息在对话列表首位且后续消息不会无意中破坏角色设定。模型忽略部分指令或格式要求1. 指令过于复杂或冗长模型未能完全理解。2. 格式要求放在提示词末尾容易被模型忽略。3. 模型能力有限。1.简化与分步将复杂任务拆解成多个简单提示词通过链式Chain调用完成。2.重要指令前置将关键的格式要求、角色设定放在提示词开头。3.使用 Few-Shot提供输入输出示例让模型通过模仿学习格式。4.升级模型尝试能力更强的模型如从 GPT-3.5 升级到 GPT-4。回答包含事实性错误幻觉1. 模型基于训练数据“编造”了信息。2. 提示词未要求模型严格基于给定上下文。1.提供可靠上下文像实战项目那样将确凿的信息作为上下文提供给模型并指令其严格引用。2.要求注明不确定性在提示词中加入“如果你不确定请说明”。3.外部验证对于关键事实通过搜索引擎API或其他知识库进行二次验证。API调用超时或返回空内容1. 提示词或生成内容过长超过模型上下文长度限制。2. 网络或服务端问题。3. 内容被安全策略过滤。1.检查长度计算输入 token 数。对于长文档考虑使用“检索增强生成RAG”技术只注入相关片段。2.查看错误码API 通常会返回具体的错误信息如context_length_exceeded。3.简化提示词移除不必要的描述使用更精炼的语言。4.重试与降级实现简单的重试机制或暂时切换到其他模型。本地模型响应慢或效果差1. 硬件资源GPU内存不足。2. 量化模型精度损失大。3. 提示词未针对该模型优化。1.检查资源使用nvidia-smi等工具监控 GPU 内存使用。考虑使用更小的模型或更高效的量化版本如 GGUF 格式。2.调整提示词开源模型对提示词的格式可能更敏感。尝试使用该模型社区推荐的提示词模板如 Alpaca、ChatML 格式。3.微调模型如果任务非常特定可以考虑用自己的数据对开源小模型进行微调LoRA。7. 最佳实践与工程化建议将提示词工程应用到生产环境或严肃项目中需要遵循一些工程最佳实践。7.1 提示词的版本管理与测试版本控制像管理代码一样管理你的提示词。使用 Git 等工具为重要的提示词模板创建独立的文件如prompts.yaml或prompts.json。A/B 测试对于关键任务设计多个版本的提示词A/B 测试在相同的测试集上评估其效果准确性、成本、速度选择最优者。单元测试为你的提示词链编写简单的单元测试确保在修改后核心功能依然正常。7.2 构建提示词模板库不要每次都从头编写提示词。根据你的业务领域构建一个可复用的提示词模板库。# prompts.yaml summarize_tech_doc: system: “你是一位技术文档工程师擅长用简洁的语言总结复杂概念。” user: | 请用不超过200字总结以下技术文档的核心内容并提取3个关键词。 文档 “{document}” code_review: system: “你是一位经验丰富的软件架构师专注于代码安全、性能和可维护性。” user: | 请审查以下{language}代码指出潜在的问题如安全漏洞、性能瓶颈、坏味道并提供改进建议。 {language} {code} 7.3 安全与伦理考量防范提示词注入Prompt Injection永远不要将未经净化的用户输入直接拼接进你的系统提示词中。攻击者可能通过精心构造的输入让模型忽略原有指令执行恶意操作。应对方法是对用户输入进行严格的过滤和转义或使用更安全的架构如将用户输入严格限制在特定的上下文变量中。避免偏见与有害输出在系统提示词中明确加入伦理约束例如“你是一个公平、无害且乐于助人的助手。拒绝生成任何违法、歧视性或有害的内容。”数据隐私切勿通过提示词向第三方模型 API 发送敏感的个人信息、公司机密或未脱敏的代码。7.4 性能与成本优化缓存结果对于频繁且输入相同的查询如常见问题解答可以将模型的输出结果缓存起来避免重复调用 API节省成本和延迟。精简提示词在保证效果的前提下不断尝试缩短提示词。移除冗余的客套话和不必要的描述。每一个 token 都在花钱。异步与批处理如果需要处理大量独立的文本如批量摘要、分类可以利用 API 的批处理功能如果支持或使用异步编程来并发请求提高吞吐量。7.5 持续学习与迭代提示词工程是一个快速发展的领域。新的模型、新的技巧如 ReAct、Tree of Thoughts不断涌现。关注社区关注 OpenAI Cookbook、LangChain 博客、Hugging Face 社区以及相关论文。实验精神建立一个自己的“实验笔记本”记录不同提示词、不同参数temperature, top_p在不同任务上的效果。结合业务反馈将提示词驱动的功能上线后积极收集用户反馈用真实数据来驱动提示词的迭代优化。从理解大模型如何“阅读”你的提示词开始到掌握清晰具体、角色扮演、思维链等核心技巧再到通过 Few-Shot、模板化、链式调用实现复杂任务提示词工程的学习路径是清晰且可实践的。记住最好的学习方式就是动手实验。从今天起在你每次使用 ChatGPT 或其他大模型时都有意识地思考“我如何能把这个提示词写得更好” 将本文中的项目作为起点逐步构建起你自己的提示词工具箱你会发现驾驭 AI 的能力就在这一次次的精心雕琢中稳步增长。