告别 Token 暴涨!AI Agent 深度上下文管理与降本实战(上)
随着 AI 从简单的单次任务向自主运行的智能体演进开发的重点正从单纯的“提示词工程”转向全局的“上下文工程”。但上下文工程容量越来越大如下问题从模型承载能力看上下文窗口过大会超过模型一次最多能读取的上下文容量上限如Claude-4.5-sonnet 为 200kGPT-5.1 和 GPT-5.1-codex 为 272K而 DeepSeek-3.1 仅有128K从成本角度看每次请求会根据输入和输出的 token 计费上下文越长消耗越大如# Kimi K3 的价格为输入 20 元/1M token缓存未命中输出 100 元/1M token。虽然输出价格远高于输入但输出 token 的量级通常远小于输入真正的成本大头是输入 token从效果角度看会出现关键信息被遗忘、注意力被分散、响应速度变慢等问题使模型无法捕捉关键细节处理时间长导致回答跑题或抓不住重点。上下文context想解决上述问题我们需要先了解上下文里面有什么模型实际“看到并读取”的所有内容统称为上下文context通常包含系统提示词system prompt由开发者编写定义 Agent 的身份、行为规则、约束条件。模型将其视为最高优先级的指令。整个对话过程中通常只有一条放在消息列表的最前面。用户输入的消息user message用户消息。来自终端用户的输入是 Agent 需要响应的请求。模型的回答model response模型之前的回复包括文本回复和工具调用请求。在多轮对话中之前的模型回答消息会被放回消息列表让模型“记住”自己说过什么。附加的文件、代码片段、图片等引用内容定义的规则、存储的记忆、MCP、Skills等他们一起构建了上下文已一家专业中药房看病的全过程为例【系统提示词】老药师身份与守则 【存储记忆】顾客过敏史/病史 【规则】配药禁忌 │ ▼ 【用户消息】“我失眠乏力帮我开药” 【附件】体检报告/旧处方照片 │ ▼ 【调用Skills/Tools】老药师把脉(Skill) ── 查药库存/电子称重(MCP/Tool) │ ▼ 【模型回答】生成个性化药方 煎药服药说明书整个上下文估计有8000个汉字左右中间还夹杂着各类英文标签按照英文中大约 34 个字符 ≈ 1 个 token中文中通常 1 个汉字 ≈ 1 个 Token来计算一轮下来至少需要10k的Token如果用户和老药师多聊几轮上下文肯定会成倍增长。上下文实用技巧整个上下文会过长业界一般有几种解决方案经常同时使用简单高效如开启新会话、及时关闭不再需要的扩展和规则、合理规划模型切换、精准引用工具Token 缓存机制上下文压缩优先使用 Skills谨慎使用 MCP简单高效的解决方案纯小白也会根据用户的实践经验当出现以下情况时建议及时开启新会话回答质量下降模型开始重复修改、遗忘早期细节、出现幻觉或答非所问对话过于冗长继续在臃肿的上下文中堆叠信息不仅成本高昂还会导致回答质量进一步恶化话题多次转换对话涉及多个不相关的任务或问题上下文信息杂糅混乱除了开启新会话外也可以手动总结或在中间内容另起一个话题分支。手动总结已使用的是Codex为例可以使用如下几步第一步在老会话中提取“核心资产”在当前那个冗长的旧对话中直接发送一条总结指令让模型自己提取关键信息。 你可以这样问“请帮我总结一下我们当前的讨论进度。要求提取核心的项目背景和业务需求。罗列已经确认的代码实现方案或使用的框架。列出目前待解决的问题。 请尽量精简、结构化保留关键的技术约束即可。”第二步复制并手动微调摘要Codex 生成总结后你可以快速扫一眼。如果 AI 漏掉了某些绝对不能妥协的技术细节比如特定的版本号或网络配置你可以手动补充上去。确认无误后将这段纯净的“核心摘要”复制下来。第三步开启新会话轻装上阵在 Codex 桌面端应用中点击新建会话通常是New Chat或图标打开一个全新的空白窗口。彻底抛弃之前的历史包袱。在新会话的第一条消息中把复制的摘要发给它并顺势抛出你的新任务“这是我们之前讨论的项目背景和已确认的决策[粘贴刚才的摘要内容]接下来请基于上述前提帮我解决这个新问题[输入你当下要写的具体代码或要排查的 Bug]”在中间内容另起一个话题分支在 Codex 桌面端应用中找到所选择的会话点击分叉箭头 branch in new chat会出现“-----从聊天中继续------”就可以接着上面的上下文继续聊了。合并多条指令多个问题合并成一条消息发送。示例把“总结摘要”、“列出要点”、“给我起一个标题”3条消息合并成1条发送即“帮我把这篇文章内容总结摘要、列出要点并起一个标题”提问对比表低效 vs 高效❌ 低效提问✅ 高效提问“帮我看看这个项目”“分析src/auth/login.ts的认证流程列出潜在安全风险”“这个报错了怎么办”“运行npm run build报 TS2345 错误这是完整日志: [粘贴日志]”连续追问 5 个小问题一次性列出所有问题编号 1-5“帮我改一下”“将config.ts:42的超时时间从 5000 改为 10000”节省效果精准提问平均减少2-4 轮澄清对话。Token 消耗每减少一轮对话约节省3000-5000 tokens避免了重复携带上下文历史的开销。合理规划模型切换不同模型各有所长根据任务特点选择合适的模型可以兼顾效果和成本国内模型个人观点仅供参考任务类型推荐模型选型理由1. 深度逻辑、复杂代码与技术推理DeepSeek、Qwen、Kimi、GLM、文心DeepSeek 在代码、数学、长链推理上性价比极高Qwen-Max 在代码和工具调用上稳定Kimi 技术推理增强明显GLM 逻辑严谨适合需可控推理的场景2. 中文通用理解、营销文案与办公辅助Doubao-pro、Kimi、Qwen-Max、GLM、文心 、讯飞星火中文表达更自然、公文/营销语感强文心和 Doubao 在中文语境、本土办公场景写周报、公文、小红书文案上更“接地气”3. 高并发、低延迟、轻量级任务Qwen-Turbo、Doubao-lite、GLM-Flash、文心 Speed/Lite、DeepSeek中小规模部署延迟低、单价便宜、适合分类、摘要、意图识别、客服等对响应速度敏感的场景通常要牺牲少量推理深度4. 长文本解析与多模态交互Kimi、QwenVL-Max、Doubao-vision、GLM、文心 Turbo 长文本版Kimi 是长文本代表Qwen-VL 系列在图文理解、文档 OCR、视频理解上能力突出GLM/Doubao-vision 在多轮图文对话上体验好国外模型个人观点仅供参考性价比模型如 GLM、Claude Haiku价格低、速度快适合日常使用高性能模型如 Claude Opus、Claude Sonnet推理能力强适合复杂重构、大型代码分析、架构设计等高价值场景审美能力强的模型如 Gemini Banana前端页面生成、视觉审美判断等 切换模型打破思维定式如果发现当前模型陷入死循环或方案不理想时也可以尝试切换模型寻求不同思路。不同模型系列在代码生成、问题分析上的风格差异可能带来新的启发帮助快速跳出困境。精准引用工具常见的上下文唤起指令 (Context References)这些指令主要用来向 AI 精确指定希望它读取或参考的信息范围Web/Search允许 AI 联网搜索最新的网页信息、文档或解决方案。Docs引用特定的第三方技术文档如 React、Python 或系统 API让 AI 基于最新或指定的官方文档回答。Git/Commit/PR引用提交记录、分支日志或 Pull Request 信息帮助撰写 Changelog 或理解变动历史。Terminal/Console获取你终端或控制台的最新输出/错误日志常用于自动分析和修复报错Debug。Codebase对整个项目代码库进行全局语义检索寻找相关的模块或类。Definitions/Symbol定位特定的函数、类型或变量定义。常见的/快捷动作指令 (Slash Commands)这类指令用来指定 AI具体执行什么操作避免手动输入重复的提示词/explain解释选中的代码、报错或概念。/fix自动分析选中的代码并修复 Bug 或错误。/tests为当前代码或函数自动生成单元测试Unit Tests。/doc//comment自动为代码生成标准格式的注释或 API 文档如 JSDoc、Docstring。/refactor重构选中的代码优化结构或性能。/clear//reset清除当前的会话上下文重新开始对话。不同的Agent可能显示的也不太相同已Codex为例OpenCode的是简单的区分方式是指令回答的是“看什么”提供哪里的信息作为上下文用的最多的是制定代码或文件。/指令回答的是“做什么”对上下文执行什么具体动作用的最多的是制定的/skill。/skill则属于更高级的自定义扩展功能允许你给 AI 挂载特定的专业技能组/工作流。总结梳理四大低成本、即学即用的基础优化策略及时开启新会话在回答质量下降、对话冗长或话题转换时及时止损手动总结与分支提取借助 AI 提取核心背景与代码方案剔除无用历史轻装上阵合并多条指令将同一阶段的多个诉求或问题一次性合并发送通过精准提问减少2-4 轮澄清对话每轮可节省3000-5000 tokens的历史开销合理规划模型选型按任务复杂度与成本灵活切换模型如 DeepSeek/Qwen 处理复杂代码逻辑轻量级模型处理高并发任务特定模型处理视觉/前端陷入思维死循环时切模型破局精准引用工具巧用指令明确“看什么”精准注入代码或文档利用/指令明确“做什么”自动执行重构或单测配合 Skill 挂载专业工作流从源头掌控 Token 消耗。依靠良好的使用习惯与精准调用可以解决大部分日常开发中的 Token 浪费。但面对长流水线、复杂 Agent 自动迭代等超大上下文场景仅靠人工控制远远不够。下半部分将深入底层技术与架构设计详细拆解 缓存机制Prefix Caching与 上下文自动压缩/剪枝Context Compression的实战落地

相关新闻

Spring Boot 3.4整合Spring AI:项目创建与依赖配置

Spring Boot 3.4整合Spring AI:项目创建与依赖配置

本文是“Spring AI 智能体实战”系列第 2/30 篇。项目采用 Java 17、Spring Boot 3.4.3 和课程示例所使用的 Spring AI 版本。不同 Spring AI 版本的依赖名称和部分 API 可能存在差异,请以自己项目的版本为准。前言创建 Spring AI 项目,确定 Java、Sprin…

2026/8/8 9:16:49 阅读更多 →
AI人工智能T型迷宫 、AI人工智能T迷宫

AI人工智能T型迷宫 、AI人工智能T迷宫

实验原理.安徽,正华生物,露T 迷宫是经典啮齿类动物行为学实验设备,依托动物先天探索记忆特性,通过食物诱导,检测小鼠、大鼠空间工作记忆与参考记忆,关联前额叶皮层功能;实验前一般将动物控食至体…

2026/8/8 9:16:49 阅读更多 →
万物密码:双向螺旋拓扑的宇宙统一法则002

万物密码:双向螺旋拓扑的宇宙统一法则002

摘要:本文系统阐述了“双向螺旋拓扑”作为宇宙万物底层运行架构的核心思想。文章首先提出“单向螺旋不足以成物,双向对生方为万物底层架构”的公理,并指出双向螺旋拓扑具备“双向对生”、“维度边界”(生极转死、死极复生&#xf…

2026/8/8 9:16:49 阅读更多 →

最新新闻

基于RAG与LoRA的低资源语言大模型本地化实践:以希腊语为例

基于RAG与LoRA的低资源语言大模型本地化实践:以希腊语为例

这次我们来看一个名为“Teaching Nemotron Greek”的项目。从标题就能看出,它的核心目标是将一个名为Nemotron的大语言模型(LLM)适配到现代希腊语上,并且不是简单的翻译,而是要让它能处理希腊语的专业领域知识。这本质…

2026/8/8 10:17:15 阅读更多 →
倾斜摄影模型转UE5交互场景:CesiumLab+3D Tiles全流程实战

倾斜摄影模型转UE5交互场景:CesiumLab+3D Tiles全流程实战

1. 项目概述:从本地数据到沉浸式交互场景的跨越 如果你手头有一堆通过无人机航拍生成的倾斜摄影模型数据(通常是一堆OSGB或OBJ文件),看着它们在专业GIS软件里能流畅旋转缩放,但一想到要把它变成一个能让用户在UE5里自由…

2026/8/8 10:17:15 阅读更多 →
AEE mokacam运动相机按键失灵修复指南:从诊断到焊接更换微动开关

AEE mokacam运动相机按键失灵修复指南:从诊断到焊接更换微动开关

你手里有一台 AEE mokacam 运动相机,它曾经是你记录户外骑行、徒步甚至日常 Vlog 的得力伙伴。但不知道从什么时候开始,它的某个按键——也许是电源键,也许是模式切换键,也许是录制键——变得不那么灵敏了。按下去手感生涩&#x…

2026/8/8 10:17:15 阅读更多 →
游戏策划系统化设计:关卡流程与交互逻辑实战

游戏策划系统化设计:关卡流程与交互逻辑实战

1. 游戏策划的系统化设计方法论从业十年,我越来越意识到游戏策划不是灵感的随机拼凑,而是需要一套严谨的系统化设计方法。今天想和大家分享我在关卡流程、世界观架构和交互逻辑三个核心模块的实战经验,这些方法在多个成功项目中得到验证&…

2026/8/8 10:17:15 阅读更多 →
BetterNCM插件管理器:从安装到精通的全方位指南

BetterNCM插件管理器:从安装到精通的全方位指南

BetterNCM插件管理器:从安装到精通的全方位指南 【免费下载链接】BetterNCM-Installer 一键安装 Better 系软件 项目地址: https://gitcode.com/gh_mirrors/be/BetterNCM-Installer BetterNCM插件管理器是网易云音乐PC客户端的强大扩展工具,能够显…

2026/8/8 10:17:15 阅读更多 →
Git TUI工具实战:tig与lazygit提升代码历史探索与团队协作效率

Git TUI工具实战:tig与lazygit提升代码历史探索与团队协作效率

在版本控制与团队协作中,Git 无疑是开发者最核心的工具之一。然而,面对复杂的项目历史、交错的提交记录和冗长的差异对比,传统的命令行 git log 或 git diff 输出往往显得不够直观,尤其是在需要快速定位某个关键变更或理解一段…

2026/8/8 10:16:15 阅读更多 →

日新闻

AI多智能体时代来临,读懂MCP与A2A架构,抢占企业数字化新风口

AI多智能体时代来临,读懂MCP与A2A架构,抢占企业数字化新风口

当下AI应用飞速普及,无数企业下场搭建智能体系统,可落地阶段难题接踵而至:上下文无限堆积频繁爆栈、AI工具调用准确率低下、Token成本居高不下、企业数据权限混乱暗藏安全隐患……很多团队卡在架构搭建环节,空有前沿技术概念&…

2026/8/8 0:00:07 阅读更多 →
PHP二维码生成终极指南:用chillerlan/php-qrcode打造专业级二维码

PHP二维码生成终极指南:用chillerlan/php-qrcode打造专业级二维码

PHP二维码生成终极指南:用chillerlan/php-qrcode打造专业级二维码 【免费下载链接】php-qrcode A PHP QR Code generator and reader with a user-friendly API. 项目地址: https://gitcode.com/gh_mirrors/ph/php-qrcode 在当今数字时代,二维码已…

2026/8/8 0:00:08 阅读更多 →
UniApp微信小程序隐私保护组件开发:从原理到实战

UniApp微信小程序隐私保护组件开发:从原理到实战

1. 项目缘起:为什么我们需要一个隐私保护通用组件?最近在维护一个基于uniapp开发的微信小程序矩阵时,我遇到了一个非常棘手的问题。随着平台对用户隐私保护的要求越来越严格,几乎每一个新版本发布,或者在某些特定机型&…

2026/8/8 0:00:08 阅读更多 →

周新闻

最大流算法详解:从水管网络到Ford-Fulkerson与Dinic实战

最大流算法详解:从水管网络到Ford-Fulkerson与Dinic实战

1. 从水管网络到最大流:一个核心问题的诞生想象一下,你是一个城市供水系统的总工程师。你的城市有多个水源(水库),需要通过一个复杂的地下管道网络,将水输送到各个居民区。每条管道都有其最大通水能力&…

2026/8/6 22:02:27 阅读更多 →
基于Springboot的企业门户网站(源码+LW+调试文档+讲解)

基于Springboot的企业门户网站(源码+LW+调试文档+讲解)

温馨提示:本人主页置顶文章(点我)开头有 CSDN 平台官方提供的学长联系方式的名片! 温馨提示:本人主页置顶文章(点我)开头有 CSDN 平台官方提供的学长联系方式的名片! 温馨提示:本人主页置顶文章(点我)开头有 CSDN 平台…

2026/8/8 8:58:26 阅读更多 →
MATLAB xcorr函数详解:从互相关原理到四大实战应用

MATLAB xcorr函数详解:从互相关原理到四大实战应用

1. 从一次信号“找茬”说起:为什么我们需要互相关几年前,我在处理一组声学传感器数据时遇到了一个棘手的问题。我有两个麦克风记录了一段相同的音频信号,理论上它们接收到的声音波形应该非常相似,只是由于麦克风位置不同&#xff…

2026/8/7 23:24:08 阅读更多 →

月新闻

免费解锁百度网盘SVIP加速:macOS用户必备的下载提速终极指南

免费解锁百度网盘SVIP加速:macOS用户必备的下载提速终极指南

免费解锁百度网盘SVIP加速:macOS用户必备的下载提速终极指南 【免费下载链接】BaiduNetdiskPlugin-macOS For macOS.百度网盘 破解SVIP、下载速度限制~ 项目地址: https://gitcode.com/gh_mirrors/ba/BaiduNetdiskPlugin-macOS 还在为百度网盘macOS版的龟速下…

2026/8/7 17:02:37 阅读更多 →
终极ncmdump指南:3分钟实现网易云NCM音乐解密与格式转换

终极ncmdump指南:3分钟实现网易云NCM音乐解密与格式转换

终极ncmdump指南:3分钟实现网易云NCM音乐解密与格式转换 【免费下载链接】ncmdump 项目地址: https://gitcode.com/gh_mirrors/ncmd/ncmdump 还在为网易云音乐下载的NCM格式文件无法在其他播放器播放而烦恼吗?ncmdump解密工具帮你轻松解决这个困…

2026/8/7 23:54:54 阅读更多 →
HarmonyOS 应用开发《掌上英语》第81篇: 智能体卡片:为英语学习 App 打造桌面级学习助手

HarmonyOS 应用开发《掌上英语》第81篇: 智能体卡片:为英语学习 App 打造桌面级学习助手

AgentCard 智能体卡片:为英语学习 App 打造桌面级学习助手适用平台:HarmonyOS 7.0 (API 26 Beta)一、引言 HarmonyOS 7.0(API 26 Beta)新增了 AgentCard 智能体卡片能力,这是继 HMAF(鸿蒙智能体框架&#x…

2026/8/7 17:02:36 阅读更多 →