多 Agent 串行太慢:用 DAG、并发闸门和 Token 预算拆链路
多 Agent 串行太慢用 DAG、并发闸门和 Token 预算拆链路多 Agent 链路慢先别急着换更快的模型。把路由、规划、检索、执行和审查五段的等待时间、输入 Token 与重试次数分别记下来通常更容易看出问题。如果所有节点串行运行还把完整历史透传给下游延迟会叠加账单也会包含大量重复上下文。能否改成 DAG取决于节点之间是否真的有数据依赖没有依赖的才并行需要审计的只拿最小输入。这篇用一组可替换的测试字段说明怎么比较结论要用自己的模型、请求集和计费规则复跑。1. 多 Agent 串行链条下的延迟与 Token 瓶颈分析初始的 Agent 系统架构通常采用串行逻辑。用户提交复杂需求后系统交给“需求拆解 Agent”拆出若干子任务随后依次调用“数据检索 Agent”、“代码生成 Agent”、“安全审计 Agent”以及“文本汇总 Agent”。用代码逻辑表示这是一个典型的串行调用# 串行调用的示意代码 for step in execution_plan: result call_llm_agent(step, context_history) context_history.append(result)这段代码是否已经构成瓶颈不能只凭调用顺序判断。先给每个节点记录开始时间、结束时间、输入输出 Token、重试次数和依赖节点再用同一批脱敏请求复跑。下面的表格是待采集字段不预填一组貌似真实的结果Agent 节点耗时分位数输入 Token输出 Token需要核对的问题需求拆解 Agent从 Trace 汇总从模型 usage 读取从模型 usage 读取是否包含无关历史数据检索 Agent从 Trace 汇总从模型 usage 读取从模型 usage 读取是否确实依赖拆解输出代码生成 Agent从 Trace 汇总从模型 usage 读取从模型 usage 读取API 文档是否能按需检索安全审计 Agent从 Trace 汇总从模型 usage 读取从模型 usage 读取是否收到与审计无关的检索正文文本汇总 Agent从 Trace 汇总从模型 usage 读取从模型 usage 读取是否重复携带上游全文如果 Trace 显示下游主要在等待前置节点而且输入 Token 随步骤持续累积再分别验证两个假设一是移除虚假依赖二是按字段裁剪上下文。数据检索与代码生成能否并行要看二者的输入契约安全审计需要什么也应由审计规则决定不能预先假定它只需要代码。从底层机制分析大模型的 Prompt Processing首字延迟 TTFT与上下文长度成正比而 Generation生成延迟与输出 Token 数成正比。增加冗余上下文不仅抬高了资金成本也增加了模型首字响应的卡顿时间。2. 基于 DAG 有向无环图的执行解耦与上下文隔离降低延迟的关键在于解耦串行链条将 Agent 间的依赖关系重构为有向无环图DAG。在重构后的架构设计中引入“依赖图解析器”与“上下文隔离屏障”。需求拆解完成后系统分析各个子任务的输入输出契约。只要子任务之间没有数据依赖就通过异步协程并发调度。同时每个 Agent 在被触发时仅接收其特定任务所必需的精简上下文阻断全局历史的盲目透传。重构后应缩短请求链路、明确模块边界并将可复用能力抽到稳定接口中。若数据检索与代码生成没有依赖可以在 DAG 中并行若生成必须引用检索结果就仍应保留依赖。上下文裁剪后还要回归审计召回率和输出质量不能只看 Token 下降。3. 异步并发与 Prompt 裁剪防线代码实现为了在工程中落地 DAG 并行与 Token 隔离机制基于 Python 的asyncio和pydantic实现一套轻量级 Agent 调度框架。代码展示了如何通过异步任务组并发调度无依赖 Agent并通过上下文提取器精简 Promptimport asyncio import time from typing import Dict, Any, List from pydantic import BaseModel, Field class AgentTask(BaseModel): task_id: str agent_type: str dependencies: List[str] Field(default_factorylist) input_payload: Dict[str, Any] Field(default_factorydict) class TokenMetrics(BaseModel): prompt_tokens: int 0 completion_tokens: int 0 total_latency_ms: float 0.0 class AsyncAgentDispatcher: 异步多 Agent 调度器支持依赖解析与上下文隔离裁剪 def __init__(self, llm_client): self.llm_client llm_client self.metrics: Dict[str, TokenMetrics] {} def _prune_context_for_agent(self, agent_type: str, raw_context: Dict[str, Any]) - str: 根据 Agent 职责强制裁剪 Prompt阻断冗余上下文透传 if agent_type security_audit: # 安全审计只需要代码和输入参数裁剪掉无关的检索文档 code raw_context.get(generated_code, ) return f请审计以下代码的安全隐患仅输出风险项\npython\n{code}\n elif agent_type data_retrieval: query raw_context.get(user_query, ) return f根据查询提取关键词并返回检索结果{query} elif agent_type code_generator: spec raw_context.get(spec, ) return f根据以下规格编写 Python 函数\n{spec} else: return str(raw_context) async def _execute_single_agent(self, task: AgentTask, context: Dict[str, Any]) - Dict[str, Any]: start_time time.perf_counter() pruned_prompt self._prune_context_for_agent(task.agent_type, context) # 模拟 LLM 异步调用与 Token 统计 prompt_len len(pruned_prompt) response_text, usage await self.llm_client.async_generate( agent_typetask.agent_type, promptpruned_prompt ) elapsed_ms (time.perf_counter() - start_time) * 1000 self.metrics[task.task_id] TokenMetrics( prompt_tokensusage.get(prompt_tokens, prompt_len // 4), completion_tokensusage.get(completion_tokens, len(response_text) // 4), total_latency_mselapsed_ms ) return {task.task_id: response_text} async def run_dag(self, tasks: List[AgentTask], initial_context: Dict[str, Any]) - Dict[str, Any]: completed_results: Dict[str, Any] dict(initial_context) pending_tasks {t.task_id: t for t in tasks} while pending_tasks: # 筛选出当前依赖已全部就绪的任务 ready_tasks [ task for task in pending_tasks.values() if all(dep in completed_results for dep in task.dependencies) ] if not ready_tasks: raise RuntimeError(DAG 存在循环依赖或未满足的依赖节点) # 并行并发执行所有已就绪的 Agent 任务 coroutines [ self._execute_single_agent(task, completed_results) for task in ready_tasks ] results_list await asyncio.gather(*coroutines) # 更新上下文并移除已完成任务 for res in results_list: completed_results.update(res) for task in ready_tasks: del pending_tasks[task.task_id] return completed_results工程落地的核心在于_prune_context_for_agent方法。这里用字段白名单代替二次模型摘要便于审计输入来源。它是否减少延迟和费用需要用相同请求集比较若裁剪后任务成功率下降应补回必要字段而不是继续压缩。4. 用同一请求集比较延迟与 Token准备一组脱敏或合成请求固定模型版本、并发、缓存状态和重试策略分别运行串行方案与 DAG 方案。请求数量由环境容量决定不预设为固定次数。按任务类型拆分结果避免一个均值掩盖长上下文或工具超时。表格先保留字段运行测试后再填值指标采集来源比较时必须固定的条件P50、P99 与 TTFT入口 Trace、模型调用 Trace请求集、并发、模型版本、缓存和重试Prompt / Completion Token模型 usage 记录Prompt 模板、工具返回与输出质量要求单次费用实际 Token 与当前价格表计费区域、缓存折扣和失败重试完成吞吐与任务成功率负载工具、任务判定器实例资源、到达率和质量门槛只有输出质量与错误率没有退化才能把延迟或费用变化归入收益并行化和裁剪只是待验证的原因。5. 架构治理与工程防线总结AI 应用落地不能只等模型自身提速还要把依赖关系、上下文和预算做成可观测的工程约束。在搭建多 Agent 协作系统时建议遵循以下工程规范阻断无选择的 Context 透传每个 Agent 仅能读取其执行当前任务所必需的最小数据集合。构建基于 DAG 的异步拓扑明确 Agent 之间的依赖关系对于无依赖关系的节点采用异步并发调用。建立 Token 预算与延迟监控告警线上持续监控各个 Agent 节点的 P99 耗时与 Token 输入输出比例当 Prompt Token 出现异常增长时及时触发熔断与排查机制。将延迟、Token、错误率和任务质量放进同一张监控视图才能判断这次改图或裁剪究竟有没有改善。

相关新闻

基于微信小程序的社区维修服务平台系统(毕设源码+文档)

基于微信小程序的社区维修服务平台系统(毕设源码+文档)

温馨提示:本人主页置顶文章(点我)开头有 CSDN 平台官方提供的学长联系方式的名片! 温馨提示:本人主页置顶文章(点我)开头有 CSDN 平台官方提供的学长联系方式的名片! 温馨提示:本人主页置顶文章(点我)开头有 CSDN 平台…

2026/11/6 1:55:07 阅读更多 →
AI Agent开发实战:从零构建具备自主规划与执行能力的智能体

AI Agent开发实战:从零构建具备自主规划与执行能力的智能体

最近在AI领域,一个重磅融资消息引发了广泛关注:AI初创公司River AI宣布完成了高达11亿美元的B轮融资,由知名风投General Catalyst领投。这不仅是今年AI赛道最大规模的融资之一,也标志着AI Agent(智能体)技术…

2026/11/6 9:01:27 阅读更多 →
雨晨 Windows 11 IoT 企业版 LTSC 26H1 特制 28000.2796

雨晨 Windows 11 IoT 企业版 LTSC 26H1 特制 28000.2796

基于UUPDL-28000.1.251103-1709.BR_RELEASE_CLIENTPRO_OEMRET_X64FRE_ZH-CN.ISO镜像离线装载制作,添加Windows11.0-KB5120996-x64.msu更新(通过自制LTSC特征包安装转换,非简单添加SKU,可以通过Dism /Online /Get-CurrentEdition和…

2026/11/15 4:45:04 阅读更多 →

最新新闻

Electron桌面应用开发实战:从环境搭建到打包发布全流程

Electron桌面应用开发实战:从环境搭建到打包发布全流程

做前端这些年,我大部分时间都在跟浏览器标签页打交道,直到第一次把桌面应用跑起来,才发现原来自己一直被限制在地址栏和刷新按钮围起来的框框里。Electron这个词,最开始是在某段时间频繁出现在同事的讨论里,一个用HTML…

2026/11/16 8:22:12 阅读更多 →
滑盖智能锁T109深度解析:结构原理、安装调试与故障排查

滑盖智能锁T109深度解析:结构原理、安装调试与故障排查

简介:亚太天能T109滑盖智能锁产品说明书是一份PDF格式的官方技术文档,主要面向智能锁安装人员、终端用户及售后维护者,帮助快速掌握产品安装、配置与常见故障处理。全包仅1个PDF文件,大小4.37MB,内容结构清晰&#xff…

2026/11/16 6:41:34 阅读更多 →
PMSM弱磁控制原理与Simulink建模:高速AGV驱动系统设计指南

PMSM弱磁控制原理与Simulink建模:高速AGV驱动系统设计指南

上个月我在调试一台高速AGV的驱动系统,整车要求空载跑到8m/s,电机转速已经拉到额定点,驱动器的输出电压也顶到了母线电压极限附近。再往上踩速度指令,转速纹丝不动,三相电流反而开始震荡。那会儿我的第一反应就是&…

2026/11/16 8:22:12 阅读更多 →
C++核心知识点:从内存管理到STL的实战指南

C++核心知识点:从内存管理到STL的实战指南

C 这门语言我前前后后折腾了十几年,用它写过嵌入式驱动、做过游戏服务端,也搭过基础组件库。每次看到新人一头扎进"C 核心知识点"这个搜索词,我其实挺感慨的——这门语言的难点从来不是语法多,而是知识点之间的耦合太深…

2026/11/16 8:22:12 阅读更多 →
T109滑盖智能锁怎么装?安装调试与故障排查全攻略

T109滑盖智能锁怎么装?安装调试与故障排查全攻略

简介:亚太天能T109滑盖智能锁产品说明书以PDF格式发布,适合智能锁用户、安装人员与售后维修人员阅读。内容围绕T109系列指纹密码刷卡锁展开,先介绍前面板、后面板、锁体、机械钥匙、电池盒盖等部件名称与功能,再给出完整安装步骤&…

2026/11/16 7:30:18 阅读更多 →
LLM知识降熵:从信息垄断到理解权下放

LLM知识降熵:从信息垄断到理解权下放

你有没有过这种经历:翻开源码注释、论文摘要或者一份专业报告,每个字都认识,连在一起却像天书。想找人聊聊,身边要么没人懂,要么懂的懒得跟你解释。后来我试着把同一段内容丢给一个大语言模型,几秒钟之后&a…

2026/11/16 8:22:12 阅读更多 →

日新闻

周新闻

月新闻