1. 控制回路理解智能行为的第一个数学框架1.1 为什么要在AGI基础理论里插一节控制论AGI基础理论听起来是个非常“AI”的领域但真正读进去以后你会发现它的祖上其实是控制论。控制论这门学科从诞生那天起就盯着同一个问题系统如何根据目标调整自己的行为。智能体要解决问题、要适应环境、要在不确定条件下做决策本质上就是在“控制”自己与环境的交互结果。我最早接触控制论是因为在做大模型应用时总遇到一个怪现象同样一道指令模型第一次回答可能跑到偏了你在后面补一句“再检查一下”它往往能自己把错误纠回来。这个“再检查一下”其实就是一次反馈修正。开环控制和闭环控制的区别正好能解释这个现象前者是执行完就结束后者是执行完看一眼结果不满意再改。在继续往下拆之前得先把话说明白这里讲的开环、闭环不只是经典自动控制原理里的两个名词它们是理解AGI底层行为逻辑的两块基石。不管你是做模型训练、搞Agent框架还是做Prompt工程本质上都在和这两类控制系统打交道。区别只在于很多人是稀里糊涂在使用而这一节帮你把底层框架真正看清楚。1.2 两个系统的本质差别是否看结果再行动先说容易理解的部分。开环控制的意思是系统按预定步骤执行执行过程不管实际输出是什么样也不会根据输出调整后面的动作。最典型的例子就是老式洗衣机你设定好洗涤时间它就按时间转衣服到底洗没洗干净它一概不管。闭环控制则多了一个关键环节反馈。系统每执行一步都会测量当前的实际结果把这个结果和期望目标进行比较算出误差然后根据误差修正下一步动作。比如空调的恒温控制室温到了设定值就停机偏离了就重新启动。所以这两个概念的分界线不是“有没有目标”也不是“动作复不复杂”而是系统有没有利用实际输出结果来修正自己的后续行为。有就是闭环没有就是开环。这句判断标准看起来简单放到AGI语境里却非常耐人寻味。后面的所有讨论都会围绕这条分界线展开。2. 开环控制按预设规则执行的智能前身2.1 开环系统的结构拆解与一个会翻车的案例标准开环控制系统可以画成一条直链输入信号 - 控制器 - 执行机构 - 受控对象 - 输出。输出信号不会反传回来影响控制器控制器只是按时间表或者固定规则发指令。举个我在模拟项目X里踩过的真实例子。当时要给一批自动问答机器人做一个上线前的质量巡检初版设计很简单每一天把用户问题批量喂给模型模型生成回答脚本把回答统一落库然后直接对外发布。整个流程没人看回答质量也没人对回答做二次校验。这完全就是开环控制输入进了输出出来流程结束。上线第三天问题就暴露了。有几个问题模型生成了带有事实性错误的内容但因为流程里没有任何检查环节错误内容就直接被用户看到了。后续复盘时这个问题的本质不是模型能力不够而是整个系统采用了开环设计缺少“输出——测量——纠偏”这一段。模型能力再强开环系统也无法保证输出一定正确。这类案例在AI生产环境里特别多。批量生成、定时调度、离线推理很多模块天然就是开环的。选开环没有错错的是在开环系统里指望它有闭环的纠错能力。这两种系统的能力边界必须从一开始就分清楚。2.2 开环在AI行业中的应用边界开环控制被很多人嫌弃但它仍然是大规模AI系统里不可或缺的方式。原因很简单闭环有成本。每增加一次反馈就多一次感知测量、一次比较判断和一次动作修正。在AGI场景里反馈的代价往往是额外调用一次模型、额外跑一轮检索、额外等待一个外部环境返回结果。某些过程中开环够用就没必要闭环。哪些场景适合开环呢归纳下来有三类。第一类是环境稳定、扰动很小的场景比如固定格式的批量文本改写模板明确、规则清晰模型输出只要在格式范围内就算成功。第二类是单次执行成本低、错误概率也可接受的任务比如生成一个标题建议列表用户自己会筛。第三类是整个过程后续本来就有人工环节兜底比如自动打草稿、自动归档不需要系统自己验证质量。我个人的经验判断是开环不是低级方案它是成本与可靠性的一个权衡点。用不用闭环先看两个问题如果这一步输出错了后续代价有多大如果加反馈来防错额外成本是否可承受两个问题的答案都偏向高成本防御时继续用开环完全合理。3. 闭环控制用误差信号把系统拽回正轨3.1 闭环的完整结构和负反馈的核心逻辑闭环控制系统的标准结构比开环多了一条反向通路。完整的链路是输入信号 - 比较器 - 控制器 - 执行机构 - 受控对象 - 输出然后输出通过传感器测量把测量值送回比较器与目标值作差产生误差信号。控制器的工作本质上是根据这个误差信号来决定下一步动作。这里最核心的概念是负反馈。负反馈的意思是输出偏高了就降低输入输出偏低了就抬高输入。误差信号被用来做反向修正。正因为修正方向与偏差方向相反系统才有收敛的可能。如果反过来做成正反馈误差越大动作越大动作越大误差更大系统迅速发散最后不可收拾。我常用一个非常生活化的例子解释负反馈你去接热水。手放水龙头下感觉烫了就调冷一点感觉凉了就调热一点。整个过程中“手感和期望温度之间的差异”就是误差信号调节阀门的方向永远和误差方向相反。你就是一个闭环控制器。这个例子虽然简单但它把传感器、比较器、控制器、执行器四个角色全部串起来了。3.2 稳定性反馈太强和太弱都会出问题闭环不是加了反馈就万事大吉。反馈系统最微妙的问题出在稳定性和参数调配上。如果反馈修正太弱系统收敛很慢误差一直在如果反馈修正太强系统会矫枉过正输出在目标值附近反复振荡甚至彻底失稳。这个现象在调节热水澡时同样会出现。水温偏冷你猛一下把热水开大结果水一下变太烫你又立刻调回去来回几次水温始终定不下来。这就是典型的阻尼不足、反馈过强。如果每次只稍微动一点水温变化又会特别慢你得在花洒下面站着等半天。把这个现象对应到AI系统里就非常有意思了。让大模型对自己的回答做一轮自我纠错通常是正向效果但如果把同一段内容反复喂回去让它改十轮你会发现后面几轮不仅没有变好反而开始把本来正确的部分也改错。这不是模型傻了而是反馈回路里的误修正在噪声下被放大了。系统在围绕一个其实并不明确的目标反复震荡消耗了计算资源却没有收敛到一个更优解。这也是为什么评价一个闭环系统好不好不能只看“有没有反馈”还得看“反馈增益调得合不合适”。在AGI系统里反馈次数、反馈阈值、反馈依据这三项参数决定了闭环控制是加速收敛还是原地空转。3.3 从温控器到智能体反馈的工程实现路径把闭环控制的抽象框架落成AI工程实际操作上有四个关键元件需要一一实现。第一是目标表达。你必须有一个可判断的期望结果这个结果可以是“回答的事实必须与知识库一致”也可以是“生成的代码必须能通过单元测试”。目标越具体后续的比较越容易做。第二是传感器也就是对实际输出的测量手段。在AI场景里可以是规则检查器、额外调一个验证模型、跑一遍测试脚本或者干脆调用外部工具返回结果。第三是误差计算也就是把测量结果和目标做对比。这里不能只看“对/错”最好能知道偏差方向是缺信息还是格式错这样修正动作才有针对性。第四是控制器也就是决定怎么改。典型的动作是触发一次带错误信息的重写或者换一条检索路径再来一轮。这四个元件都齐了闭环系统才真正跑得起来。很多项目做所谓“带反馈的Agent”实际上只有传感器和重试逻辑目标不明确误差只有二元判断动作也只会“原样重试一次”效果自然很一般。4. 从控制理论到AGI基础理论三种落地视角4.1 推理时间闭环让大模型自己检查自己在AGI基础理论的讨论里推理时间闭环是当前最热的方向之一。大模型一次前向推理得到答案这本身是开环的模型基于已有参数和输入一次生成生成完就结束。要让它具备自我纠错能力就必须在推理链路外部加上反馈回路。常见做法是在第一轮生成之后额外增加一个验证动作。这个验证动作可以由同一个模型来做也可以由另一个模型来做甚至可以是规则函数来执行检查。验证得到的结果作为反馈信号携带进入第二轮生成。例如我在某辅助编程单元里跑过的一个方案让模型先写一段函数然后立刻调用编译器做语法检查再把编译报错信息拼接到原问题后面让模型在错误上下文里重写。这就是一个标准的闭环修正流程。值得提醒的是推理时间闭环消耗的计算量会成倍增加。每一轮验证加重写成本大约是开环执行的2到3倍。在工程上要控制循环次数上限并设定明确的退出条件要么误差足够小要么达到最大轮次。否则反馈回路可能变成吞算力无底洞。4.2 与环境交互的闭环工具调用和重试机制AGI系统一旦接上了外部工具闭环控制的含义就更丰富了。外部环境本身就是一个天然的传感器和执行器组合调用一个搜索API返回的结果就是测量值根据返回内容决定是否换关键词重新搜索就是控制器的修正动作。我做过一个信息抽取工具接了一个外部天气数据源。第一次调用模型让它“查一下今天某城市的天气并告诉我该不该带伞”——开环版本是模型凭记忆生成回答只在前端跑一条静态规则。一旦把工具调用接进去整个流程就变成模型生成查询参数 - 调用天气API - 拿到气温雨量数据 - 把这些真实数据带回给模型 - 模型基于重新生成的回答做判断。后者的回答质量明显好过前者因为它从环境中拿到了真实验证信息。工具调用里的闭环还有一个容易忽略的细节要做“基于反馈语义的重试”不要做“同一句话反复重试”。比如搜索返回是空的下一步动作应该是修正查询关键词而不是原样再搜一遍。这个设计原则本质上就是控制器要用误差方向来指导动作而不是简单重复。4.3 学习过程闭环强化学习中的奖励反馈开环和闭环的区分往训练阶段延伸正好对应到监督学习和强化学习之间一个容易被误解的边界。监督学习一次配对一次预测预测错了就根据标签修正参数本质上训练环节是有反馈的。但如果我们只看单次推理阶段模型输出不再由新数据修正这个阶段又呈现开环特征。最完整的闭环学习范式是强化学习。智能体执行动作 - 环境返回奖励信号 - 智能体更新策略 - 再执行新动作。这条回路中奖励信号就是反馈信号策略更新就是控制器修正整个训练过程是一个持续进行的闭环控制系统。这里面有个概念要特意拎出来讲奖励信号的质量直接决定闭环是否收敛。如果奖励函数给得不准确反馈方向本身就是错的系统会把错误行为越练越稳。这种情况类比控制理论的话相当于传感器测量出了系统性偏差负反馈变成了表面上的负反馈、实际上的错误引导。所以做强化学习项目时我一般先花大量时间校准奖励信号再谈训练参数。很多项目效果上不去不是训练技巧不行是反馈源头就是脏的。5. 我的工程实践总结反馈不是越多越好5.1 一个模拟项目里的闭环改造实录用一个我近期的模拟项目X来说说闭环改造的完整过程。这个项目是做一批行业资料的智能摘要初版方案非常简单粗暴把长文档切段分段喂给模型生成摘要拼接后直接输出。跑起来是能用但摘要经常出现前后矛盾、重要信息被遗漏的问题。第一轮改造我在流程里加了“关键信息比对”环节。做法是先生成摘要再把原文里的关键实体和摘要里的关键实体做一次匹配找出遗漏实体然后把遗漏信息作为反馈补回去生成第二版摘要。这一轮改造的效果很明显实体覆盖率从71%升到了89%。第二轮改造我又加入了“逻辑连贯性检查”。这次不是找实体遗漏而是检查摘要局部的句子因果逻辑是否完整。反馈信号是逻辑断裂的位置描述控制器提示模型重点修补对应区域。这一轮完成后人工评审的可用率从62%提升到了84%。但第三轮改造我没继续加反馈轮数反而做了一件事给反馈循环设了上限。最多重写两轮两轮之后无论结果如何直接输出。实测下来第三轮重写经常和第二轮结果差异极小但成本上升了50%。这说明该收敛的时候就得切断回路开环收尾和闭环纠错一样重要。5.2 实操中绕不开的四个避坑提示第一传感器精度决定反馈天花板。如果你的验证方式本身就很粗糙反馈信号里噪声太多再好的控制器也救不回来。宁可多花成本做一个可靠的验证步骤也不要为了省钱用一个凑合的检查函数。第二反馈动作要携带具体的偏差信息。只告诉模型“你的答案不对”模型往往不知道哪里不对。把错误类型、错误位置、期望要求一并放进反馈文本里修正的成功率会明显上升。这个经验适用于绝大多数大模型闭环场景。第三时刻控制回路成本。多数AI闭环系统的开销随轮数线性增长而收益会快速递减。建议在系统设计阶段就定好最大反馈轮次并把退出条件写清楚。不要寄希望于让系统自己判断“该停了”它会倾向于一直改下去。第四区分正反馈与负反馈的使用场景。负反馈是纠错用于让系统回归目标正反馈是放大用于让系统朝某个方向增强。在Agent系统里如果你希望模型保持某种风格就要给正向强化信号如果你希望它纠正某个错误倾向就要给负向修正信号。混用两者系统行为会来回摇摆稳定性极差。我自己做这套闭环改造最大的体会是给系统加反馈很容易难的是给系统设计“恰到好处”的反馈。反馈少了系统对于微小偏差视而不见反馈多了系统把噪声当成了信号越修正越离谱。这个平衡点只能靠具体场景里的数据说话。把开环和闭环控制真正当成一套可调节的机制而不是一个“有或没有”的功能开关AGI系统的设计思路才会真正打开。