摘要工作流适合确定路径Agent 适合不确定任务选错会让系统要么僵硬要么失控。目录为什么这个话题值得单独写一句话先讲清楚真实业务场景拆解架构上应该怎么分层Java 后端最小建模方式正确做法和错误做法对比关键流程图上线前检查清单可以继续扩展的方向总结1. 为什么这个话题值得单独写很多 AI 应用的第一版都很快接模型、写 Prompt、加接口、前端页面能问答Demo 就算完成。可一旦放到真实业务里问题会立刻变复杂。用户不会只问概念题他们会把真实任务丢给系统让它查资料、看日志、读告警、调用接口、生成建议甚至希望它自动完成一部分操作。工单审批、日报生成、固定问答更适合工作流故障诊断、复杂排查、开放式资料分析更适合 Agent。但 Agent 也不能无限自由需要步数、工具、权限和预算边界。这类问题单靠“换一个更强模型”解决不了。模型能力决定上限但工程边界决定系统能不能上线。Java 后端原本就要处理权限、审计、日志、事务、并发、限流、降级和数据隔离。AI 接进来以后这些能力不会消失反而更重要。因为大模型不是普通函数它可能输出不稳定可能把资料理解错也可能把用户一句模糊请求扩展成真实动作。所以这篇文章的重点不是追新词而是回答一个更实际的问题AI 工作流和 Agent 有什么区别一个靠流程编排一个靠动态决策 这件事放进一个 Spring Boot 或企业后端系统里到底应该怎么设计2. 一句话先讲清楚工作流适合确定路径Agent 适合不确定任务选错会让系统要么僵硬要么失控。如果用工程语言翻译就是下面这张表维度关注点不能偷懒的地方输入用户问题、身份、上下文、业务参数输入校验和权限判断过程检索、推理、工具调用、格式化每一步都要可观测输出自然语言、JSON、建议动作、引用来源输出必须可解析、可校验风险幻觉、越权、超时、成本、误操作后端兜底和人工确认复盘日志、trace、版本、召回内容出错后能定位原因把 AI 能力看成“后端链路里的一环”很多问题就清楚了。模型可以参与决策但不应该成为唯一边界模型可以生成建议但系统必须决定能不能执行模型可以组织答案但后端要校验格式、权限和风险。3. 真实业务场景拆解拿企业内部系统举例用户的真实问题通常不是“请解释一下概念”而是这种带上下文、带业务后果的问题这个告警为什么触发这段日志看起来哪里异常这份知识库资料和当前现象是否匹配能不能帮我生成下一步排查步骤这个操作是否需要人工确认如果资料不足系统应该直接回答还是追问如果后端没有边界模型很容易给出“看起来完整”的回答。但完整不等于可靠。真正的系统至少要回答这几个问题问题为什么重要它看到了哪些上下文决定回答依据是否正确它调用了哪些工具决定是否越权和可审计它输出是否符合格式决定后端能否继续处理它有没有触发风险动作决定是否需要人工确认出错后能不能重放决定是否能持续改进这也是我建议你写这类文章时多放“真实场景”的原因。概念文章很多但能把概念放进工单、告警、知识库、Dify、Spring Boot 调用链里拆的人不多。4. 架构上应该怎么分层一个最小但能上线的设计不要让 Controller 直接调用模型。建议至少拆成下面几层mermaid flowchart TD A[Controller/API] -- B[Application Service] B -- C[AI Gateway] C -- D[Context Builder] C -- E[Policy Guard] C -- F[Model Client] C -- G[Tool/RAG Adapter] D -- H[Prompt Context] E -- I[权限/限流/审批] F -- J[模型响应] G -- K[外部资料或工具结果] J -- L[Parser Validator] K -- L L -- M[业务结果]这张图的核心不是多加几层而是把职责拆清楚模块作用典型问题AI Gateway统一模型调用入口避免到处散落模型调用代码Context Builder组装用户问题、历史、知识库、工具结果避免随手拼 PromptPolicy Guard做权限、风险、限流、审批避免只靠模型自觉Tool/RAG Adapter对接知识库、MCP、数据库、内部接口避免模型直连生产系统Parser Validator解析和校验模型输出避免原样相信模型结果这个拆法很适合 Java 后端因为它和我们熟悉的网关、服务层、适配器、校验器很接近。5. Java 后端最小建模方式可以先从请求对象开始java public record WorkflowRun( String requestId, String userId, String question, String scene, MapString, Object context ) {}响应不要只放一个字符串。至少要带状态、风险、引用和错误码java public record AiResult( boolean success, String answer, String riskLevel, ListString citations, String errorCode ) {}如果涉及工具调用、RAG 或 Agent 步骤还要记录过程java public record AiTraceStep( String requestId, int stepIndex, String stepName, String inputSummary, String outputSummary, long latencyMs ) {}核心调用可以保持很简单java public AiResult handle(WorkflowRun request) { policyGuard.check(request.userId(), request.scene()); String context contextBuilder.build(request); String raw modelClient.call(context); AiResult result outputParser.parse(raw); return validator.validate(result); }这段代码没有复杂框架但它把几件事固定住了权限先于模型Prompt 集中组装输出必须解析结果必须校验。6. 正确做法和错误做法对比容易误解的做法后果把所有流程都做成 Agent会让系统不可控或不可复盘把开放任务硬塞进固定流程会让系统不可控或不可复盘工作流节点没有失败分支会让系统不可控或不可复盘Agent 没有停止条件会让系统不可控或不可复盘更适合上线的做法好处确定流程用工作流更适合生产环境不确定任务用 Agent更适合生产环境工作流保留兜底节点更适合生产环境Agent 限制步数和工具范围更适合生产环境这里最关键的是不要把 Prompt 当成安全边界。Prompt 可以提醒模型但不能代替权限系统、参数校验、风险策略和审计日志。凡是涉及数据读取、工具执行、生产动作、成本消耗的地方都要回到后端代码里判断。7. 关键流程图这类能力的请求链路可以简化成下面这样mermaidflowchart LRS1[判断任务确定性]S2[选择工作流或 Agent]S1 -- S2S3[配置节点/工具]S2 -- S3S4[处理失败分支]S3 -- S4S5[记录运行态]S4 -- S5S6[评测效果]S5 -- S6这条链路里每一步都应该留下最小日志。日志不是为了好看而是为了出错后能回答三个问题模型当时看到了什么它为什么这样输出下一次怎么避免建议日志字段至少包含字段作用requestId串联一次完整请求userId做权限和问题归因scene区分不同 AI 能力promptVersion复盘 Prompt 变更model对比不同模型效果contextRefs记录知识库或工具来源latencyMs排查性能问题errorCode统计失败类型8. 上线前检查清单发布前可以直接按这个清单过一遍任务路径是否固定是否需要动态决策失败分支是否完整成本是否可控是否有 requestId 和完整调用日志是否记录模型、Prompt 版本和上下文来源是否设置超时、重试、限流和熔断是否支持降级或人工接管是否有固定评测样本做回归这些检查项看起来普通但它们决定 AI 应用是 Demo 还是生产系统。9. 可以继续扩展的方向如果第一版已经跑通后续可以继续补这些能力方向什么时候需要评测集每次改 Prompt、模型、RAG 参数前后都要对比灰度开关新模型或新 Agent 不适合一次性全量上线成本看板用户量上来后必须知道 token 消耗在哪里权限策略表多租户、多部门、多工具场景必须配置化Trace 回放线上问题要能复现当时上下文不要一开始就做大平台。第一版先把主链路、日志、权限、校验跑通再逐步补齐。深度实战补充把 AI 工作流和 Agent 放进真实项目里上面讲的是主链路但真正写项目时最容易出问题的往往不是第一天的接入而是第二周、第三周开始出现的边界问题。固定审批、日报生成、表单抽取更适合工作流故障排查、开放问答、多工具分析更适合 Agent。 这类场景看起来像一个 AI 功能其实拆开以后至少包含用户身份、业务参数、上下文来源、模型调用、后端校验、日志审计和人工兜底几个环节。我建议把它当成一个普通后端能力来做而不是当成一段 Prompt。普通后端能力意味着输入要校验权限要判断过程要留痕失败要分类输出要稳定线上要能灰度。AI 只是其中一个处理节点不应该绕过这些工程规则。确定流程交给 Agent 会增加不稳定性开放任务硬塞进工作流又会让流程节点爆炸。 这也是很多 AI 项目 Demo 和生产差距最大的地方。Demo 只要看起来能答生产系统要能解释为什么这么答、基于什么资料答、是否有权限答、失败后怎么恢复。尤其是企业内部系统用户问的问题往往和业务数据、内部文档、生产操作有关不能只看模型回答是否流畅。可以直接落地的设计拆分层级应该负责什么不应该负责什么Controller接收请求、拿到用户身份、做基础参数校验不直接拼 Prompt不直接调用模型Application Service组织一次完整 AI 任务不关心具体模型供应商细节AI Gateway统一模型调用、超时、重试、日志不写业务权限规则Policy Guard权限、风险、限流、审批判断不生成自然语言答案Context Builder组装 Prompt、历史、RAG、工具结果不执行生产动作Validator校验 JSON、引用、风险等级和业务规则不相信模型自报安全这个拆分并不复杂但能避免所有逻辑堆在一个 sk() 方法里。很多项目后期难维护就是因为一开始为了快把 Prompt、RAG 检索、工具调用、日志、权限全写在同一个 Service 里。等需求一多任何改动都会影响整条链路。更贴近 Java 项目的代码组织javaRestControllerRequestMapping(“/api/ai”)public class AiController {private final AiApplicationService aiApplicationService;PostMapping(/run) public AiResult run(RequestBody AiRequest request) { return aiApplicationService.run(request); }}java Service public class AiApplicationService { public AiResult run(AiRequest request) { policyGuard.check(request.userId(), request.scene()); AiContext context contextBuilder.build(request); String raw aiGateway.call(context); AiResult result outputParser.parse(raw); return resultValidator.validate(result, context); } }这段代码没有炫技但边界是清楚的。以后要替换模型只改 iGateway要调整上下文只改 contextBuilder要加强安全只改 policyGuard要排查线上问题就查 requestId 对应的 trace。最容易被忽略的几个字段字段为什么必须记录requestId没有它就无法串起前端、后端、模型和工具日志promptVersionPrompt 改动会直接影响效果必须能回溯contextRefs要知道本次回答用了哪些文档、工具结果或历史记忆model不同模型表现不同排查时必须能区分latencyMsAI 接口慢最终会拖垮用户体验和线程池riskLevel后续审批、兜底、人工接管都依赖风险等级errorCode不能所有失败都叫系统异常否则无法统计改进如果只能先做一件事我会先做日志和 trace。没有 trace任何 AI 问题最后都会变成“感觉模型不稳定”。有 trace至少能判断问题发生在输入、检索、工具、模型、解析还是后处理。结合 CSDN 文章写法的建议这篇文章发布时不要只把概念讲完可以加一个“我在后端项目里会怎么拆”的小节。读者真正关心的不是名词定义而是自己项目遇到类似问题时该怎么动手。你可以把 确定性、动态决策、失败分支、成本上限 这些点做成一张表再配一张架构图文章可读性会比纯文字强很多。另外代码不要堆太多完整工程。CSDN 文章里最合适的是小而完整的片段一个请求对象、一个 service 方法、一个日志字段表、一个上线检查清单。读者看完能记住结构而不是被大量无关代码淹没。再补一个真实排查视角上线后怎么判断它有没有做好很多文章写到架构图就结束了但真实项目上线后最需要的是一套排查方法。判断 AI 工作流和 Agent 有没有做好不是看 Demo 回答是否顺滑而是看它在异常情况下是否还能被定位和控制。工作流和 Agent 的文章要讲选择标准稳定重复的任务交给工作流不确定且需要探索的任务交给 Agent但 Agent 仍然要受规则约束。我一般会从四个角度检查。第一看输入是否干净。用户输入里有没有缺少必要参数有没有超长文本有没有明显越权意图有没有把上一轮上下文误带进这一轮如果输入阶段不处理后面模型回答再漂亮也可能是建立在错误前提上。第二看上下文是否可追踪。凡是进入模型的资料、历史、工具返回都应该能在日志里找到来源。尤其是 RAG 和工具调用场景必须能看到 docId、chunkId、toolName、toolArgs、toolResultSummary。否则用户问“你为什么这么说”系统只能回答不出来。第三看输出是否可执行。AI 返回一段自然语言不等于任务完成。后端要判断它是否满足格式要求是否包含必要字段是否引用了资料是否触发高风险规则是否需要人工确认。如果要进入业务流程最好先转成结构化结果再由业务代码继续处理。第四看失败是否可恢复。模型超时怎么办知识库没召回怎么办工具返回空怎么办JSON 解析失败怎么办用户权限不足怎么办这些失败都不应该用一个“系统异常”糊过去而应该有明确错误码和降级方案。排查角度要看的证据常见改进动作输入requestId、userId、scene、原始问题摘要增加参数校验和长度限制上下文promptVersion、contextRefs、retrievedChunks调整上下文优先级和召回策略输出rawOutput、parseStatus、validationErrors增加 Schema 校验和失败重试风险riskLevel、approvalId、toolPolicy增加审批、只读工具和回滚记录反馈用户评价、人工修正、失败样本回流到评测集如果你要把这篇发到 CSDN我建议在结尾加一句很有辨识度的话AI 应用不是把模型接进系统而是把不确定的模型关进确定的工程边界里。这个表达既适合 Java 后端读者也能把文章从普通概念文拉到工程实践文。发布前再加一段个人经验如果这篇文章要更像个人技术博客而不是资料整理我建议你在发布前结合自己的项目经历补一两句“我为什么会关注这个问题”。比如你可以写我一开始也以为 AI 应用最难的是模型效果后来发现真正折磨后端的是调用链路不可控。用户看到的是一句回答后端要处理的是权限、上下文、工具、日志、成本和失败兜底。这个视角很重要因为它能把文章从“AI 概念科普”变成“后端工程复盘”。还有一个写法是把文章里的检查清单变成自己的开发习惯每接一个 AI 能力先问五个问题。有没有 requestId有没有 promptVersion有没有权限过滤有没有输出校验有没有失败样本如果这五个问题答不上来说明这个功能还停留在 Demo 阶段不适合直接进入生产环境。这样的补充不需要很长但能让读者感觉文章来自真实开发经验而不是把几个概念拼在一起。尤其是 CSDN 的读者大多希望看完以后知道自己项目里下一步怎么改所以“经验 清单 小代码片段”的组合比单纯解释名词更容易被收藏。10. 总结工作流适合确定路径Agent 适合不确定任务选错会让系统要么僵硬要么失控。真正能落地的 AI 应用最后一定会回到工程问题输入是否可信过程是否可观测输出是否可校验失败是否可降级风险是否可控制。