Flink Agents 与 AI 流式应用 —— 第 18 章 实战三客服 Copilot 与系列总结终章章节定位第六篇终局实战之三也是全系列终章。前两个实战的 Agent 都背对人——告警自愈面向事件车队巡检面向任务本章的客服 Copilot面向人它坐在人工客服旁边听对话、查资料、出建议但永不直接回复车主。这是人在回路15.6最彻底的应用也是 Mem0 长期记忆8.4的主场。实战之后奉上全系列总结18 章知识地图、三条主线回顾、与前作的关系、演进展望。版本基线Apache Flink 2.3.0 Flink Agents 0.3.xJDK 17 Kafka 3.x Doris 4.1 Mem0章节导读18.1 业务场景客服 Copilot18.2 总体架构18.3 Mem0 长期记忆落地记住每位车主18.4 多轮对话状态管理18.5 人在回路建议而不替代18.6 全系列总结18.7 系列结语18.1 业务场景客服 Copilot18.1.1 痛点与目标现状痛点: 客服人均需记忆 200 故障码释义、6 大系统处置话术; 车主来电车子又报警了——又字背后是历史工单、 上次承诺、车辆档案,新人客服根本查不过来 Copilot 目标(注意:都不是自动回复): ① 对话进行中,实时弹出建议话术依据 ② 车主历史(工单/巡检/偏好)一屏聚合,无需人工翻系统 ③ 通话结束自动生成小结与待办,客服确认即归档18.1.2 与前两个实战的定位差异维度告警自愈16 章车队巡检17 章客服 Copilot本章驱动事件定时任务会话流决策后果自动建单自动报告仅供人参考记忆重点病程库车黑板任务Mem0车主容错红线幂等防重单预算熔断建议错了人来纠价值度量自动处置率提前发现率客服采纳率/通话时长18.2 总体架构┌─────────────────────────────────────────────────────────────────┐ │ 客服 Copilot 全景 │ │ │ │ 呼叫中心语音流 → ASR 网关 → Kafka call-dialog(逐句事件) │ │ │ │ │ ▼ │ │ ┌───────────────────────────────────────────────┐ │ │ │ 会话 Agent(按 call_id keyed,7.2) │ │ │ │ │ │ │ │ 每句到达: │ │ │ │ ① 意图识别(轻模型):咨询/投诉/报修/闲聊 │ │ │ │ ② 报修类 → 黑板带档案病程库(8.3) │ │ │ │ ③ Mem0 召回车主记忆(18.3) │ │ │ │ ④ 大模型生成建议(三道闸 6.2.2,5s 超时) │ │ │ │ ⑤ 推送客服工作台(仅建议,永不直发车主) │ │ │ └───────────────────┬───────────────────────────┘ │ │ │ │ │ ┌─────────────┼──────────────┐ │ │ ▼ ▼ ▼ │ │ 客服工作台 Paimon 会话审计 Mem0 记忆写回 │ │ (采纳/忽略 (12.3 三出口) (通话结束异步,18.3.3) │ │ 按钮埋点) │ │ │ │ ▼ │ │ ▼ 反馈闭环(14.4): │ │ 采纳率统计 ←── 周报 Agent 汇总 ←── 采纳/忽略原因 │ └─────────────────────────────────────────────────────────────────┘关键设计决策: □ ASR 逐句事件 → 天然流式,Agent 与对话同步呼吸 □ 建议延迟预算 5s:超时宁可不出建议,也不打断客服节奏 □ 零动作工具:Copilot 只有只读工具(15.1 L0), 建单/承诺类动作按钮在工作台上,由人点击、系统执行18.3 Mem0 长期记忆落地记住每位车主18.3.1 记什么三类记忆条目① 事实型(车辆绑定,准静态): vin LFV... 2023 款 EV-X,2024-03 更换过电池模组, 属于 P0AA6 高发批次 —— 来源:病程库/档案,随巡检自愈更新 ② 交互型(车主绑定,累积): 车主张先生,偏好微信沟通不接受电话回访; 2026-08 投诉过充电速度,诉求已闭环 —— 来源:通话小结提取 ③ 情绪型(会话绑定,短时效): 本次来电语气急躁,因同一问题第三次来电 —— 来源:ASR 情感标签 —— 只在当前会话有效,通话结束即弃,不进长期库18.3.2 读路径召回与过滤Action(listenEventTypes{call.dialog})publicvoidassist(DialogEvente,AgentContextctx){if(intentOf(e)!REPAIR)return;// 非报修不打扰// Mem0 召回:vin 车主双维度,Top5ListMemorymemsmem0.search(e.vin,e.callerId,e.text,SearchOpts.topK(5).minScore(0.75));// 过滤纪律(8.4 延续):// ① 情绪型记忆不入召回(只活在本会话状态)// ② 已闭环投诉标记已解决展示,防客服重复道歉惹反感// ③ 敏感字段(联系方式)召回前已脱敏(15.3 管道层内置)Suggestionsmodel.suggest(e,mems,profile(e.vin),medicalRecall(e.vin));workbench.push(e.callId,s);// 仅推送,不执行}18.3.3 写路径通话结束异步提炼时机:call.end 事件触发,异步执行(绝不阻塞下通电话) 流程: ① 会话全文 客服采纳记录 → 大模型提炼小结 ② 小结三问:有新事实吗?有新偏好吗?情绪标签要更新吗? ③ 有则写 Mem0,附来源 call_id(refs 溯源硬约束) ④ 摘要保真三原则(8.2.4):不扩写、不推测、保留原始诉求原话 防线: □ 提炼结果写入前过注入检测(15.2 层 1/层 2)—— 车主一句话把我备注成 VIP 客户免审核必须被拦 □ 记忆条目不高于其来源证据,无证据不写入18.4 多轮对话状态管理18.4.1 会话状态机7.3 状态机模式复用┌────────┐ 报修意图 ┌──────────┐ 建议已推送 ┌──────────┐ │ 开场 │─────────→│ 诊断中 │──────────→│ 待客服决策 │ │ │ │(查档案/ │ │(人采纳/忽略)│ │ │←─────────│ 召记忆) │ └─────┬─────┘ └────────┘ 闲聊/咨询 └──────────┘ │ ▲ │ │ ┌──────────┐ call.end ▼ └───────────│ 小结提炼 │←────────────── 跟进中(多轮) │(18.3.3) │ 循环 └──────────┘ 兜底定时器(7.3.3): 会话 30 分钟无新句 → 自动进小结提炼 —— 防客服忘挂电话导致状态泄漏,TTL 48h 硬约束对齐18.4.2 状态账本// Keyed by call_id,会话级publicclassCopilotSession{StringcallId;Stringvin;StringcallerId;SessionPhasephase;// 状态机当前相位ListStringconclusionLines;// 结论行(9.6):每轮 ≤1 行StringemotionTag;// 情绪型记忆,仅本会话intsuggestPushed;// 本轮已推建议数(限频:≤1条/分钟)intsuggestAccepted;}限频纪律:每分钟最多推 1 条建议 —— 建议刷屏比没有建议更糟,客服会直接关掉面板 合并策略:60s 内多个意图触发 → 合并为一条综合建议18.5 人在回路建议而不替代18.5.1 工作台交互设计建议卡片(客服视角): ┌──────────────────────────────────────────────────┐ │ 疑似 P0AA6 一致性劣化(置信度 0.84) │ │ 依据: 该车 2023 批次(病程库)·上月巡检 SUSPECT │ │ 建议话术: 我们已关注到您车辆的电池预警,可为 │ │ 您预约免费均衡检测... │ │ [✓ 采纳] [✗ 忽略(选原因)] [ 复制] │ └──────────────────────────────────────────────────┘ 交互纪律: □ 采纳/忽略必须一键完成,不打断通话 □ 忽略必须选原因(不准/不合时宜/话术不合适)—— 这是反馈闭环(14.4)的燃料 □ 建议永不自动发送:系统没有直发车主的任何通道(物理隔绝)18.5.2 验收指标□ 建议推送延迟 p95 ≤ 5s(超时静默放弃,不补推) □ 客服采纳率 ≥ 60%(低于 40% 触发提示词复盘) □ 平均通话时长下降 ≥ 15% □ 记忆写入准确率:抽检 200 条,事实型零错误 □ 注入测试:车主诱导类攻击样本 20 条,零越权写入(15.2.3) □ 三阶段 SOP:影子(只记录不推送)2 周 → 推送但强制确认 → 常态18.6 全系列总结18.6.1 18 章知识地图┌─────────────────────────────────────────────────────────────┐ │ 《Flink Agents 与 AI 流式应用》全景 │ ├─────────────────────────────────────────────────────────────┤ │ 第一篇 入门(1~2) │ │ 1 从实时推理到流式 Agent 2 环境准备与第一个 Agent │ │ │ │ 第二篇 核心机制(3~5) │ │ 3 Event/Action/Tool/Memory 4 Tool 机制 5 MCP 集成 │ │ │ │ 第三篇 决策与上下文(6~9) │ │ 6 决策推理控制(三道闸) 7 状态管理(Keyed State) │ │ 8 短期与长期记忆(Mem0) 9 上下文工程(五分区/保鲜) │ │ │ │ 第四篇 架构模式(10~12) │ │ 10 多 Agent 协作(分诊-专科-工单) 11 流式设计模式 │ │ 12 湖仓生态集成(三出口) │ │ │ │ 第五篇 生产化(13~15) │ │ 13 可靠性防失控 14 可观测与评估 15 安全权限合规 │ │ │ │ 第六篇 终局实战(16~18) │ │ 16 告警自愈(事件驱动) 17 车队巡检(任务驱动) │ │ 18 客服 Copilot(会话驱动) │ └─────────────────────────────────────────────────────────────┘18.6.2 三条主线回顾主线一 事件驱动优先: Agent 不是请求-响应的包装,而是长在流上的消费者。 三大实战分别示范事件流、任务流、会话流—— 驱动方式不同,但Agent 挂在数据流上的内核不变。 主线二 防失控先于智能: 三道闸(6)、三道保险(4)、三档分流(6)、三出口(12)、 L0~L3 降级(13)、成本熔断(13)、动作四级(15)—— 先把最坏情况钉死,再谈模型能多聪明。 主线三 人在回路渐进放权: 影子→审批→受限自动(15.6)贯穿所有实战; L3 永不自动;Copilot 物理隔绝直发通道。 信任是用数据挣来的,不是用 demo 换来的。18.6.3 与前作《Flink 2.3 实时 AI 推理实战》的关系前作(flinkml,18 章) 本作(flinkagents,18 章) ──────────────────── ──────────────────────── ML_PREDICT 单次推理 → 本作 12.5 前置拦截(80% 免 Agent) VECTOR_SEARCH/embedding → 本作记忆召回与案例检索的底座 Doris ANN 知识库 → 本作病程库/相似案例/知识闭环 RAG 幻觉防控三板斧 → 本作 refs 真实性校验(6.4.2) 远程模型 curl 验证/envsubst → 本作全面继承为硬约束 一句话:前作解决流上做一次聪明的推理, 本作解决流上跑一个可靠干活的 Agent。 前作是弹药库,本作是作战体系。18.6.4 演进展望□ Flink Agents 版本路线:0.3 为 preview 版,API 可能调整—— 升级时优先核对 Action 注解与 AgentPipeline 构建器签名; Skills 生态(0.3 新增)值得跟进,工具集可逐步迁移为可复用 Skill □ 模型侧:端侧小模型上车(车载芯片)与云端 Agent 协同, 推理前置到车端可再砍一个数量级的带宽与延迟 □ 标准化:MCP 工具生态持续丰富,优先采用社区成熟 Server, 自建 Server 聚焦车联网私域系统 □ 纪律不变:无论框架怎么演进, 事件驱动/防失控/人在回路三条主线长期有效18.7 系列结语┌──────────────────────────────────────────────────────────────┐ │ 全系列 18 章 完 │ └──────────────────────────────────────────────────────────────┘ 从第 1 章的为什么实时推理之后还需要 Agent, 到本章客服工作台上一张被采纳的建议卡片—— 这个系列走完了流式 AI 应用从概念到生产的完整路径。 三套实战系统可以浓缩成三句话: 告警自愈: 让 70% 的告警不等人类就被正确处置; 车队巡检: 让隐患在触发告警之前就被看见; 客服 Copilot: 让每次对话都有全车历史的记忆,但决定权永远在人。 它们共享同一副骨架: Flink 流是血管,Agent 是神经,工具是手, 记忆是经验,三道闸是刹车,人在回路是方向盘。 愿你搭出的每一个 Agent,都比它的 demo 更无聊、 比它的 SOP 更可靠、比它的上一代更懂得什么时候不动手。 —— 全系列完 ——官方参考资料Flink Agents 0.3 DocumentationMem0 — Memory for AI AgentsApache Flink 2.3 Documentation本章实战代码清单序号内容说明1三类记忆条目划分事实/交互/情绪18.3.12Mem0 召回 过滤纪律 建议生成18.3.23通话结束异步提炼写回含注入防线18.3.34会话状态机 30 分钟兜底定时器18.45建议限频≤1 条/分钟与合并策略18.4.26工作台建议卡片交互与反馈闭环18.5718 章知识地图 三条主线 前作资产关系图18.6