LLM 业务级可观测
monitoring-agent 说全绿用户却炸了redis / postgres / 网关都活着但本月 LLM 账单翻三倍且回答质量肉眼下滑。组件级健康监控《系统健康监控巡检》管不了业务维度的健康——组件活着 ≠ 服务健康。核心论点传统组件健康看不到 LLM 特有的 golden signal黄金信号token 成本、P99 延迟、回答质量退化。LLM 平台的可观测要分两层组件活着《系统健康监控巡检》只是地基token / 延迟 / 质量这三盏灯才是服务还健不健康的答案。组件健康 vs 业务健康两个维度维度回答的问题谁负责组件健康谁挂了、影响面多大《系统健康监控巡检》拓扑矩阵业务健康花了多少、慢不慢、答得对不对本篇LLM 平台专属三大 golden signalLLM 专属signal含义为什么重要token 流速与成本突增单位时间 token 消耗异常往往先于账单暴露浪费或循环调用P99 延迟99 分位延迟绝大多数请求都比它快均值掩盖长尾P99 才反映真实体感质量退化幻觉率上升、偏离预期格式、答非所问最隐蔽也最伤体验数据从哪来网关已埋点监控侧聚合层数据源职责网关层Langfuse 链路追问链路 Prometheus 指标token/延迟业务信号源头监控侧在组件矩阵外另建业务级看板聚合这些信号不重复《系统健康监控巡检》存活矩阵决策数据源在网关唯一出口聚合在监控职责边界和《系统健康监控巡检》一致。⚠️ Langfuse 存完整对话是最大 PII 落点之一——按《合规护栏》跨平面原则trace导出前必须经脱敏引擎脱敏完整跨平面处置见《合规护栏》总表否则网关在模型侧的脱敏白做。质量退化怎么发现组件探针做不到方法实现在线 eval / 抽样打分对回答做自动化质量评估用户反馈回路踩/赞、纠错作为质量信号回灌决策质量不是通不通是好不好只能靠评估与反馈不能靠探针。与告警 / 自愈联动信号处置衔接篇成本突增触发预算熔断《成本治理与限流》质量退化触发降级或人在回路《自动操作回复与自愈闭环》安全边界价值业务信号不是看完板是驱动《系统健康监控巡检》/《自动操作回复与自愈闭环》的处置动作。业务级告警规则已落地规则触发条件级别GatewayCostSpike5m 速率 2×1h 基线P2与《成本治理与限流》预算联动GatewayP99LatencyHighP99 10s 持续 5mP2GatewayLoopStorm循环熔断 1/s 持续 5mP2联动《自动操作回复与自愈闭环》GatewaySafetySurge注入拦截治理异常 0.5/s 持续 10mP3可用性服务失联P1业务级看板6 面板请求速率 / P99 / token 速率 / 循环 / 缓存命中 / 安全拒绝。延迟/成本/循环面板分别复用《系统健康监控巡检》/《成本治理与限流》/《自动操作回复与自愈闭环》已注册指标告警 expr 即看板面板查询确保看得到就能告警。核心要点LLM 平台的可观测要分两层组件活着《系统健康监控巡检》只是地基token / 延迟 / 质量这三盏灯才是服务还健不健康的答案。三大 golden signaltoken 流速与成本突增、P99 延迟、质量退化——均值掩盖长尾P99 才反映真实体感。数据源在网关唯一出口聚合在监控职责边界和《系统健康监控巡检》一致。质量不是通不通是好不好只能靠在线 eval 用户反馈回路不能靠探针。业务信号不是看完板是驱动《系统健康监控巡检》告警与《自动操作回复与自愈闭环》自愈的处置动作。

相关新闻

3分钟掌握WeMod Pro功能解锁:Wand-Enhancer完全指南

3分钟掌握WeMod Pro功能解锁:Wand-Enhancer完全指南

3分钟掌握WeMod Pro功能解锁:Wand-Enhancer完全指南 【免费下载链接】Wand-Enhancer Advanced UX and interoperability extension for Wand (WeMod) app 项目地址: https://gitcode.com/GitHub_Trending/we/Wand-Enhancer WeMod作为广受欢迎的游戏修改工具&…

2026/10/14 16:54:34 阅读更多 →
3步快速出图,1分钟搞定详情页,蛤蟆AI电商已成为电商人的制图必备工具!

3步快速出图,1分钟搞定详情页,蛤蟆AI电商已成为电商人的制图必备工具!

做电商的人,大多都经历过被视觉素材拖垮过运营节奏。新品入库急着抢占平台流量活动,美工排期排满,明确告知整套主图、详情页至少要等三五天;好不容易等到设计稿交付,主图视觉平淡、卖点模糊,上架后点击率持…

2026/10/16 6:22:43 阅读更多 →
企业微信iPad协议智能机器人开发指南

企业微信iPad协议智能机器人开发指南

1. 企业微信iPad协议智能机器人概述企业微信作为国内主流的企业级通讯工具,其iPad版本协议因其独特的交互特性和系统权限,成为开发智能机器人的理想平台。与PC端和移动端相比,iPad协议在保持企业微信完整功能的同时,提供了更稳定的…

2026/10/15 11:49:11 阅读更多 →

最新新闻

nvidia-smi命令找不到?从驱动到容器彻底排查与修复指南

nvidia-smi命令找不到?从驱动到容器彻底排查与修复指南

“nvidia-smi: command not found”大概是 Linux 装显卡驱动时最经典、也最让人摸不着头脑的报错。我第一次遇到是在一台刚装完系统的服务器上,当时还以为是显卡坏了,折腾半天才发现只是驱动没装上。后来搞多了就明白,这个报错本身不复杂&…

2026/10/16 7:57:16 阅读更多 →
大模型上下文管理实战:Token预算、记忆分层与检索召回

大模型上下文管理实战:Token预算、记忆分层与检索召回

前几天我和一朋友调试他做的对话机器人,本来前期测试一切正常,结果聊到第 20 轮的时候,模型突然开始答非所问。他问了一句“我刚才不是说过了吗”,系统毫无反应。我打开日志看了一眼 Token 消耗,心里大概就有数了&…

2026/10/16 7:57:15 阅读更多 →
多模态Agent实战:Harness编排与MCP工具接入的工程架构解析

多模态Agent实战:Harness编排与MCP工具接入的工程架构解析

1. 多模态 Agent:从“能聊”到“能干”的跨越最近这半年,我几乎把所有业余时间都砸在了一个Agent开发项目上。说实话,市面上讨论Agent的声音很多,但真到了自己动手把一个大模型多模态应用和一个可编排的Harness框架、再加上MCP协议…

2026/10/16 7:57:15 阅读更多 →
STM32 FFT频谱分析实战:采样、窗函数与幅值标定指南

STM32 FFT频谱分析实战:采样、窗函数与幅值标定指南

简介:面向STM32F1单片机实现FFT的资源包,适合嵌入式开发者和数字信号处理初学者,系统讲解在Cortex-M3内核上完成快速傅里叶变换所需的算法原理、内存管理、中断定时触发、CMSIS-DSP库应用以及误差与低功耗优化等关键环节。压缩包共225个文件&…

2026/10/16 7:57:15 阅读更多 →
共享内存FIFO:信号量+环形缓冲实现进程间高频通信

共享内存FIFO:信号量+环形缓冲实现进程间高频通信

简介:ShmFifo源代码C版是一份聚焦共享内存与信号量协同工作的进程间通信示例,适合正在学习Linux IPC机制、需要实现多进程高效数据交换的开发者。资源由C语言过程调用版本改造而来,把一块共享内存与互斥、满、空三个信号量封装成C类&#xff…

2026/10/16 7:57:15 阅读更多 →
共享内存与信号量:C++跨进程FIFO队列源码深度解析

共享内存与信号量:C++跨进程FIFO队列源码深度解析

简介:面向系统编程学习者与 Linux 环境开发者,这份 C 版 ShmFifo 源码包演示了共享内存与信号量的结合实践:将一块共享内存和 mutex、full、empty 三个信号量封装为 ShmFifo 类,并提供写入、读取、释放与测试代码,适合…

2026/10/16 7:56:15 阅读更多 →

日新闻

个人 AI Agent 平台接入 TaoToken:统一 Key 与 API 通道的配置大纲

个人 AI Agent 平台接入 TaoToken:统一 Key 与 API 通道的配置大纲

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/16 0:00:05 阅读更多 →
信号与系统频域分析作业解题指南

信号与系统频域分析作业解题指南

1. 作业背景与核心要求解析信号与系统作为电子信息类专业的核心基础课,其作业设计往往直接关联课程的核心知识框架。2026年春季第六次作业的布置,通常对应着课程进展到频域分析的关键阶段。根据常规教学进度推测,本次作业可能涉及以下核心内容…

2026/10/16 0:00:05 阅读更多 →
Django MVT实战:从零构建图书借阅系统,彻底搞懂Model-View-Template分层

Django MVT实战:从零构建图书借阅系统,彻底搞懂Model-View-Template分层

1. 从一个"四不像"的练手项目说起如果你已经看完了Django的官方教程前几章,跟着敲完了投票应用,大概会有一种"我好像会了,又好像什么都不会"的割裂感。教程里每个知识点都是拆开的——这一章讲模型,下一章讲视…

2026/10/16 0:00:05 阅读更多 →

周新闻

流感时间序列预测实战:ARIMA/LSTM全流程拆解与避坑指南

流感时间序列预测实战:ARIMA/LSTM全流程拆解与避坑指南

简介:基于 ARIMA、LSTM、Transformer 等模型的流感时间序列预测 Python 源码,面向计算机相关专业课程设计与期末大作业学生,以及项目实战学习者。内容覆盖预处理、平稳性检验、定阶、残差分析、多模型对比预测的完整时序建模流程,…

2026/10/15 16:18:54 阅读更多 →
影刀RPA新手教程:键盘模拟输入实战——输入文本与模拟按键的区别

影刀RPA新手教程:键盘模拟输入实战——输入文本与模拟按键的区别

影刀RPA新手教程:键盘模拟输入实战——输入文本与模拟按键的区别 做影刀RPA自动化,十个新手有八个栽在"往输入框里填东西"这件事上:要么填不进去,要么填了一半,要么直接把原来内容追加在后面。这背后的根因&…

2026/10/15 19:41:51 阅读更多 →
影刀RPA新手教程:阅文起点小说数据采集实战——书籍信息与章节内容

影刀RPA新手教程:阅文起点小说数据采集实战——书籍信息与章节内容

影刀RPA新手教程:阅文起点小说数据采集实战——书籍信息与章节内容 1. 认识影刀:什么场景该用RPA采小说数据 起点中文网的页面结构相对稳定——分类榜单、书籍详情、章节内容三块独立页面,跳转链路清晰。这种场景非常适合影刀自动化&#x…

2026/10/15 13:48:15 阅读更多 →

月新闻

我发现了一个新思路:用 Remotion + Claude Code 像写代码一样自动化生成短视频

我发现了一个新思路:用 Remotion + Claude Code 像写代码一样自动化生成短视频

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/15 0:14:36 阅读更多 →
Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式:TaoToken 统一 Key 配置与验证

Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式:TaoToken 统一 Key 配置与验证

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/16 3:49:43 阅读更多 →
黑夜航拍船只数据集训练YOLOV5模型全流程解析

黑夜航拍船只数据集训练YOLOV5模型全流程解析

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/15 9:49:14 阅读更多 →