兜底修复——LLM 错了怎么救
概述前置拦截、收窄空间等措施虽然已经大幅压缩LLM的决策范围但模型的输出仍会存在异常例如明明有数据输出却说没有数据。兜底修复的核心思路是后置纠错分为工具加强、响应验证、双时间字段补跑三部分。整体可提升5~9个百分点指标更大价值是把零散线上报错转为自动化流程。文中也会分享「值改写」这个踩坑反面案例。一、算兜底修复兜底修复和前两层优化的发生位置不同前置拦截提前阻断模型决策收窄空间缩小工具选择范围兜底修复在模型输出后执行纠错。兜底修复仅能捕获带有明显异常特征的输出否则无法生效需依靠前置规则拦截。二、工具加强企业MCP第三方工具可能存在缺陷字段规范错误、功能描述模糊、隐藏依赖未标注。第三篇介绍的工具注册负责解决「工具如何筛选」工具加强则解决「选中后如何正确调用」下面四项优化均在原始工具信息基础上补充。分离注册信息和调用信息注册信息简洁轻量化用于工具筛选调用信息完整详尽用于实际请求执行两类配置分开维护。自定义属性纠错保留工具原生字段额外扩展自定义属性用于修正、补充原始配置。即便第三方工具迭代升级预设的修正规则也不会丢失。落地踩坑场景部分MCP工具将全部参数标记为必填LLM会凭空生成无意义参数工具文档缺失前置依赖、使用限制等关键说明目前为止Spring AI未将outputSchema提供给LLMLLM只能猜测返回数据结构。规则绑定到工具属性上工具和配套校验规则天然绑定。如果把规则统一放在全局配置修改工具时需要跨文件同步容易产生遗漏、冲突。这和第三篇向量嵌入的设计思路一致强耦合的逻辑不要人为拆开。参数校验链路拦截三类参数异常漏传参数缺失时间过滤等条件会返回全量数据造成结果膨胀需要前后端双向校验模型自动追加冗余条件有些情况下LLM会莫名其妙的自动添加无关过滤导致查询范围缩小需要后端识别并剔除多余参数文本与系统内部标识不匹配用户说「X」系统里存的却是 YLLM 无法自行对应。后端映射无法完全解决第三节单独讲。三、反例后端映射越界后端映射属于特定场景处理虽然现在仍保留少量后端映射逻辑但不会新增同类规则存量也计划逐步下线。实现逻辑后端转换用户输入文本为第三方业务系统术语降低用户使用门槛。方案存在缺陷后端直接替用户文本映射用户输入「X组」意图可能是精确匹配也可能是模糊分组。模糊分组时后端自动转换后不会告知用户映射关系。一旦映射出错用户无法定位根因只会认为查询结果有误。相比准确率指标小幅波动用户无法追溯自身查询意图是更大的损失。合理处理方式有两种请求预处理阶段提前和用户确认筛选口径返回结果交还用户确认。四、响应验证即便搭配完善提示词LLM 依旧可能失控需要代码层兜底校验分两层处理。双层防线提示词约束禁止输出「我将调用工具」这类过渡话术禁止虚构 taskId、executionId 等标识这一层可拦截大部分异常代码校验提示词不具备强制约束力模型仍可能失控。第一类虚假工具调用模型未发起工具请求仅输出类似 (工具名(status0, groupBy‘none’)) 的伪代码文本三条规则同时命中才判定异常、触发重试。PATTERN匹配「工具名(参数)」这类工具调用表达式PATTERN 匹配「工具名(参数)」格式正则function isPseudocodeResponse(response):if response 为空: return falseif response 长度 200 字符: return falsematched PATTERN 匹配 response 的首个片段if matched 不存在: return falseif matched 长度 / response 长度 40%: return false外层判断本次 toolResult 为空逐条拆分单规则的误判场景仅校验短文本高匹配、不判断 toolResult工具正常执行后模型回「已按字段 A/B/C 更新完毕」字符短、复述了大量用户原话但 toolResult 非空说明真调了工具——会被误拦截。仅校验短文本空 tool、不判断匹配占比「好的理解了」「这个字段你指的是 order_id」这类短对话是常态——会被误判。仅校验高匹配空 tool、不限制长度需求梳理、方案输出时大量引用用户诉求占比可能超 40%但这是正常产出——会误触发校验。三条规则组合才能精准识别「未调用工具、无有效思考、内容简短」的无效回复。阈值设计逻辑200 字符正常结果反馈通常 100–300 字长篇分析远超 200异常复读通常几十字200 是中间缓冲40% 匹配占比正常引用原文 10–25%异常整段照搬在 60% 以上40% 是中间安全带toolResult 为空二元硬标准直接判定是否真实调用工具。后续如果出现长篇复读这类新异常形态可基于标注样本分位数重新调整阈值。第二类假阴性工具正常返回数据但模型回复无查询结果复用上述判定逻辑执行重试。第三类图表数据前端静默对齐模型生成图表时标签、数值数组长度时常不一致。该场景无法搭建重试闭环仅在前端做兼容处理数组按最短长度截断、缺失值补0、仅修复尾部残缺JSON。选择静默兼容而非重试的原因重复调用会增加接口开销、结果抖动不可控且前端无真值只能修复结构无法校验数值对错。截断至少确定重跑是赌。JSON修复边界仅补齐括号、引号等尾部残缺中间字段大面积缺失时放弃修复原文交给上层做降级处理。这是一处没做闭环的坑。如实写出来不包装成「多层校验」。二次调用设计思路重试提示会明确告知模型上一轮输出格式错误要求使用标准 tool_call 协议附带原始用户请求。全局仅允许重试一次避免死循环代价是放弃了多次修复的可能性。后续优化方向tool_choice配置为required/any要求模型必须调用工具首次采样温度较高时重试切换为确定性生成temperature0。优化收益响应验证单独提升约2个点核心价值是把随机报错转为可观测、可回归、可迭代的标准化异常。五、双时间字段加法式补跑工单场景存在创建、完成两套统计口径用户模糊提问时模型极易选错过滤条件。后端在满足三项条件时自动补跑一轮查询调用工单统计工具、传入起止时间、返回聚合数据条数≤10。分别按创建、完成时间查询两份结果统一交给模型整理展示系统不提前替用户筛选口径。该机制和前置状态拦截形成镜像对比类型 执行时机 处理逻辑状态拦截第二篇 工具选择前 减法剔除无关工具双时间补跑 工具调用后 加法补充另一口径数据二者均为业务硬约束但执行时机、处理逻辑差异较大无法复用同一套通用逻辑。六、三种兜底手段横向对比工具加强 响应验证 双时间补跑触发阶段 LLM调用工具前 LLM输出文本后解决问题 工具配置残缺、参数错误 伪调用、假阴性、图表结构错乱处理方式 补充配置前置参数校验 代码识别异常重试/前端兼容能力局限 无法识别工具返回错误业务数据 无法校验业务数值对错七、兜底修复的能力边界即便前置、收窄两层规则层层约束LLM仍会出现异常兜底必不可少但存在明显短板仅能识别格式异常无法判断业务数字是否真实准确图表只能修复结构不能校验数值正确性无法感知底层工具返回脏数据无明显特征的逻辑错误只能前置拦截。以上场景需要第四层「确定性判定」方案由确定性代码校验不再经过模型。收益汇总优化手段 指标提升工具加强 3 ~ 5pt响应验证 ~2pt双时间含前置状态拦截 2 ~ 4pt兜底修复整体 5 ~ 9pt工具注册加工具加强是整条优化链路收益第二高的模块仅次于第五篇数据过滤方案。下一篇预告

相关新闻

6年技术直播经验:从流量焦虑到深度技术成长实践

6年技术直播经验:从流量焦虑到深度技术成长实践

最近在技术圈里,我注意到一个很有意思的现象:很多开发者朋友,包括我自己,都陷入了一种"流量焦虑"。辛辛苦苦写的技术文章,阅读量寥寥无几;认真做的开源项目,star数增长缓慢。这种焦虑…

2026/7/23 12:16:57 阅读更多 →
高质量数据集的价值与数据要素化:从1565PB数据体量看技术实践

高质量数据集的价值与数据要素化:从1565PB数据体量看技术实践

最近在整理一个跨部门数据协作项目时,我再次深刻体会到数据质量对项目成败的决定性影响。一个看似简单的数据字段格式不一致,就能让下游分析团队多花两天时间清洗;而一个标注清晰、结构完整的数据集,则能让模型训练效率提升数倍。…

2026/7/23 12:16:56 阅读更多 →
STM32学习-IWDG

STM32学习-IWDG

一、IWDG 简介IWDG 的全称是 Independent Watchdog,即独立看门狗。从本质上看,IWDG 是一个能够产生系统复位信号的递减计数器。当 IWDG 被启动后,计数器会不断向下计数;如果计数到 0x000 还没有被刷新,系统就会产生复位…

2026/7/23 12:16:56 阅读更多 →

最新新闻

2026年AI大模型应用开发趋势与核心技术解析

2026年AI大模型应用开发趋势与核心技术解析

1. 为什么2026年AI大模型应用开发会爆发?作为一名从2016年就开始接触机器学习的老兵,我亲眼见证了AI技术从实验室走向产业化的全过程。2023年ChatGPT的横空出世,标志着大模型技术正式进入应用爆发前夜。根据技术成熟度曲线(Hype C…

2026/7/23 12:33:06 阅读更多 →
Unity新版Input System实战:短按长按识别与动态改键功能详解

Unity新版Input System实战:短按长按识别与动态改键功能详解

1. 项目概述:告别旧Input,拥抱新系统 如果你还在用Unity老掉牙的 InputManager ,每次处理长按、短按、组合键都要写一堆状态判断和计时器,那今天这篇内容就是为你准备的“降压药”。Unity新版Input System,官方钦点的…

2026/7/23 12:33:06 阅读更多 →
SD出图卡顿、OOM、VAE崩溃?(2024最新显存优化手册——仅限内测版)

SD出图卡顿、OOM、VAE崩溃?(2024最新显存优化手册——仅限内测版)

更多请点击: https://codechina.net 第一章:SD出图卡顿、OOM、VAE崩溃?(2024最新显存优化手册——仅限内测版) Stable Diffusion 在 2024 年主流硬件上仍频繁遭遇显存瓶颈:生成中途卡死、CUDA out of memo…

2026/7/23 12:33:06 阅读更多 →
仅限本周开放|企业AI模型适配能力图谱(含23个行业标签、17项技术约束、5级数据敏感度映射),错过再等半年更新

仅限本周开放|企业AI模型适配能力图谱(含23个行业标签、17项技术约束、5级数据敏感度映射),错过再等半年更新

更多请点击: https://codechina.net 第一章:AI模型适配企业落地的核心挑战与价值定位 企业在将AI模型从实验室推向生产环境时,常陷入“技术先进但业务脱节”的困境。模型精度再高,若无法嵌入现有IT架构、不兼容业务系统接口、或缺…

2026/7/23 12:33:06 阅读更多 →
OES支F协议解析:Web3开发的核心标准与实践

OES支F协议解析:Web3开发的核心标准与实践

1. 理解OES支F:Web3世界的通行证最近在技术社区看到不少关于OES支F的讨论,这个看似晦涩的缩写词其实是打开Web3大门的金钥匙。作为在区块链领域摸爬滚打多年的从业者,我想用最直白的语言帮大家拆解这个核心概念。OES支F本质上是一套分布式账本…

2026/7/23 12:33:06 阅读更多 →
rocky linux安装教程(CentOS最佳平替)

rocky linux安装教程(CentOS最佳平替)

rocky linux安装教程(CentOS最佳平替):VMware虚拟机图文讲解部署Rocky Linux 9(附网盘资源) CentOS 宣布“转型”的那天,无数运维工程师的心碎了一地。免费的、稳定的、用了十几年的系统说没就没了。后来…

2026/7/23 12:32:06 阅读更多 →

日新闻

从单点好评到指数级传播:AI副业主理人必须掌握的4层口碑渗透模型(含ROI测算表)

从单点好评到指数级传播:AI副业主理人必须掌握的4层口碑渗透模型(含ROI测算表)

更多请点击: https://intelliparadigm.com 第一章:从单点好评到指数级传播:AI副业主理人必须掌握的4层口碑渗透模型(含ROI测算表) 当AI副业主理人不再仅满足于单次服务交付,而是主动构建可复用、可裂变、可…

2026/7/23 0:00:25 阅读更多 →
AI写作开头钩子设计:为什么你的AI文案完读率不足18%?——基于2,346篇A/B测试报告的归因分析

AI写作开头钩子设计:为什么你的AI文案完读率不足18%?——基于2,346篇A/B测试报告的归因分析

更多请点击: https://codechina.net 第一章:AI写作开头钩子设计:为什么你的AI文案完读率不足18%?——基于2,346篇A/B测试报告的归因分析 在对2,346篇跨行业AI生成文案的A/B测试数据进行聚类分析后,我们发现&#xff1…

2026/7/23 0:01:26 阅读更多 →
Chitchatter完整指南:免费开源的终极点对点安全聊天工具

Chitchatter完整指南:免费开源的终极点对点安全聊天工具

Chitchatter完整指南:免费开源的终极点对点安全聊天工具 【免费下载链接】chitchatter Secure peer-to-peer chat that is serverless, decentralized, and ephemeral 项目地址: https://gitcode.com/gh_mirrors/ch/chitchatter Chitchatter是一款革命性的安…

2026/7/23 0:01:26 阅读更多 →

周新闻

Go语言静态资源打包方案对比与实践指南

Go语言静态资源打包方案对比与实践指南

1. 项目背景与核心需求在Go语言开发中,我们经常需要处理静态资源文件的打包问题。无论是Web应用的模板文件、前端资源,还是配置文件、证书等,都需要随程序一起分发。传统做法是将这些文件与编译后的二进制文件放在同一目录下,但这…

2026/7/22 8:58:19 阅读更多 →
Go语言实现高性能LDAP认证服务的架构与实践

Go语言实现高性能LDAP认证服务的架构与实践

1. 项目背景与核心价值LDAP(轻量级目录访问协议)作为企业级身份认证的黄金标准,已经服务了超过80%的财富500强公司。我在金融科技领域实施统一认证体系时,发现传统Java方案存在启动慢、内存占用高等痛点。而Go语言凭借其协程并发模…

2026/7/22 19:43:43 阅读更多 →
【AI面试官实战指南】:用ChatGPT模拟10类高频技术岗面试,3天提升应答精准度92%

【AI面试官实战指南】:用ChatGPT模拟10类高频技术岗面试,3天提升应答精准度92%

更多请点击: https://intelliparadigm.com 第一章:AI面试官实战指南的核心价值与适用场景 AI面试官并非替代人类HR的“黑箱工具”,而是以可解释、可审计、可迭代的方式,赋能招聘全链路的关键基础设施。其核心价值在于将主观经验沉…

2026/7/22 12:54:44 阅读更多 →

月新闻