AI Agent 开发工程师(十四):给模型的回答装上三道闸门——护栏与兜底
Agent 会乖乖交卷,但我们得先给答卷装个"自动判题机"上一篇我们真跑出一个扎心的结论:即便你写死了"严禁编造",LLM 照样会在逼它输出 JSON 时,偷偷编个 1999.00 塞给你。prompt 是人话,模型是概率,你没法用"你发誓不准编"焊死它。那怎么办?靠"押宝给模型自觉"终归不牢。真正可靠的是在代码层给它装上护栏(guardrail):无论模型说什么,都在它出门之前质检一遍——输出是不是合法 JSON?价格在不在合理范围?查不到时有没有老实说?不对就拦下、修拦截、或降级。这就是这一篇要做的:让 Agent 的"靠得住",从"看它说多好听"变成"代码先于结果把诡异拦下来"。一句话:prompt 是"前台劝导",guardrail 是"后台保安"。前台你劝它别干坏事,后台它在干坏事前一定要被拦死。护栏要守的三道闸门这一篇给我们那个股票 Agent 焊三道闸(全部能在代码层面真测真拦):结构闸(JSON 校验):说好了返回 JSON,那就必须真的是合法 JSON、字段类型对、不能多不能少。用json.loads+ 字段检查,非法就拦。语义闸(防编造 / 数值范围):价格必须在合理范围(茅台不可能 1 元,也不可能 1 万)。落在区间外,判定"可疑",标注suspect或直接标纠。查

相关新闻

LeetCode 160 相交链表全解:双指针与哈希表算法精讲

LeetCode 160 相交链表全解:双指针与哈希表算法精讲

刷到 Hot100 第 18 题,160. 相交链表。说实话,这道题在链表专题里属于“看起来简单、做起来容易绕”的典型代表。我最早在面试里遇到这题时,第一反应是两层循环暴力判断,被面试官追问了一句“能不能 O(1) 空间”之后,整…

2026/10/3 20:13:54 阅读更多 →
基于SpringBoot+Vue的即时通讯管理系统:从WebSocket到管理端实战

基于SpringBoot+Vue的即时通讯管理系统:从WebSocket到管理端实战

简介:这是一套面向Java全栈学习与毕业设计场景的即时通讯管理系统,采用前后端分离架构:后端基于SpringBoot整合Mybatis/MybatisPlus搭建业务接口,结合Redis缓存与JWT登录鉴权,并通过WebSocket实现消息实时推送&#xf…

2026/10/3 20:13:54 阅读更多 →
工业Agent实时控制是伪命题?从工程实践看分层智能落地路径

工业Agent实时控制是伪命题?从工程实践看分层智能落地路径

说实话,我第一次听到“实时控制的工业Agent”这个说法时,第一反应是:这又是哪个团队在做PR。但后来我发现,认真讨论这个问题的人并不少,甚至不少做工业互联网的朋友真的在思考要不要用大模型去顶替PID闭环里那一环。作…

2026/10/3 20:10:27 阅读更多 →

最新新闻

OpenNOW架构揭秘:Qt Quick + Rust双进程设计如何抛弃Electron重写GeForce NOW客户端

OpenNOW架构揭秘:Qt Quick + Rust双进程设计如何抛弃Electron重写GeForce NOW客户端

OpenNOW架构揭秘:Qt Quick Rust双进程设计如何抛弃Electron重写GeForce NOW客户端 【免费下载链接】OpenNOW Custom GeForce Now Client Named OpenNOW 项目地址: https://gitcode.com/gh_mirrors/op/OpenNOW OpenNOW 是一款开源的 GeForce NOW 桌面客户端&…

2026/10/4 3:04:22 阅读更多 →
JSP+SSM网上服装销售系统毕业设计:从环境配置到部署避坑全流程

JSP+SSM网上服装销售系统毕业设计:从环境配置到部署避坑全流程

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/4 3:04:22 阅读更多 →
把截图直接拖进对话框:Agent Client for Obsidian如何向AI智能体发送图片与文件

把截图直接拖进对话框:Agent Client for Obsidian如何向AI智能体发送图片与文件

把截图直接拖进对话框:Agent Client for Obsidian如何向AI智能体发送图片与文件 【免费下载链接】obsidian-agent-client Bring AI agents into Obsidian via Agent Client Protocol (ACP), such as Claude Code, Codex and Gemini CLI. 项目地址: https://gitcod…

2026/10/4 3:04:22 阅读更多 →
如何一文看懂自主AI研究:awesome-autoresearch带你完整入门Karpathy autoresearch生态

如何一文看懂自主AI研究:awesome-autoresearch带你完整入门Karpathy autoresearch生态

如何一文看懂自主AI研究:awesome-autoresearch带你完整入门Karpathy autoresearch生态 【免费下载链接】awesome-autoresearch A curated list of autonomous improvement loops, research agents, and autoresearch-style systems inspired by Karpathys autoresea…

2026/10/4 3:04:22 阅读更多 →
OpenShell 使用指南:经典开始菜单回归与效率提升

OpenShell 使用指南:经典开始菜单回归与效率提升

1. 从零认识 OpenShell:它到底解决什么问题第一次听到 OpenShell 这个名字,很多人会下意识以为它是某个操作系统的内核项目,或者是一个新的命令行终端工具。实际上,OpenShell 是一个面向 Windows 平台的开始菜单替代与增强工具&am…

2026/10/4 3:04:22 阅读更多 →
SQL Server随机查询的几种写法与封装实践:从NEWID()到自定义函数

SQL Server随机查询的几种写法与封装实践:从NEWID()到自定义函数

搞随机查询这种需求,估计大多数SQL Server开发都写过。一句ORDER BY NEWID()下去,看似轻松搞定,真正上线后遇到大表慢、抽样不准、脚本重复维护这些问题,才是最磨人的。最近项目里有个抽奖节奏的需求,要从用户表里随机…

2026/10/4 3:03:22 阅读更多 →

日新闻

KT148A语音芯片外挂8002D功放的工程实践指南

KT148A语音芯片外挂8002D功放的工程实践指南

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/4 1:00:58 阅读更多 →
LLC谐振变换器增益公式推导:从FHA等效到完整归一化表达式

LLC谐振变换器增益公式推导:从FHA等效到完整归一化表达式

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/4 1:00:58 阅读更多 →
ARM架构深度解析:从RISC设计理念到交叉编译实战

ARM架构深度解析:从RISC设计理念到交叉编译实战

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/4 1:00:58 阅读更多 →

周新闻

KT148A语音芯片外挂8002D功放的工程实践指南

KT148A语音芯片外挂8002D功放的工程实践指南

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/4 1:00:58 阅读更多 →
LLC谐振变换器增益公式推导:从FHA等效到完整归一化表达式

LLC谐振变换器增益公式推导:从FHA等效到完整归一化表达式

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/4 1:00:58 阅读更多 →
ARM架构深度解析:从RISC设计理念到交叉编译实战

ARM架构深度解析:从RISC设计理念到交叉编译实战

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/4 1:00:58 阅读更多 →

月新闻

我发现了一个新思路:用 Remotion + Claude Code 像写代码一样自动化生成短视频

我发现了一个新思路:用 Remotion + Claude Code 像写代码一样自动化生成短视频

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/2 10:36:31 阅读更多 →
Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式:TaoToken 统一 Key 配置与验证

Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式:TaoToken 统一 Key 配置与验证

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/3 9:42:35 阅读更多 →
黑夜航拍船只数据集训练YOLOV5模型全流程解析

黑夜航拍船只数据集训练YOLOV5模型全流程解析

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/3 9:42:36 阅读更多 →