别再把权限写进提示词:Agent 外部控制面的可运行设计
8月的智能体安全新闻里,最值得工程团队警惕的变化,不是又多了一个提示词注入案例。真正变化是,攻击者开始绕过模型回答,直接借智能体的工具、身份与网络出口完成动作。当一个 Agent 既能读不可信网页,又能调用 MCP、写配置、连内部系统时,提示词里的“不要做坏事”已经不是控制措施。它最多是一段希望模型记住的文字,而不是一个能够在请求出口拦截动作的安全边界。一次真实链条,让问题从模型安全变成系统安全这不是某家产品的偶发缺陷。它揭示了智能体架构中一个稳定存在的耦合关系。模型负责理解输入,工具负责执行动作,而身份系统往往把过宽的权限一起交给了模型侧进程。攻击者不必攻破身份系统,只要影响模型对输入的解释,就可能借用那份既有权限。这也是为什么传统的内容过滤只能降低风险,不能独立完成授权。过滤器判断的是内容看起来是否危险,控制面判断的是这次动作是否被业务明确授予。两类判断都需要,但不能相互替代。前者帮助减少模型受到干扰的机会,后者保证干扰发生后仍有硬边界。7月31日,Adversa AI 汇总了当月二十项智能体安全资源。其中多起事件的共同入口,不是攻击者直接执行代码,而是让智能体读取带有恶意内容的数据。报告提到,隐藏在网页中的微小文本可以诱导 AWS Kiro 重写自己的 MCP 配置,并启动攻击者控制的服务器。另有研究把“智能体数据注入”定义为一类间接提示词攻击,影响对象覆盖了多个常见的代码与浏览器智能体。这类事件不需要证明模型“有恶意”。模型只要把不可信内容误判为高优先级指令,再把原本授予它的权限照常用出去,风险就已经成立。因此,工程团队不能只问模型会不会服从恶意文本。更该问的是,服从之后它还能碰到什么资源、持有什么凭据,以及谁会在请求真正执行前复核这一步。8月8日的 AI Agent Store 周报给出了另一个信号。Redpanda 把策略引擎放在 MCP 边界之外,强调策略不能依赖 Agent 自己愿不愿意合作。这个方向很重要,因为最关键的权限判断一旦仍在 Agent 的上下文里,攻击者就仍有机会影响它。控制必须从“请模型遵守”变成“系统只允许这些动作发生”。为什么把规则塞进 system prompt 不够更具体地说,提示词规则没有独立的执行主体。它不能吊销令牌,不能关闭网络出口,也不能拒绝资源服务已经收到的请求。它只能影响模型接下来生成哪一段文本或哪个工具参数。这使它天然适合表达业务偏好,却不适合承担最终权限裁决。当攻击输入与任务指令发生竞争时,模型还要依赖上下文排序、训练分布和当时的推理状态作出判断。工程上不能把最坏情况下的安全性押在这种概率判断上。真正的授权系统应当可以给出确定回答。当域名不在白名单、资源不属于任务、方法不被允许时,请求必须直接失败。很多团队的第一版防护都会写得很长。例如要求 Agent 忽略网页里的指令,不泄露密钥,不安装未知工具,不修改配置,也不访问未授权地址。这些规则并非没有价值。它们适合约束正常路径上的行为选择。问题在于,system prompt 与网页正文、检索结果、邮件内容、本地文档,最终都会进入同一个模型上下文。模型需要在同一个输入空间里判断哪些话是规则,哪些话是数据,哪些话是攻击。上下文隔离做得再好,也无法让自然语言规则获得操作系统权限那样的强制性。一旦模型误判,提示词本身没有能力撤销已经发出的网络请求。可以把它类比为在 shell 脚本顶部写一句“请不要删除生产数据库”。这句话可能提醒操作者,但不会改变数据库账号拥有的权限。真正可靠的限制应当落在凭据范围、网络出口、API 网关和审计系统里。智能体同样如此,因为模型的语言判断无法自动收缩进程已经拿到的网络、文件和服务权限。这种架构的危险点不在某一个函数写错了。危险点在于把“理解不可信内容”和“携带高权限执行动作”绑在了同一个决策体上。无论提示词有多长,宽范围令牌仍然可以访问所有目标。模型一旦产出错误动作,系统没有独立的拒绝位置。把权限从智能体身上拆下来拆分之后,Agent 的角色会变得更清楚。它负责理解任务、归纳证据、提出候选动作,并将动作序列化为可检查的请求。它不再持有可跨任务复用的万能凭据。控制面则负责验证身份、计算策略、签发能力、代理访问和记录证据。这种分工并没有削弱 Agent 的生产力。它让 Agent 的每项能力都有可解释的来源和可撤销的边界。如果某项任务确实需要更高权限,系统可以明确扩展那一次任务的能力。权限提升成为有记录的业务动作,而不是模型临场判断后的隐式结果。外部控制面的核心不是再训练一个更会拒绝的模型。它是把授权判断移到模型不可改写的边界上。Agent 可以提出工具调用意图,但不能自己决定令牌范围、目标域名、可写资源和费用上限。这些决定由独立的策略执行点完成,并且该执行点不接受模型输出对策略本身的修改。一个可落地的调用链通常有五层。第一层是任务身份,明确这次调用属于谁、为了什么业务目标、有效多久。第二层是能力令牌,只包含本次工具需要的最小范围。第三层是策略网关,在请求离开 Agent 前校验工具、参数、目标与速率。第四层是资源侧二次校验,确保网关之外的服务也不接受越权身份。第五层是不可变审计记录。审计不是事后

相关新闻

从单一到多维:ECharts多坐标系组合的终极指南

从单一到多维:ECharts多坐标系组合的终极指南

从单一到多维:ECharts多坐标系组合的终极指南 【免费下载链接】echarts Apache ECharts is a powerful, interactive charting and data visualization library for browser 项目地址: https://gitcode.com/GitHub_Trending/echa/echarts 在数据可视化领域&a…

2026/9/25 16:00:16 阅读更多 →
【AAAI 2026】ReconVLA:以重建式视觉监督实现精准机器人操纵|从机器人视觉表征对齐视角

【AAAI 2026】ReconVLA:以重建式视觉监督实现精准机器人操纵|从机器人视觉表征对齐视角

摘要 本文解读 AAAI 2026 论文《ReconVLA: Reconstructive Vision-Language-Action Model as Effective Robot Perceiver》。该论文提出 ReconVLA,一个以重建式视觉监督实现隐式 grounding 的视觉-语言-动作(VLA)模型,通过融合注…

2026/10/14 2:52:21 阅读更多 →
基于Ollama与本地大模型的私有化文本摘要系统构建指南

基于Ollama与本地大模型的私有化文本摘要系统构建指南

1. 项目概述:为什么离线摘要生成是AI应用开发的必修课最近跟几个做前端和后端开发的朋友聊天,发现一个挺有意思的现象:大家或多或少都接触过AI,但一提到“离线”、“私有化部署”这些词,第一反应往往是“复杂”、“性能…

2026/10/3 17:08:12 阅读更多 →

最新新闻

OpenCV DNN实战:搭建检测+跟踪+状态判断的视频处理管线

OpenCV DNN实战:搭建检测+跟踪+状态判断的视频处理管线

1. 第四篇要解决的,是从"单模型"到"多模型串行"的问题1.1 DNN 模块在整套方案里的位置OpenCV 的 dnn 模块,是你把神经网络塞进计算机视觉项目时最省事的那道门。前面三篇我们已经把模型读取、预处理、前向传播和输出解析都拆开讲过&…

2026/10/14 14:09:21 阅读更多 →
周易思维解析代码报错:构建故障诊断新模型

周易思维解析代码报错:构建故障诊断新模型

1. 当代码报错遇上周易八卦作为一名写了十几年代码的老程序员,我发现自己调试时总有些奇怪的直觉——某些报错信息看起来特别"凶",有些警告则透着"吉兆"。直到去年偶然接触《周易》,才发现这种玄妙感觉并非毫无依据。用周…

2026/10/14 14:09:21 阅读更多 →
从BIO到Netty:Java网络编程核心模型与线上排查实战

从BIO到Netty:Java网络编程核心模型与线上排查实战

写网络编程的文章不少,但大多分成两类:一类把OSI七层模型讲得像背课文,另一类直接贴一堆Java Socket代码让你照着抄。老实说,这两类我都看不下去。真正干活的人需要的是一张“地图”——先知道数据从一端到另一端到底走了哪些路、…

2026/10/14 14:09:21 阅读更多 →
需求预测与分仓规划实战:从数据清洗到线性规划优化

需求预测与分仓规划实战:从数据清洗到线性规划优化

简介:这份资源是阿里天池大数据竞赛「菜鸟-需求预测与分仓规划」赛题的完整实践包,面向具备一定机器学习与数据分析基础、希望深入供应链预测场景的参赛者与算法学习者。内容围绕需求预测与分仓规划两大核心任务展开,涵盖数据清洗、缺失值填充…

2026/10/14 14:09:21 阅读更多 →
E2V相机参数调试实战:核心参数、调节顺序与常见坑

E2V相机参数调试实战:核心参数、调节顺序与常见坑

简介:E2V相机作为高性能工业相机,广泛应用于机器视觉、质量检测、自动化生产等场景。文档系统梳理了E2V UNIIQA系列相机的参数含义与调试操作,先从EV71YC1MCL2010-BA1型号的2k像素、CameraLink接口等核心参数入手,再按功能分类讲解…

2026/10/14 14:09:21 阅读更多 →
降AI率实战指南:用免费额度让论文更像人写的

降AI率实战指南:用免费额度让论文更像人写的

周五晚上十一点,某同学发来消息:3000字课程小论文,AI检测率32%,明天就要交了,问我用什么工具能降下来,最好免费额度就能搞定。我回了他一句:工具只能帮你把句子改得更像人写的,但真正…

2026/10/14 14:08:20 阅读更多 →

日新闻

AnyPS5通用适配层设计:兼容性与性能的工程取舍

AnyPS5通用适配层设计:兼容性与性能的工程取舍

1. 从"AnyPS5"这个名字说起:它到底想解决什么问题第一次看到"AnyPS5"这个标题,我脑子里冒出来的第一个念头是:这大概率是一个围绕"跨平台运行"或者"通用适配"做文章的项目。名字里的"Any"…

2026/10/14 0:00:41 阅读更多 →
Flutter跨平台开发实战:二手交易应用与HarmonyOS适配

Flutter跨平台开发实战:二手交易应用与HarmonyOS适配

1. 项目概述:Flutter跨平台二手交易应用开发作为一名长期从事移动应用开发的工程师,我最近完成了一个基于Flutter框架的二手物品交易平台项目。这个项目最吸引我的地方在于它完美结合了Flutter的跨平台优势与HarmonyOS的生态特性,实现了"…

2026/10/14 0:00:41 阅读更多 →
DFS算法解决飞机降落调度问题实战

DFS算法解决飞机降落调度问题实战

1. 项目背景与核心思路飞机降落问题是一个经典的调度优化场景,也是算法竞赛和面试中的高频题目。这个题目要求我们合理安排多架飞机的降落顺序和时间,确保所有飞机都能安全着陆而不发生冲突。在实际航空管制中,这类问题直接关系到飞行安全和机…

2026/10/14 0:00:41 阅读更多 →

周新闻

流感时间序列预测实战:ARIMA/LSTM全流程拆解与避坑指南

流感时间序列预测实战:ARIMA/LSTM全流程拆解与避坑指南

简介:基于 ARIMA、LSTM、Transformer 等模型的流感时间序列预测 Python 源码,面向计算机相关专业课程设计与期末大作业学生,以及项目实战学习者。内容覆盖预处理、平稳性检验、定阶、残差分析、多模型对比预测的完整时序建模流程,…

2026/10/14 3:30:28 阅读更多 →
影刀RPA新手教程:键盘模拟输入实战——输入文本与模拟按键的区别

影刀RPA新手教程:键盘模拟输入实战——输入文本与模拟按键的区别

影刀RPA新手教程:键盘模拟输入实战——输入文本与模拟按键的区别 做影刀RPA自动化,十个新手有八个栽在"往输入框里填东西"这件事上:要么填不进去,要么填了一半,要么直接把原来内容追加在后面。这背后的根因&…

2026/10/13 16:22:04 阅读更多 →
影刀RPA新手教程:阅文起点小说数据采集实战——书籍信息与章节内容

影刀RPA新手教程:阅文起点小说数据采集实战——书籍信息与章节内容

影刀RPA新手教程:阅文起点小说数据采集实战——书籍信息与章节内容 1. 认识影刀:什么场景该用RPA采小说数据 起点中文网的页面结构相对稳定——分类榜单、书籍详情、章节内容三块独立页面,跳转链路清晰。这种场景非常适合影刀自动化&#x…

2026/10/14 3:29:58 阅读更多 →

月新闻

我发现了一个新思路:用 Remotion + Claude Code 像写代码一样自动化生成短视频

我发现了一个新思路:用 Remotion + Claude Code 像写代码一样自动化生成短视频

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/13 22:01:27 阅读更多 →
Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式:TaoToken 统一 Key 配置与验证

Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式:TaoToken 统一 Key 配置与验证

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/13 14:57:39 阅读更多 →
黑夜航拍船只数据集训练YOLOV5模型全流程解析

黑夜航拍船只数据集训练YOLOV5模型全流程解析

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/14 7:53:34 阅读更多 →