胖头鱼的技术专栏-458 AI Agent 的安全边界不能是提示词(20260811)
数据库管理458期 2026-08-11胖头鱼的技术专栏-458 AI Agent 的安全边界不能是提示词20260811一、零信任每次都重新盘问二、一次请求的零信任校验三、数据库怎么执行这个边界四、如何验证安全五、上线前的控制清单六、安全也有边界总结胖头鱼的技术专栏-458 AI Agent 的安全边界不能是提示词20260811作者胖头鱼的鱼缸尹海文 Oracle ACE Pro: Database PostgreSQL ACE 10年数据库行业经验 拥有OCM 11g/12c/19c、MySQL 8.0 OCP、Exadata、CDP等认证 墨天轮MVPITPUB认证专家 圈内拥有“总监”称号非著名社恐社交恐怖分子 全网同名胖头鱼的鱼缸 ITPUByhw1809 除授权转载并标明出处外均为“非法”抄袭本期继续“川序”的介绍https://db4agent.cn这两天在群里又看到有人聊 Agent 安全——“我们在提示词里写了约束不让它碰敏感数据应该够了吧”每次听到这种话我都忍不住想唠两句。提示词约束、系统指令、API 规范、前端按钮——这些东西有没有用有用。它们能帮模型理解意图也能改善使用体验。但它们不应当成为企业数据的最终安全边界。说穿了提示词可能被误解、被遗忘、被注入API 请求可以被伪造前端隐藏按钮挡不住直接调接口频道成员关系也不能自动扩大数据库授权。这里说明一下频道是“川序”中的基于协作组的可视化聊天窗口功能可以看做人与 Agent 的群聊让 Agent 的协作运行不仅被记录在数据库中也能被看见真正的边界必须在 Agent 自己改不了的地方执行。一、零信任每次都重新盘问零信任不是给 Agent 贴一个“可”标签然后就一路放行。它是对每一次访问都重新盘问当前主体是谁访问什么资源属于哪个组织、哪个安全域请求用途是什么数据分类是什么授权还有没有效有没有显式拒绝打个比方——银行金库不是进门刷一次卡就全开放的。进大门一道验证进金库区一道验证开具体保险柜还有一道验证。每道门都独立核验前一道过了不代表后面免检。就算 Agent 已经在频道里了就算上一轮对话通过了检查也不代表它下一轮就能去读另一类数据。协作可见性和数据可访问性是两套判断——必须同时成立。二、一次请求的零信任校验一个业务请求进来可以拆成几个连续判断。先验访问凭证是不是当前 Agent 的再确定请求对应的资源和动作然后读组织、安全域、数据分类、有效期和是否存在显式拒绝最后检查这个 Agent 有没有权限用对应的 Skill、Tool、模型或外部适配器。任何一项不满足就在服务端 fail-close。这个顺序很关键。不能先拿向量相似度召回全库内容最后才想起过滤——那等于先把金库门打开再问“这人能不能进”。也不能先让模型把工具参数全生成好了再把安全检查当个“附加提示”。所有的操作都得在真正执行之前过完授权判断。三、数据库怎么执行这个边界数据库天生适合保存身份、角色、资源分类、组织关系、授权有效期和审计证据。“川序”的原则是Skill、Tool、模型、频道和前端只负责“表达请求”不直接授予权限。每次数据披露、外部能力调用、副作用和结果提交都要重新校验当前授权交集。当 Business Agent 引人任何权限校验失败时是禁止要求使用 Admin 权限或数据库的 Schema Owner 凭证这种被称为“降级”的方式在很多传统系统中是作为应急手段的但在 AI 面前这可能会带来一场灾难。说白了——平台不能靠“把按钮灰掉”来实现“禁止访问”也不能让模型自己决定“我应该读什么”。模型负责推理服务端负责分发数据库负责边界各司其职。数据库层面可以用的手段包括独立数据库用户、角色、服务端接口、行级策略、工作区或安全域过滤、事务内权限检查。应用层的授权判断不能替代数据库层的最终拒绝数据库层也不能假设应用传来的 Agent ID 一定可信——主体映射必须来自已验证的会话或凭证。审计记录至少要包含主体、资源、动作、结果、原因、请求关联 ID、策略版本、时间。对于外部 API 或生产操作还得记目标、参数摘要、批准依据和回调结果。这样出争议的时候你能回答“谁在什么授权下执行了什么”——而不是只有模型的一段自然语言。方式能解决什么不能替代什么Prompt 约束表达意图和行为偏好服务端授权和数据隔离API 规范约定调用格式凭证撤销和资源权限前端菜单改善用户体验直接接口访问控制频道成员限制协作可见性数据库资源授权数据库策略执行数据边界终止外部任意进程这张表的重点不是否定 Prompt 或 API——它们有它们的位置。安全需要最底层有强制边界也需要上层用提示、协议和体验来减少误用。但别把上层的“减少误用”当成底层的“强制执行”。四、如何验证安全安全测试不能只测正常用户。得分别用普通用户、无权限 Agent、过期凭证、被撤销凭证、跨组织 Agent 和频道成员去访问还要绕过前端直接调 HTTP、MCP 或 Skill 接口。测试结果应该证明看不到的数据不会被检索不能执行的动作不会被提交凭证撤销后后续请求立即受影响异常拒绝会留下审计证据。还可以加一组“恶意”测试在消息里要求 Agent 忽略权限提示词注入在参数里替换 Agent ID伪造主体在频道里塞未授权主体——看服务端是不是还以认证会话和数据库事实为准。测试不能只看页面有没有报错——还得翻数据库确认没有产生越权读取、工具调用或副作用记录。此前在《Agent 上线之后谁来负责它》里聊过生命周期管理安全边界其实就嵌在那条生命周期的每一个环节里。而 Agent 的身份本身——是谁、能做什么——则是边界判断的前提这个话题将在后面的文章里里展开。五、上线前的控制清单上线前可以逐项确认人和 Agent 是否有独立身份数据库是否拒绝默认回退凭证Skill、MCP、HTTP 和页面是否走同一套授权服务敏感配置是否加密撤销是否在后续请求生效外部回调是否验证来源审计是否带请求关联 ID应急操作是否要求理由和留痕。这份清单不能替代渗透测试或第三方安全审计。但它能帮客户发现最常见的工程缺口。安全不是一个模块上线后才补的功能而是身份、数据、执行和运维在整个生命周期里的共同约束。六、安全也有边界零信任不是万能的。它不能自动撤回 Agent 已经导出的数据也不能直接终止数据库外部正在跑的任意进程。所以企业还需要受控凭证、外部系统回调校验、运行时隔离、日志留存和处置流程来配合。同时企业也需要做好 AI 时代的企业管理加强对人的管控。总结安全不是一条提示词而是一组可验证的控制链。身份、授权、执行和证据同时存在Agent 才能在企业环境里被信任地使用。对客户来说零信任的价值不是让系统“看起来更安全”而是把数据访问和副作用控制变成可以执行、测试、审计和复核的工程事实。老规矩知道写了些啥。

相关新闻

Android Studio新手避坑指南:从环境配置到项目构建全流程解析

Android Studio新手避坑指南:从环境配置到项目构建全流程解析

1. 项目概述:从“踩坑”到“填坑”的必经之路如果你刚打开Android Studio,看着满屏的英文和复杂的界面,感觉无从下手,甚至刚点几下就弹出一堆看不懂的错误,那么恭喜你,你找对地方了。这篇记录不是什么官方教…

2026/8/14 5:20:47 阅读更多 →
Windows C++实现游戏光标锁定:原理剖析与《我的世界》基岩版实战

Windows C++实现游戏光标锁定:原理剖析与《我的世界》基岩版实战

1. 项目概述:为什么需要光标锁定工具? 如果你玩过《我的世界》基岩版,尤其是在Windows上用键鼠操作,大概率遇到过这个让人抓狂的场景:你正全神贯注地挖矿或与怪物战斗,一个不小心鼠标滑到了屏幕边缘&#x…

2026/8/14 23:32:46 阅读更多 →
高效求解前K个高频元素的算法与实践

高效求解前K个高频元素的算法与实践

1. 问题背景与核心需求在数据处理和算法优化领域,"前K个高频元素"是一个经典问题。它要求我们从一组数据中找出出现频率最高的前K个元素。这个问题看似简单,但在实际应用中却有着广泛的需求场景。举个真实案例:某电商平台需要实时统…

2026/8/14 5:22:09 阅读更多 →

最新新闻

nslookup命令使用说明

nslookup命令使用说明

个人建站,域名备案完成后,往往还要做域名解析服务,技术人员怎么能知道自己配置的DNS正确与否呢?NSLOOKUP查询域名信息的一个非常有用的命令,可以指定查询的类型,可以查到DNS记录的生存时间还可以指定使用哪…

2026/8/17 0:00:08 阅读更多 →
【原创唯一】基于SpringBoot+Vue的在线书店商城系统 课程设计/大作业/期末作业(源码+MySQL数据库+实验报告+PPT+远程部署)

【原创唯一】基于SpringBoot+Vue的在线书店商城系统 课程设计/大作业/期末作业(源码+MySQL数据库+实验报告+PPT+远程部署)

摘要 电子商务与移动支付的普及,线上购书已成为高校师生及社会公众获取图书的重要方式。传统线下书店在图书检索、库存查询、订单跟踪等方面存在信息分散、效率较低等问题。本文设计并实现了一套基于 B/S 架构的网上书店系统,采用前后端分离模式&#xf…

2026/8/17 0:00:08 阅读更多 →
飞书局域网文件传输实战:3种方案实现高速点对点传输

飞书局域网文件传输实战:3种方案实现高速点对点传输

1. 项目概述:为什么要在局域网内用飞书传文件? 飞书作为一款主流的协同办公套件,其核心功能是围绕云端协作设计的。无论是文档、表格还是文件,通常的分享逻辑都是“上传到云端 -> 生成链接 -> 分享给同事”。这个流程在互联…

2026/8/17 0:00:08 阅读更多 →
LabVIEW异步调用实战:解决界面卡顿与并行处理难题

LabVIEW异步调用实战:解决界面卡顿与并行处理难题

1. 项目概述:为什么异步调用是LabVIEW进阶的必经之路如果你在LabVIEW里写过稍微复杂点的程序,尤其是涉及到界面响应、多任务并行或者硬件IO等待,大概率会遇到一个头疼的问题:程序“卡”住了。前面板点不动,进度条不更新…

2026/8/17 0:00:08 阅读更多 →
LabVIEW异步调用实战:从原理到生产者消费者模式,解决界面卡顿与并行处理难题

LabVIEW异步调用实战:从原理到生产者消费者模式,解决界面卡顿与并行处理难题

1. 项目概述:为什么异步调用是LabVIEW进阶的必修课? 如果你用LabVIEW做过稍微复杂点的项目,尤其是涉及界面响应、多任务并行或者硬件IO等待的场景,大概率遇到过这样的窘境:前面板点个按钮,整个程序就“卡死…

2026/8/17 0:00:08 阅读更多 →
错误分享:误将磁盘分区类型选成磁盘名称

错误分享:误将磁盘分区类型选成磁盘名称

1.先删除原有分区2.fdisk重新创建3.发现进程被占用4.使用kill关不掉进程,加 -9 强制关闭5.关闭后重新使用fdisk创建,tips:记得改完后要使用 w 保存

2026/8/16 23:59:08 阅读更多 →

日新闻

LabVIEW异步调用实战:从原理到生产者消费者模式,解决界面卡顿与并行处理难题

LabVIEW异步调用实战:从原理到生产者消费者模式,解决界面卡顿与并行处理难题

1. 项目概述:为什么异步调用是LabVIEW进阶的必修课? 如果你用LabVIEW做过稍微复杂点的项目,尤其是涉及界面响应、多任务并行或者硬件IO等待的场景,大概率遇到过这样的窘境:前面板点个按钮,整个程序就“卡死…

2026/8/17 0:00:08 阅读更多 →
LabVIEW异步调用实战:解决界面卡顿与并行处理难题

LabVIEW异步调用实战:解决界面卡顿与并行处理难题

1. 项目概述:为什么异步调用是LabVIEW进阶的必经之路如果你在LabVIEW里写过稍微复杂点的程序,尤其是涉及到界面响应、多任务并行或者硬件IO等待,大概率会遇到一个头疼的问题:程序“卡”住了。前面板点不动,进度条不更新…

2026/8/17 0:00:08 阅读更多 →
飞书局域网文件传输实战:3种方案实现高速点对点传输

飞书局域网文件传输实战:3种方案实现高速点对点传输

1. 项目概述:为什么要在局域网内用飞书传文件? 飞书作为一款主流的协同办公套件,其核心功能是围绕云端协作设计的。无论是文档、表格还是文件,通常的分享逻辑都是“上传到云端 -> 生成链接 -> 分享给同事”。这个流程在互联…

2026/8/17 0:00:08 阅读更多 →

周新闻

基于阿里云与通义千问(Qwen)构建AI应用:从模型调用到生产部署的完整实践指南

基于阿里云与通义千问(Qwen)构建AI应用:从模型调用到生产部署的完整实践指南

如果你是一名开发者,最近可能已经感受到了AI大模型正在从“玩具”变成“生产力工具”的强烈信号。从代码补全到智能Agent,从本地部署到云端API,我们正处在一个技术栈快速重构的节点。然而,面对层出不穷的模型、框架和工具&#xf…

2026/8/16 0:00:54 阅读更多 →
工业通信系统底层逻辑:04 反射——高频能量撞墙之后会发生什么?

工业通信系统底层逻辑:04 反射——高频能量撞墙之后会发生什么?

第四篇:反射——高频能量撞墙之后会发生什么? —— 你以为信号已经过去了,其实它正在回来打你 老Q的现场笔记 第五季,我们正式进入工业神经系统层。这里不再是单个设备的战斗,而是整个工厂“经脉”层面的秩序之战。从这一篇开始,你将第一次看清:看似简单的信号传播,背…

2026/8/16 0:00:55 阅读更多 →
【文章复现】非线性值迭代自适应动态规划(ADP):离散时间非线性系统的策略迭代自适应动态规划算法研究附Matlab代码

【文章复现】非线性值迭代自适应动态规划(ADP):离散时间非线性系统的策略迭代自适应动态规划算法研究附Matlab代码

✅作者简介:热爱科研的Matlab仿真开发者,擅长毕业设计辅导、数学建模、数据处理、建模仿真、程序设计、完整代码获取、论文复现及科研仿真。🍎 往期回顾关注个人主页:Matlab科研工作室👇 关注我领取海量matlab电子书和…

2026/8/16 0:03:55 阅读更多 →

月新闻

免费解锁百度网盘SVIP加速:macOS用户必备的下载提速终极指南

免费解锁百度网盘SVIP加速:macOS用户必备的下载提速终极指南

免费解锁百度网盘SVIP加速:macOS用户必备的下载提速终极指南 【免费下载链接】BaiduNetdiskPlugin-macOS For macOS.百度网盘 破解SVIP、下载速度限制~ 项目地址: https://gitcode.com/gh_mirrors/ba/BaiduNetdiskPlugin-macOS 还在为百度网盘macOS版的龟速下…

2026/8/16 6:00:23 阅读更多 →
终极ncmdump指南:3分钟实现网易云NCM音乐解密与格式转换

终极ncmdump指南:3分钟实现网易云NCM音乐解密与格式转换

终极ncmdump指南:3分钟实现网易云NCM音乐解密与格式转换 【免费下载链接】ncmdump 项目地址: https://gitcode.com/gh_mirrors/ncmd/ncmdump 还在为网易云音乐下载的NCM格式文件无法在其他播放器播放而烦恼吗?ncmdump解密工具帮你轻松解决这个困…

2026/8/16 6:00:24 阅读更多 →
HarmonyOS 应用开发《掌上英语》第81篇: 智能体卡片:为英语学习 App 打造桌面级学习助手

HarmonyOS 应用开发《掌上英语》第81篇: 智能体卡片:为英语学习 App 打造桌面级学习助手

AgentCard 智能体卡片:为英语学习 App 打造桌面级学习助手适用平台:HarmonyOS 7.0 (API 26 Beta)一、引言 HarmonyOS 7.0(API 26 Beta)新增了 AgentCard 智能体卡片能力,这是继 HMAF(鸿蒙智能体框架&#x…

2026/8/16 6:00:27 阅读更多 →