SecureInfer: Heterogeneous TEE-GPU Architecture for Privacy-Critical Tensors for Large Language M...
文章主要内容总结该研究针对大型语言模型(LLMs)在移动和边缘设备部署时面临的模型提取攻击风险,提出了一种混合框架SecureInfer。其核心思路是结合可信执行环境(TEEs,如Intel SGX)的硬件隔离能力与GPU的高性能计算优势,通过威胁感知和信息论驱动的细粒度模型划分,在保障隐私安全的同时避免性能损耗。具体而言,SecureInfer将LLMs中隐私敏感组件(如Q/K/V投影、注意力分数计算、前馈网络块、LoRA适配器等)部署在SGX安全飞地中执行,而将计算密集但安全性要求较低的线性操作(如矩阵乘法)加密后卸载到GPU,CPU仅负责输入输出等非敏感控制流程。通过分块安全张量执行、轻量级加密、一次性掩码等优化策略,解决了边缘设备内存有限、延迟敏感的问题。实验基于定制化LLaMA-2模型验证,结果显示:与纯TEE部署相比,SecureInfer实现了最高4.7倍的速度提升;与纯GPU部署相比,仅产生2.06倍的延迟开销,且输出保真度损失极小(BLEU分数下降低于0.12);在黑盒攻击场景中,能有效降低模型提取 fidelity,token匹配率仅为56.4%,为边缘设备上LLMs的安全部署提供了实用解决方案。文章创新点混合架构设计:首次提出TEE-GPU异构协同框架,突破纯TEE性能瓶颈和纯GPU隐私漏洞,实现安全与性能的平衡。细粒度威胁感知划分策略:不同于传统基于层深度的粗粒度划分,基于组件敏感性(抗模型提取攻击能力)和计算强度进行精准划分,适配Transformer

相关新闻

EX-GAS与Odin Inspector集成:如何充分利用可视化配置提升开发效率

EX-GAS与Odin Inspector集成:如何充分利用可视化配置提升开发效率

EX-GAS与Odin Inspector集成:如何充分利用可视化配置提升开发效率 【免费下载链接】gameplay-ability-system-for-unity Gameplay-Ability-System For Unity 项目地址: https://gitcode.com/gh_mirrors/ga/gameplay-ability-system-for-unity EX-GAS&#xf…

2026/9/18 12:00:57 阅读更多 →
DXPopover vs 系统UIPopoverController:为什么选择这款Facebook风格弹窗库?

DXPopover vs 系统UIPopoverController:为什么选择这款Facebook风格弹窗库?

DXPopover vs 系统UIPopoverController:为什么选择这款Facebook风格弹窗库? 【免费下载链接】DXPopover A Popover mimic Facebook app popover using UIKit 项目地址: https://gitcode.com/gh_mirrors/dx/DXPopover 在iOS开发中,弹窗…

2026/9/25 16:32:12 阅读更多 →
如何解决apple-signin-unity常见问题:从配置到代码的完整解决方案 [特殊字符]

如何解决apple-signin-unity常见问题:从配置到代码的完整解决方案 [特殊字符]

如何解决apple-signin-unity常见问题:从配置到代码的完整解决方案 🍎 【免费下载链接】apple-signin-unity Unity plugin to support Sign In With Apple Id 项目地址: https://gitcode.com/gh_mirrors/ap/apple-signin-unity Apple Sign-In for …

2026/10/13 0:20:55 阅读更多 →

最新新闻

高效离职面谈:四种实战方法搞定主动与被动离职

高效离职面谈:四种实战方法搞定主动与被动离职

离职面谈这事儿,说大不大,说小不小。很多业务负责人和刚入行的HR伙伴把它当成一个“过场”,员工提离职了,约个时间聊二十分钟,问问“为啥走啊”“下家去哪啊”,然后填张表就算交差了。但真正在组织里待久了…

2026/10/13 17:30:42 阅读更多 →
离职面谈怎么做?四类场景实操方法与避坑指南

离职面谈怎么做?四类场景实操方法与避坑指南

做离职面谈这些年,我最大的感触是:大多数HR和管理者根本不会谈。不是话术不行,而是脑子里只有一套模板——不管是核心骨干提离职,还是试用期员工说走就走,开口都是"为什么离职啊,有什么困难可以沟通嘛…

2026/10/13 17:30:42 阅读更多 →
ANSYS模态分析+对称边界:让汉字‘春节快乐’振动起来

ANSYS模态分析+对称边界:让汉字‘春节快乐’振动起来

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/13 17:30:42 阅读更多 →
FPGA图像缩放与移动实战:坐标变换、DDR3带宽与调试解析

FPGA图像缩放与移动实战:坐标变换、DDR3带宽与调试解析

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/13 17:30:42 阅读更多 →
前端面试刷题:把题库变成面试模拟器的正确方法

前端面试刷题:把题库变成面试模拟器的正确方法

简介:面向准备前端求职面试的开发者,资料包系统覆盖Html、Css、JavaScript、Vue、React、Node、TypeScript、Webpack、算法、网络与安全、浏览器等前端核心方向,既适合刚入门的新人建立知识框架,也适合有一定项目经验的开发者针对…

2026/10/13 17:30:42 阅读更多 →
PL/SQL智能补全插件实战:解决Oracle开发命名、跳转与上下文感知难题

PL/SQL智能补全插件实战:解决Oracle开发命名、跳转与上下文感知难题

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/13 17:29:40 阅读更多 →

日新闻

物联网系统集成避坑指南:从选型到验收的关键要点

物联网系统集成避坑指南:从选型到验收的关键要点

做了这么多年物联网系统集成的项目,我最大的感受是,大部分坑不是出在技术前沿,而是出在一些看起来很平常的地方。设备选了便宜的、协议没问清楚、现场没摸透、验收标准写得含糊——这些细枝末节,最后都会变成延期、超支和扯皮的大…

2026/10/13 0:00:57 阅读更多 →
ESP32舵机控制全攻略:从PWM原理到高级玩法与常见故障排查

ESP32舵机控制全攻略:从PWM原理到高级玩法与常见故障排查

如果你玩ESP32有一阵子了,很难不碰到舵机控制这道坎。做智能小车要转方向,做机械臂要抬关节,做云台要偏航俯仰,背后都是同一个东西在干活:舵机。而我见过太多人卡在“代码能编译、舵机就是不听话”这个阶段&#xff0c…

2026/10/13 0:00:57 阅读更多 →
CAN总线原理与STM32实战:抗干扰、仲裁、错误处理全解析

CAN总线原理与STM32实战:抗干扰、仲裁、错误处理全解析

1. 为什么CAN总线至今仍是工业现场的“硬通货”?——从汽车底盘到智能温室的真实需求你有没有拆过一辆老款燃油车的中控台?或者调试过某高校实验室里那台跑着Modbus协议却频频丢帧的PLC控制柜?又或者,在某个农业物联网项目里&…

2026/10/13 0:00:57 阅读更多 →

周新闻

流感时间序列预测实战:ARIMA/LSTM全流程拆解与避坑指南

流感时间序列预测实战:ARIMA/LSTM全流程拆解与避坑指南

简介:基于 ARIMA、LSTM、Transformer 等模型的流感时间序列预测 Python 源码,面向计算机相关专业课程设计与期末大作业学生,以及项目实战学习者。内容覆盖预处理、平稳性检验、定阶、残差分析、多模型对比预测的完整时序建模流程,…

2026/10/13 2:54:56 阅读更多 →
影刀RPA新手教程:键盘模拟输入实战——输入文本与模拟按键的区别

影刀RPA新手教程:键盘模拟输入实战——输入文本与模拟按键的区别

影刀RPA新手教程:键盘模拟输入实战——输入文本与模拟按键的区别 做影刀RPA自动化,十个新手有八个栽在"往输入框里填东西"这件事上:要么填不进去,要么填了一半,要么直接把原来内容追加在后面。这背后的根因&…

2026/10/13 16:22:04 阅读更多 →
影刀RPA新手教程:阅文起点小说数据采集实战——书籍信息与章节内容

影刀RPA新手教程:阅文起点小说数据采集实战——书籍信息与章节内容

影刀RPA新手教程:阅文起点小说数据采集实战——书籍信息与章节内容 1. 认识影刀:什么场景该用RPA采小说数据 起点中文网的页面结构相对稳定——分类榜单、书籍详情、章节内容三块独立页面,跳转链路清晰。这种场景非常适合影刀自动化&#x…

2026/10/13 1:58:08 阅读更多 →

月新闻

我发现了一个新思路:用 Remotion + Claude Code 像写代码一样自动化生成短视频

我发现了一个新思路:用 Remotion + Claude Code 像写代码一样自动化生成短视频

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/12 21:05:09 阅读更多 →
Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式:TaoToken 统一 Key 配置与验证

Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式:TaoToken 统一 Key 配置与验证

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/13 14:57:39 阅读更多 →
黑夜航拍船只数据集训练YOLOV5模型全流程解析

黑夜航拍船只数据集训练YOLOV5模型全流程解析

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/12 18:11:17 阅读更多 →