Meta SecAlign: A Secure Foundation LLM Against Prompt Injection Attacks
文章主要内容总结该论文介绍了Meta SecAlign,这是首个开源、开放权重的大型语言模型(LLM),其内置模型级防御机制,旨在抵御提示注入(Prompt Injection, PI)攻击,同时保持商业级模型的性能。研究背景:提示注入攻击是LLM集成应用的主要安全威胁,现有模型级防御虽有效但多为闭源,限制了AI安全社区的研究与协作。核心目标:开发开源模型,通过开放研究推动提示注入攻击的攻防协同发展,填补开源领域空白。技术方案:基于改进的SOTA SecAlign防御方法(命名为SecAlign++),在Llama 3系列模型(Llama-3.1-8B-Instruct和Llama-3.3-70B-Instruct)上进行微调,引入新的“input”角色分离不可信数据与可信指令,并通过直接偏好优化(DPO)和LoRA技术训练。评估结果:在9个效用基准(如MMLU-Pro、GPQA)和7个安全基准(如InjecAgent、WASP)上的测试显示,Meta SecAlign(尤其是70B版本)在抵御提示注入攻击方面达到SOTA,且在未见过的下游任务(如工具调用、代理网页导航)中保持安全性,效用与闭源商业模型相当。关键发现:仅通过通用指令调优数据集训练,模型即可泛化到未见过的安全任务;通过调整LoRA的α参数可灵活控制效用与安全性的权衡。创

相关新闻

【Python3基础】05-容器数据类型

【Python3基础】05-容器数据类型

[TOC] 🛫 系列文章导航 【Python3基础】01-Python 环境与开发工具【Python3基础】02-输入输出与程序运行【Python3基础】03-基本数据类型与表达式【Python3基础】04-字符串与格式化【Python3基础】05-容器数据类型【Python3基础】06-条件判断与循环【Python3基础】…

2026/10/19 1:58:27 阅读更多 →
Folia Sync-Server 完整部署指南:10 分钟让 AI 主题多端同步

Folia Sync-Server 完整部署指南:10 分钟让 AI 主题多端同步

Folia Sync-Server 完整部署指南:10 分钟让 AI 主题多端同步 【免费下载链接】folia-major 专注于绚丽的歌词动画效果的本地音乐/navidrome/第三方多平台在线音乐播放器 项目地址: https://gitcode.com/GitHub_Trending/fo/folia-major Folia 是一款本地优先…

2026/10/19 1:57:24 阅读更多 →
Buzz 离线语音转文字:把会议录音和播客变成带时间戳的文字

Buzz 离线语音转文字:把会议录音和播客变成带时间戳的文字

Buzz 离线语音转文字:把会议录音和播客变成带时间戳的文字 【免费下载链接】buzz Buzz transcribes and translates audio offline on your personal computer. Powered by OpenAIs Whisper. 项目地址: https://gitcode.com/GitHub_Trending/buz/buzz 周五傍…

2026/10/19 1:57:24 阅读更多 →

最新新闻

手把手教你制作每日AI研究简报:信息筛选与追踪方法

手把手教你制作每日AI研究简报:信息筛选与追踪方法

经常看到有人问:AI 领域更新这么快,一天不看是不是就跟不上了?我的回答是,确实会跟不上,但没人能把一天内所有论文和动态都看完,所以才需要“每日 AI 研究简报”这种东西来兜底。2026 年 3 月 28 号这一期&…

2026/10/19 2:42:49 阅读更多 →
从DVWA到实战:文件包含漏洞原理、绕过与防御全解析

从DVWA到实战:文件包含漏洞原理、绕过与防御全解析

文件包含漏洞这几年在Web安全实战里一直没消停过,从早期到处是的任意文件读取,到配合日志投毒、伪协议直接打进内网,这个看起来不起眼的漏洞类型,实际上比SQL注入更容易被忽视,但危害一点不低。我最早认真研究它是在某…

2026/10/19 2:42:49 阅读更多 →
用Markdown与Git构建个人知识库:纯文本、静态站点与本地搜索的工程实践

用Markdown与Git构建个人知识库:纯文本、静态站点与本地搜索的工程实践

1. 项目到底在做什么:从一个占位符说起的知识库需求“11111111”这个编号看起来特别随意,但它确实是我手头一个折腾了快两个月的项目的代号。项目本身不是二进制数,也不是什么密码学研究,而是一套以 Markdown 为核心的个人知识库管…

2026/10/19 2:42:49 阅读更多 →
智能车MATLAB仿真完全指南:运动学模型与路径跟踪控制

智能车MATLAB仿真完全指南:运动学模型与路径跟踪控制

简介:这是一份智能车MATLAB仿真代码更新版资源包,面向智能车竞赛参赛者与仿真建模初学者,帮助读者通过模块化代码快速搭建车辆运动学与控制算法仿真环境。相比旧版,代码按车身、电机、转向、摄像头、控制等部件分类封装&#xff0…

2026/10/19 2:42:49 阅读更多 →
物理AI世界模型:扩散迭代与一步生成的权衡之道

物理AI世界模型:扩散迭代与一步生成的权衡之道

物理AI 世界模型这两年突然成了热词,不管做机器人的、搞自动驾驶的,还是做视频生成的,都在往这条赛道上挤。但真正动手搭过这套东西的人,心里多半都有笔账:扩散模型那套迭代去噪生成质量确实好,可推理延迟高…

2026/10/19 2:42:49 阅读更多 →
Redis常用命令实战:从基础操作到线上排查避坑

Redis常用命令实战:从基础操作到线上排查避坑

Redis装完,redis-cli一敲,能ping通,然后呢?说句实话,很多人对redis基础常用命令的了解,就停在SET一个值、GET一个值。真实业务里一踩坑,连查一个key还剩多久过期都要翻半天文档。这篇文章就想把…

2026/10/19 2:41:48 阅读更多 →

日新闻

频率跟踪型PWM电源设计:臭氧发生器谐振点漂移与软开关实现

频率跟踪型PWM电源设计:臭氧发生器谐振点漂移与软开关实现

简介:本资源为电源技术方向的学术研究文档,聚焦介质阻挡放电型臭氧发生器电源的频率跟踪型PWM控制策略,面向电力电子、高压电源及臭氧应用领域的科研人员与工程技术人员。针对负载呈容性、等效电容随外加电压升高而增大、谐振频率随之漂移的难…

2026/10/19 0:00:47 阅读更多 →
Vibe Coding 遇上 TaoToken:把开发者思维圣殿的灵感流接入统一 Key 通道

Vibe Coding 遇上 TaoToken:把开发者思维圣殿的灵感流接入统一 Key 通道

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/19 0:00:47 阅读更多 →
HundredCV-Chat话题建模实战教程:利用4,871个内置话题标签构建主题分析系统

HundredCV-Chat话题建模实战教程:利用4,871个内置话题标签构建主题分析系统

【免费下载链接】HundredCV-Chat 项目地址: https://ai.gitcode.com/hf_mirrors/Jax-dan/HundredCV-Chat 点击查看 免费下载 HundredCV-Chat 是一个由 100 位青年简历数据开发而来的中文多轮对话数据集,共包含 24,750 组日常闲聊对话和 4,871 个话题标签…

2026/10/19 0:00:47 阅读更多 →

周新闻

基于GMM的语音识别系统原理与MATLAB实现详解

基于GMM的语音识别系统原理与MATLAB实现详解

说到基于高斯混合模型(GMM)的语音识别系统,很多人第一反应就是一堆数学公式,觉得门槛很高。但如果你真的在MATLAB里把它落地跑通,会发现核心其实就是三件事:把声音变成特征向量,用GMM给每个类别…

2026/10/18 0:00:55 阅读更多 →
数字图像处理入门:反白、灰度化、调色板修改与导出txt实践

数字图像处理入门:反白、灰度化、调色板修改与导出txt实践

数字图像处理这四个字听起来挺唬人,但落到具体操作上,无非就是让计算机按你的想法“摆弄”像素。我在一个模拟项目X里用了一套特别经典的基础处理流程:对图像做反白、改调色板、彩色转灰度,最后把像素数据导出成txt文件。单看每一…

2026/10/18 0:00:55 阅读更多 →
机器人大脑技术盘点:具身智能的感知、决策与数据闭环

机器人大脑技术盘点:具身智能的感知、决策与数据闭环

如果你的信息流最近也天天刷到“机器人大脑”这个词,你会发现一个很有意思的现象:每个人说的“大脑”根本不是同一个东西。有人指的是大语言模型,有人指的是运动控制系统,还有人指的是能理解物理世界的端到端模型。在2026年这个时…

2026/10/19 1:30:52 阅读更多 →

月新闻

我发现了一个新思路:用 Remotion + Claude Code 像写代码一样自动化生成短视频

我发现了一个新思路:用 Remotion + Claude Code 像写代码一样自动化生成短视频

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/18 0:55:02 阅读更多 →
Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式:TaoToken 统一 Key 配置与验证

Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式:TaoToken 统一 Key 配置与验证

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/17 17:22:31 阅读更多 →
黑夜航拍船只数据集训练YOLOV5模型全流程解析

黑夜航拍船只数据集训练YOLOV5模型全流程解析

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/18 12:16:16 阅读更多 →