大语言模型数据窃取攻击时间线本周早些时候研究人员披露攻击者利用 Microsoft 365 Copilot for enterprise 提供的秘密输入诱导该 AI 助手从用户收件箱窃取密码。如今又有团队针对 Grok 设计了类似攻击迫使埃隆·马斯克旗下的大语言模型窃取用户聊天记录及其他个人信息。截至文章发布尽管 xAI 在 6 月已得知此事Grok 仍在不断泄露数据。提示注入漏洞如何攻破大语言模型提示注入利用了大语言模型尽可能遵循用户请求的训练特性。攻击者将有害指令隐藏在要求 AI 助手总结的电子邮件或网页中由于大语言模型无法可靠地区分不可信方发送的邮件内容和直接输入到提示框中的用户指令就会忠实地执行这些指令。到目前为止Grok 和其他大语言模型唯一的应对方法是创建防护机制标记可疑指令并禁止其执行。大语言模型安全技术的陈旧与管理疏漏从本周发生的事件以及此前数不胜数的类似事件可以看出大语言模型LLM无法从根本上解决提示注入问题而这是它们最容易受到攻击的严重漏洞类型之一。这反映出大语言模型在安全技术上的陈旧开发者没有从根本上解决问题只是采取构建防护机制这种治标不治本的方法就像道路交通安全工程师在危险弯道周围设置防护栏而不是对弯道进行合理设计。同时也暴露出管理上的疏漏没有及时有效地解决已知的安全漏洞。数据泄露引发的次生灾害这些安全事件导致了严重的数据泄露用户的聊天记录、密码等个人信息被窃取。虽然文中未提及股价波动情况但数据泄露可能会影响相关企业的声誉进而对其股价产生不利影响。在供应链方面大语言模型在很多行业都有应用数据泄露可能会影响整个供应链的安全和稳定导致信任危机。全行业的安全警示与防御架构升级这些事件给全行业敲响了警钟大语言模型开发者必须重视提示注入这一严重漏洞不能仅仅依赖防护机制。后续需要从根本上对模型进行改进使其能够可靠地区分不同类型的指令避免执行有害指令。同时企业和开发者要加强安全管理及时发现和解决安全漏洞建立更加完善的安全防御架构。编辑观点大语言模型安全漏洞频发凸显行业安全底线失守。开发者应摒弃治标之法从根源解决问题加强安全管理守护用户数据安全。