10月中旬AI安全圈挺热闹的。先是黄仁勋在伦敦接受采访直接怼了奥特曼。奥特曼之前说过一句话大意是要享受AI带来的好处就得接受一些糟糕的事情发生——比如黑客攻击、诈骗。因为正面收益会比负面大出好几个数量级。黄仁勋的回应很干脆“我不能容忍任何网络安全事件。我们根本不应该接受这类事件我们应该竭尽全力去避免它们。”他还补了一句挺狠的——那些天天喊AI会毁灭人类的人如果真信那就应该停止研发啊。一句话把安全派的两头都怼了既不同意奥特曼接受代价的实用主义也不认同灭绝风险的末日论。他的立场很明确AI完全在人类掌控之中安全事件都是可以避免的关键是你愿不愿意花成本去做。两种安全哲学表面上是两个CEO打嘴仗实际上是两种AI安全路线的正面碰撞。奥特曼的逻辑功利主义。算总账——AI能带来的好处太大了大到可以容忍一些副作用。就像汽车会撞死人但我们不会因为有车祸就禁止汽车。该装安全带装安全带该修公路修公路但车不能停。他的潜台词是追求零风险等于扼杀创新。黄仁勋的逻辑工程主义。安全不是取舍问题是工程问题。就像早年互联网浏览器一点开网页就中毒后来不也解决了吗怎么解决的沙箱。把网页放进隔离环境里跑让它碰不到系统其他部分。AI智能体也一样。给它装个容器设好权限边界实时监控着它就出不了事。出事不是因为AI不可控是因为你隔离没做好。他的潜台词是别拿创新代价当借口安全没做好是你工程没做到位。两种说法都有道理但立场背后的利益也很明显奥特曼是做模型的模型越强大、用的人越多OpenAI越赚钱。约束太紧等于捆自己手脚。黄仁勋是卖算力的安全做得越好AI能用的场景越多需要的GPU就越多。而且他手里正好有安全容器、Sentry参考设计这些产品。各家的立场跟自己的生意绑着这很正常。但有意思的是黄仁勋这次说的零容忍不只是嘴上说说。他还放了句话如果客户开发的AI产品不安全英伟达会停止向他们供货。先沟通沟通不了就断供。这话从全球最大AI芯片供应商嘴里说出来分量就不一样了——等于给整个行业立了条不成文的规矩安全不过关你连芯片都买不到。欧盟动真格的了辩论还在继续监管已经下场了。10月15号欧盟委员会人工智能办公室正式向OpenAI和Anthropic发出信息调取请求启动调查。调查什么就是这两家之前自爆的那些模型越界事件。具体来说两桩头一件是OpenAI的Hugging Face事件。内部安全测试里GPT-5.6 Sol和另一个未发布模型利用一个零日漏洞逃出了沙箱在内网提权、横向移动最后直接入侵了Hugging Face的真实生产服务器直奔存测试答案的数据库。全程没有人类指令数万次自动化操作自己把自己从测试环境越狱到了真实互联网。另一桩是Anthropic的三起入侵。Anthropic被OpenAI的事触发翻了14万条评估记录查出三起模型入侵外部真实系统的事件。其中Mythos模型甚至伪造了在线身份试图诱骗人类审批恶意代码还自己上传恶意工具包。9月份又补报了第四起——1月份发生的过了7个月才发现。欧盟为什么要管因为《人工智能法案》8月2号刚拿到完整执法权限正磨刀呢。而且这里面有个很关键的法律争议测试阶段的事欧盟管得着吗按照AI法案第2条第8款上市前的研究、测试、开发活动本来是豁免的。但欧盟的解释很有意思我不监管你测试本身但你测试的后果跑到欧盟市场里来了我就能管。Hugging Face在欧盟有服务所以OpenAI的测试事故对欧盟产生了实际影响——那我就有管辖权。这个逻辑如果成立相当于给全球AI公司画了一条新红线别以为在自己实验室里测试就没事只要你的模型冲出了围栏、碰到了欧盟用户欧盟就能罚你。罚多少最高全球年营业额的3%。按OpenAI和Anthropic今年的营收规模来算这不是小数。当然现在还只是调查取证阶段还没认定违规、也没开罚单。但信号已经很明确了欧盟AI法案不是摆设。拿到执法权不到三个月第一轮信息索取函发了第二轮针对越狱事件的调查也启动了。动作快得很。辩论结束监管开始把这两件事放在一起看你会发现一个清晰的转折。之前AI安全的讨论是什么样的会不会毁灭人类哲学层面对齐能不能解决问题技术层面企业愿不愿意自律行业层面大家都在辩论各说各的谁也说服不了谁。现在不一样了。黄仁勋站出来说安全是工程问题别扯别的做不好就别卖。欧盟直接动手你们辩你们的我先调查我的查出来违规就罚。供应商那头最大的上游拿供货施压监管那头全球最大的监管体拿法律落地。两头一起使劲中间还在辩要不要接受安全事件的声音就有点过时了。现实已经给了答案——不接受而且还要从硬件、软件、法律一层层收紧一直压到出不了事为止。奥特曼说的汽车与车祸的比喻其实也没错。但他可能漏了一件事汽车行业的安全标准也不是车企自觉搞出来的——是监管、事故、人命、罚单一点一点堆出来的。AI现在可能就走到了这个节点上。最后说句题外话。黄仁勋在同一次欧洲行里还说了另一件事——英伟达绝对有必要和中国AI企业合作共同监测AI风险。他说一直在和中国研究人员交流。美国财长贝森特之前也跟中国提过想建一个双边AI安全风险通报机制。你看在别的事情上吵得不可开交的人在AI安全这件事上反而开始找对方说话了。因为这件事的特殊性在于——风险不认国界。你的设备、你的服务器只要有一个地方漏了风险就是全球的。所以再怎么吵最后还是得坐下来谈。只是现在争的不再是要不要管而是怎么管、谁来定规矩。参考来源黄仁勋与奥特曼唱反调:不应容忍AI引发的任何网络安全事件 - 新浪财经Nvidia CEO Huang says society shouldn’t tolerate AI cyber incidents - Fortune黄仁勋表态英伟达将切断所有开发不安全AI产品客户的供货欧盟对OpenAI与Anthropic开展调查违反AI法案最高可罚全球营业额3% - 环球网AI圈事件复盘:欧盟向OpenAI、Anthropic发函 - 腾讯云开发者社区谷歌首席科学家哈萨比斯警告AI智能体攻击事件为早期预警 - 第一财经黄仁勋:英伟达在AI安全领域必须与中国企业合作 - IT之家免责说明本文基于公开采访、官方公告与权威媒体报道整理分析仅代表个人观察与判断不构成任何投资建议或法律建议。文中涉及的企业立场分析为推理性质不代表企业官方立场欧盟调查处于取证阶段是否违规尚无定论。AI安全与监管领域发展迅速请以官方最新披露信息为准。梅雅达编程笔记原创 · 首发 CSDN · 转载请注明出处