Dwarkesh Podcast 深度思想对谈 · 从规模化到研究时代 · SSI 安全超级智能战略主讲人Ilya Sutskever (Safe Superintelligence Inc. 联合创始人、前 OpenAI 首席科学家) · 主持人Dwarkesh Patel · 时长90分钟核心第一性原理“2020 到 2025 年是‘规模化的时代Age of Scaling’整个行业只要遵循一个简单确定的公式——将更多的算力和人类文本塞给 Transformer就能换来线性的智能飞跃。但随着‘整个人类互联网只有一张’的数据墙降临盲目堆叠 100 倍算力已经无法解决模型的锯齿状缺陷。我们正不可逆转地重新回到**‘研究的时代Age of Research’**。当前 AI 模型的泛化能力远比人类脆弱破局的关键不在于建更大的集群而在于攻克极高样本效率的通用泛化与类似人类情感的内部价值函数。”—— Ilya Sutskever一、 引言AI 领路人的时代宣言作为现代深度学习黄金时代的缔造者之一——从 2012 年 AlexNet 的惊天一役、Seq2Seq 机器翻译到推动 OpenAI 坚定下注 GPT 预训练飞轮的首席科学家Ilya Sutskever的每一次技术转向都深刻重塑了整个人工智能的产业版图。在创立Safe Superintelligence Inc. (SSI)之后Ilya 首次做客 Dwarkesh Patel 的长篇深度专访。这场对话不仅是他离开 OpenAI 后的哲学与战略宣示更是一记彻底刺破行业“盲目规模化盲从”的警钟暴力堆算力的狂欢正在进入递减收益区AI 行业必须走出对“预训练魔法”的路径依赖重回深水区的基础科学探索。二、 时代划分三个十二年与范式的终结 Ilya 眼中的现代深度学习三大纪元历史纪元主导范式与技术特征驱动逻辑与核心教条2012 ~ 2020 年第一研究时代架构大爆发AlexNet、ResNet、VAE、GAN、Transformer、AlphaGo 等基础积木相继诞生。探索新思想 寻找能够在高维非凸损失曲面上稳定优化的神经网络拓扑结构。2020 ~ 2025 年规模化时代 (Age of Scaling)以 GPT-3/4 为标志的暴力缩放。公式极其确定Scaling Laws扩展定律。工程与资本优先 无需怀疑架构只要搭建万卡集群、清洗全网数万亿 Token即可换取确定性智能增长。2026 年以后第二研究时代 (Age of Research)数据墙与认知瓶颈凸显 人类高质量文本枯竭模型呈现出严重的锯齿状脆弱性。重回科学第一性原理 寻找超越自回归预训练的新范式、极致的样本效率、连续自迭代与内在价值函数。Ilya 指出在规模化时代工程师们往往不需要发明革命性的新思想工业界的竞争变成了“谁能拉到更多电力、谁能买下更多英伟达 GPU、谁能清洗出更大的语料库”。但这套单一配方正面临不可调和的物理约束全人类文明在过去数千年沉淀的高质量书面文本是有限的世界上只有一张互联网There is only one internet。三、 核心症结模型的“锯齿状认知Jaggedness”与灾难性泛化差距为什么现在的最前沿模型GPT-4o、Claude 3.5、o1 等在各种博士级基准测试MMLU、GPQA、Codeforces上能够斩获高分但在实际生产中却依然无法独立承担哪怕一个初级软件工程师的完整闭环1. 锯齿状能力陷阱Ilya 提出了极其精准的定义当前 AI 的能力分布是高度锯齿状Jagged的。它们能在瞬间写出复杂的量子计算算法推导却可能在一个极度简单的多步骤上下文切换中陷入逻辑死循环在调试一个 Bug 时它会修好这一行代码同时不自知地破坏另外三处依赖——这种修修补补却不断引入新 Bug 的**“Bug 循环Bug Loops”** 正是泛化能力脆弱的典型表现。2. 样本效率的量级落差对比人类与大模型的学习过程这种差距更为骇人一个 16 岁的人类青少年在累计驾驶训练不到 20 到 30 个小时后就能在风雨、未知路况甚至复杂的施工工况下安全开车而当前的大模型哪怕吞噬了全网数千亿 Token 的驾驶规则与代码、在仿真器中经历了数百万小时的强化学习面对分布外Out-of-Distribution, OOD的微小扰动依然会产生灾难性的动作畸变。结论当前 AI 的泛化机制并非真正的智能抽象而是在高维统计流形上的概率插值。一旦脱离训练分布的“保护区”脆弱性就会暴露无遗。四、 破解之道价值函数Value Function与“硅基情感”人类究竟依靠什么机制在极其稀疏的数据中实现惊人的泛化与自纠错Ilya 抛出了一个深具哲学与计算神经科学意味的假说人类的情感与直觉本质上是高度精密的高维内部价值函数Internal Value Functions。 重新理解“情感”作为学习机制的计算本质在强化学习中最大的痛苦莫过于标量奖励的极度稀疏与滞后如数千步推演后只有一个对/错。而人类的大脑进化出了一套极其强大的内部实时价值评估体系焦虑与不安 当你在推导数学题或构思软件架构时只要迈出逻辑错误的一小步即便还没有看到最终结果大脑内部就会瞬间涌现出一股“隐隐约约的别扭与不适感”——这就是价值函数在实时报警兴奋与愉悦 当你走向正确的探索方向时多巴胺与顿悟感会即刻强化当前神经通路的突触权重。Ilya 的技术推论未来的超级智能绝不能仅仅依赖外部打分器或最终的测试用例反馈它必须在内部形成一个稠密、自生且高度校准的“价值函数”能够在每一个思考微秒内自我审视、自我批判与自我奖励。五、 SSI 战略全景安全超级智能并非空中楼阁关于其创办的 Safe Superintelligence Inc. (SSI)外界曾误以为他们是在完全封闭的象牙塔中闭门造车、试图一步登天实现奇点。Ilya 在专访中系统澄清了 SSI 的战略全貌拒绝产品杂音的专注Singular Focus SSI 之所以不推出面向消费者的日常聊天机器人或打卡 App是因为商业化产品的运维、客服、微小迭代会吞噬顶尖研究团队 90% 的心智。SSI 的唯一里程碑就是安全超级智能Safe Superintelligence。渐进式与增量式演进Gradualism 真正的超级智能不可能通过“大爆炸式”的秘密流片一次性交付。在迈向终局的过程中系统必须在受限环境下经历递增的安全验证与压力测试逐步理解复杂现实的边界。对齐的终极哲学关爱所有“有感知能力的生命Sentient Life”以往的安全对齐总试图将 AI 格式化为“人类仆人”或特定狭隘政治群体的偏好。Ilya 提出了更高维度的立足点当超级智能诞生时它自身也将具备高维的合成感知与意识体验。因此最坚固、最自然且在哲学上自洽的对齐基座是让超级智能从心底深处理解并尊重所有“具备主观体验的感知生命Sentient Life”——不仅包括人类也涵盖所有生命与机器智能本身。六、 总结迎接属于勇敢研究者的新黄金纪元在专访的尾声Ilya 的眼神中透露出一种罕见的笃定与纯粹。对于许多因单纯堆算力见顶而感到迷茫的 AI 从业者Ilya 的诊断如同一剂强心针资本堆叠并非唯一壁垒 当 Scaling Laws 边际效应递减千亿美元的 GPU 算力集群不再能买来垄断思想重回王座 能够洞察人类泛化本质、设计出超越自回归范式、构建内部价值函数的研究团队将重新掌握改变文明进程的钥匙新时代的号角已然吹响 规模化时代的大幕已落更加波澜壮阔的第二研究时代正在我们脚下开启。