写在前面欢迎大家关注Rocky的公众号WeThinkIn欢迎大家关注Rocky的知乎Rocky Ding《三年面试五年模拟》AIGC/LLM/AI Agent算法工程师/开发工程师求职面试秘籍独家资源【三年面试五年模拟】WeThinkIn/AIGC-Interview-Book欢迎大家StarRocky最新撰写的10万字AI AgentAI智能体深入浅出全维度解析文章深入浅出完整解析AI AgentAI智能体的核心基础知识AIGC/LLM/AI Agent算法岗/开发岗求职面试内推学习社群涵盖AIGC、LLM大模型、AI Agent、传统深度学习、自动驾驶、机器学习、计算机视觉、自然语言处理、强化学习、大数据挖掘、具身智能、元宇宙、AGI等AI行业最新面试干货经验与核心知识欢迎大家加入https://t.zsxq.com/33pJ0大家好我是Rocky。核心导读最近关于 Ornith-1.5 的讨论很容易被标题里的几个数字带走9B、35B 达到同规模领先397B 在 Terminal-Bench 2.1 上拿到 86.1接近 Claude Opus 4.8量化后的 9B 版本还可以部署到手机。这些结果值得看但它们不是这次发布最重要的地方。Ornith-1.5 真正试图改变的是基础模型训练中一个长期存在的分工人类负责出题工程师负责写评测脚手架模型负责生成答案。Ornith-1.5 把三者放进同一个强化学习回路让模型同时学习“提出什么任务”“如何搭建解决环境”和“怎样完成任务”。Rocky 的核心判断是Ornith-1.5 不是让模型凭空获得了自我意识而是把训练数据生成、Agent 脚手架和策略优化连接成一个可验证的生产系统。它的跨周期价值不在于“模型会自己提问”这句宣传语而在于把学习课程从静态数据集变成随能力边界移动的任务分布。这条路线要成立必须同时满足三个条件任务要有效且可验证难度要落在模型当前能力前沿附近任务还要足够新颖不能退化成重复改写。官方页面给出了明确的奖励分解微信公众号文章则把这套机制翻译成了更适合传播的叙事。本文将两份来源放在一起区分公开事实、技术解释和仍然需要复核的判断。问题背景为什么“自我提升”首先是训练系统问题过去几年模型能力提升大致沿着三条线推进更多预训练数据、更强的后训练算法、更复杂的工具调用框架。它们都有效但有一个共同瓶颈训练任务的供给仍然主要由人类预先定义。人类可以制作高质量样本却很难持续覆盖模型的能力前沿。任务太简单强化学习只是在重复已经掌握的行为任务太难又没有足够的成功轨迹形成稳定梯度。更麻烦的是Agent 任务的价值不仅取决于答案是否正确还取决于工具、执行顺序、错误恢复和评测器是否共同构成了一个可靠环境。只优化最终答案常常会把真正的系统瓶颈藏起来。Ornith-1.0 已经把“脚手架”纳入模型能力模型不仅输出答案也学习如何组织指令、工具和分解策略。Ornith-1.5 进一步把任务生成加入进来形成task - scaffold - rollout的三阶段闭环。这里的关键不是把人工从流程里一次性删除而是把人工从“每个任务都亲自设计”转向“定义边界、提供环境、审计奖励”。这也是为什么“告别人工”这个公众号小标题需要谨慎理解。官方技术页并没有声称训练过程无需人类它声称的是在给定环境、任务类型和历史轨迹之后模型能够持续生成更接近自身能力前沿的新任务并用这些任务产生新的强化学习经验。核心思路让任务、脚手架和解题轨迹共享一个奖励信号一次训练循环可以拆成三步任务提出question/task generation模型观察环境或代码库、任务类型指令和历史解题记录生成一个比当前已解决任务更难的新任务。脚手架构建scaffold/harness construction模型为任务生成或修订指令、工具调用方式、问题分解策略和执行编排。方案展开solution rollout策略在任务和脚手架条件下执行产生完整轨迹由脚手架中的评测器给出奖励。最终的 rollout 奖励会反向影响前两步。模型学习的就不只是“如何解题”还包括“什么题值得拿来训练”和“什么样的执行框架更容易可靠地解题”。这是一种从样本级优化走向训练环境级优化的变化。用强化学习的语言说三步可以共享 GRPO 更新但奖励不能只看最终成功率。官方给出的任务奖励是公式1R t a s k V ( q , s ) × D ( q , s , { τ i } i 1 N ) × N ( q ) R_{\mathrm{task}}V(q,s)\times D\left(q,s,\{\tau_i\}_{i1}^{N}\right)\times N(q)RtaskV(q,s)×D(q,s,{τi}i1N)×N(q)其中q qq是任务s ss是脚手架τ i \tau_iτi是多条解题轨迹V VV表示有效性与可验证性D DD表示任务是否处在能力前沿N NN表示相对历史任务的新颖度。乘法结构很重要任何一项接近零整个任务就不值得进入训练。1. 有效性先保证“题目和考场是真的”官方把V ( q , s ) V(q,s)V(q,s)定义为一个区间值也允许把它当作硬门槛V ( q , s ) 0 ⇒ R t a s k 0 V(q,s)0\Rightarrow R_{\mathrm{task}}0V(q,s)0⇒Rtask0这意味着一个看起来很难但无法运行的脚手架、一个答案判定不稳定的评测器、一个任务描述和执行环境不一致的题目都不能因为“难”而获得奖励。对于 Agent 训练这比传统的题库过滤更关键因为模型可以利用评测器漏洞获得虚高分形成 reward hacking。2. 前沿难度训练任务不能太容易也不能完全做不出来对一个任务采样N NN条轨迹设成功率为p 1 N ∑ i 1 N 1 [ s ( q , τ i ) s u c c e s s ] p\frac{1}{N}\sum_{i1}^{N}\mathbf{1}[s(q,\tau_i)\mathrm{success}]pN1i1∑N1[s(q,τi)success]Ornith-1.5 用高斯形状奖励成功率接近目标前沿p ∗ p^{*}p∗的任务D ( q , s , { τ i } ) exp ( − ( p − p ∗ ) 2 2 σ 2 ) D(q,s,\{\tau_i\})\exp\left(-\frac{(p-p^{*})^2}{2\sigma^2}\right)D(q,s,{τi})exp(−2σ2(p−p∗)2)官方页面给出的p ∗ p^{*}p∗是 0.2。直观地说约 20% 的成功率意味着任务足够难仍然能产生少量有效轨迹用于强化学习。当模型能力提升、旧任务成功率上升时D DD自动下降任务生成器被推向更困难的问题。这比固定难度课程更接近“移动靶”课程边界不是由人类一次性标注而是由当前策略的实际表现估计。3. 新颖度防止自我提升变成自我重复如果只追求前沿难度生成器可能不断改写同一类任务。官方用历史任务缓冲区B \mathcal{B}B定义新颖度N ( q ) 1 − max q j ∈ B s i m ( q , q j ) N(q)1-\max_{q_j\in\mathcal{B}}\mathrm{sim}(q,q_j)N(q)1−qj∈Bmaxsim(q,qj)新颖度不是鼓励猎奇而是降低重复。它必须服从有效性和难度一个“从未出现过”但无法验证的问题依然是坏训练数据。4. 脚手架和 rollout让评测器也接受约束任务生成解决“练什么”脚手架生成解决“怎么练”rollout 才是“练得怎么样”。官方给出的脚手架奖励为R h a r n e s s C ( q , h ) × F ( h , { τ i } ) × H ( h ) R_{\mathrm{harness}}C(q,h)\times F\left(h,\{\tau_i\}\right)\times H(h)RharnessC(q,h)×F(h,{τi})×H(h)其中C CC是任务对齐度F FF是奖励忠实度H HH是抗投机能力。最终轨迹奖励为R r o l l o u t ( τ i ) h ( q , τ i ) R_{\mathrm{rollout}}(\tau_i)h(q,\tau_i)Rrollout(τi)h(q,τi)这个设计把“评测器工程”本身变成了可优化对象但也带来新的风险如果H HH的估计不可靠模型可能学会构造更容易被钻空子的 harness而不是提高真实能力。因此闭环越强评测器的独立审计越重要。性能证据数字说明了什么又没有说明什么官方页面给出了 397B MoE、35B MoE 和 9B Dense 三个尺寸。它们展示的不是单一的“越大越强”而是同一训练范式在云端、服务器和边缘设备上的伸缩性。397B接近闭源旗舰但不能只看两个分数在官方表格中Ornith-1.5-397B 的 Terminal-Bench 2.1Terminus-2为 86.1SWE-bench Verified 为 86.0DeepSWE 为 56.0Claude Opus 4.8 对应为 85.0、85.8 和 59.0。公众号文章选择了 Terminal-Bench 和 DeepSWE 两个数字概括为“比肩 Opus 4.8”。这个结论在对应评测设置下是合理的但不应外推为“397B 全面等于 Opus”。官方表格同时显示397B 在 HLEno tools为 44.6低于 Opus 的 49.8在 Frontier-Bench v0.1 为 13.5也明显低于 Opus 的 21.1。benchmark 的选择会影响“接近”这个叙事。因此更严谨的说法是在公开的编码和 Agent 基准子集上Ornith-1.5-397B 已经进入闭源旗舰的比较区间它还不是所有能力维度都完成等价替代。35B-A3B低激活参数的价值在于成本曲线35B 版本采用 MoE每个 token 只激活约 3B 参数。官方数据显示它在 Terminal-Bench 2.1Claude Code上为 68.5SWE-bench Verified 为 79.0对应的 Gemma 4-31B dense 为 42.1 和 52.0Muse Glimmer-30B 为 51.7 和 76.0。这里真正值得注意的不是“35B 击败 30B”而是有效计算量和能力之间出现了更好的交换率。MoE 把总容量和单 token 计算拆开配合自生成课程可能让训练经验更多地流向 Agent 编码中的长尾错误恢复、工具编排和代码库理解而不是平均分配给所有 token。但这也要求部署端具备专家路由、显存分片和缓存管理能力。低激活不等于低系统成本通信、专家负载不均衡和长上下文仍然可能成为瓶颈。9B边缘部署的价值是“可用”不是“参数小”9B Dense 的 Terminal-Bench 2.1Claude Code为 47.0SWE-bench Verified 为 70.6官方同时发布量化的 Ornith-1.5-9B-Mobile宣称可部署在 iPhone 和 Android 设备上。公众号文章把它进一步概括为“普通智能手机可运行”。这里需要区分事实层级官方页面支持“量化移动版本可部署”的产品定位但完整的端侧内存、功耗、首 token 延迟、上下文长度和持续运行时间数据并没有在这两个来源中展开。对端侧模型来说能启动只是第一关真正的产品价值要看离线可用率、交互延迟和隐私收益能否覆盖精度差距。评测脚注为什么同一个分数不能脱离 harness 阅读Ornith-1.5 的评测脚注是这次发布中容易被忽略、但非常重要的部分。官方称所有结果平均五次独立运行Terminal-Bench 使用 Harbor/Terminus-2 或 Claude Code不同 harness 会产生不同结果SWE-bench 系列使用 OpenHands移除 Git 历史并关闭网络以降低获取先验答案和外部资源的可能MCP-Atlas 使用 Claude 4.8 Opus 作为 judge model。这说明 Agent benchmark 的测量对象不是“裸模型”而是“模型 system prompt 工具 harness 超时 judge”。因此比较模型时至少要同时记录维度为什么影响结论执行框架同一模型在 Terminus-2、Claude Code、OpenHands 上可能有不同表现上下文与输出上限128K、256K、400K 会改变长任务的可完成范围网络与仓库信息开启网络或保留 Git 历史会改变任务难度和泄漏风险judge modelHLE、MCP-Atlas 的分数包含外部模型的判定偏差随机性温度、top-p、运行次数决定均值和方差所以“SOTA”是一个带条件的工程结论而不是脱离评测协议的模型本体属性。边界与可复现性闭环最难的不是生成而是验证Ornith-1.5 的公开页面把机制讲得相当清楚但仍有几类问题需要继续公开才能让外部研究者判断它是否真正跨周期。第一任务生成的环境覆盖范围还不够透明。官方说明使用环境或代码库、任务类型和历史轨迹但没有在页面中完整给出训练任务规模、任务去重策略、生成失败率和不同领域的混合比例。没有这些数据很难判断收益来自通用的自提升机制还是来自特定编码环境的强适配。第二奖励模型和 harness 的独立性需要审计。任务、脚手架和解题轨迹都由同一策略家族生成闭环容易产生“自我确认”模型更擅长生成自己熟悉的任务也更擅长构造对自己有利的评测器。V VV、F FF和H HH的实现细节决定了闭环是能力增长还是 reward hacking 的放大器。第三开源协议不等于完整可复现。模型权重、推理代码和评测脚本只是结果的一部分任务生成器、环境快照、失败轨迹、奖励日志、训练算力和版本化的 harness 同样关键。对于自提升系统真正应该开源的是“训练环境的演化轨迹”而不只是最终 checkpoint。第四benchmark 仍然是有限证据。397B 在部分编码/Agent 指标上接近 Opus9B 在若干任务上超过大模型这说明训练范式有效但不能直接推出真实生产中的稳定性、代码安全、隐私和长周期维护能力。尤其在企业软件中失败成本通常不是一次任务得分能够覆盖的。本质判断Ornith-1.5 把模型训练变成了“课程生产系统”从技术本质看Ornith-1.5 并没有消除数据而是把“数据”重新定义了。传统后训练把数据看成已经存在的问答对或偏好对Ornith-1.5 把可执行任务、评测脚手架和解题轨迹视为一种动态数据结构。这带来三个变化。第一训练分布开始随模型移动。任务难度由当前策略的成功率估计模型变强后旧任务的训练价值下降课程向新的能力前沿迁移。第二Agent 的工具链从提示词资产变成策略资产。Scaffold 不只是 prompt而是指令、工具、分解、编排和评测器的组合。它可以被优化、比较、复用也可以被审计。第三模型能力的瓶颈从“有没有更多样本”转向“有没有更好的可验证环境”。任务生成、环境构造、奖励设计和防作弊逐渐和模型结构同等重要。未来高价值的基础设施可能不是又一个 prompt 库而是能持续产生可靠训练经验的环境平台。这也是 Rocky 认为这项工作最值得产业界关注的地方工具不是护城河训练闭环和问题定义才可能成为护城河。当基础模型越来越容易调用真正稀缺的是把业务目标拆成可执行、可验证、可持续变难的任务系统。如果继续研究或落地应该关注什么对算法团队先做可审计的任务生成器不要从“让模型自己出题”开始而要先建立任务 schema、环境快照、成功判定、失败分类和去重缓冲区。每个任务都应该能回答它为什么有效难在哪里谁验证了它失败是否可归因。对 Agent 产品团队把脚手架当成版本化代码生产环境中的 scaffold 应该像代码一样有版本、测试、回滚和灰度。它包含工具权限和执行编排不能只在 prompt 文本里迭代。尤其要把“评测器能否被绕过”列为上线前的安全测试项。对端侧模型团队用真实交互指标验收 9B Mobile端侧部署不能只报参数量和 benchmark。需要同时报告峰值内存、功耗、首 token 延迟、持续对话吞吐、离线成功率和隐私收益。只有这些指标形成闭环9B 的小模型优势才会变成产品价值。对研究者研究“自提升是否会收敛到自己的偏见”闭环会不会不断生成模型擅长的问题而逃避真正困难的问题新颖度是否会奖励无意义的复杂性不同模型初始化是否收敛到相同课程这些问题比“能否多跑一轮 GRPO”更接近自我提升的理论边界。术语与概念速查术语含义Self-scaffolding模型生成或优化自身的任务指令、工具和执行策略Task generation根据环境、任务类型和历史轨迹提出新的训练任务Harness包含工具、执行流程和评测逻辑的任务运行环境Rollout模型在任务和脚手架条件下产生的一次完整执行轨迹Frontier difficulty由当前模型成功率估计的能力前沿难度GRPO用组内相对奖励更新策略的强化学习方法MoE混合专家架构总参数量和每 token 激活参数量可以分离Reward hacking模型利用评测器漏洞获得高奖励而没有提高真实能力拓展思考自我提升的下一步不是更会出题而是更会建立世界Ornith-1.5 目前最清晰的优势集中在推理、编码和 Agent 任务因为这些任务相对容易构造可执行环境和验证器。下一步如果要走向更广泛的科学研究、工业控制或现实世界决策系统必须处理更长周期、更高代价和更弱可验证性的反馈。一个可能的方向是分层奖励短期奖励衡量任务完成中期奖励衡量代码维护和错误恢复长期奖励衡量对环境的真实改进另一个方向是引入独立的 adversarial evaluator让任务生成器和评测器不再由同一策略单方面控制。再往前模型需要把任务生成从“生成题目”提升为“构造可探索的世界”环境状态、行动后果、资源约束和失败代价都要成为训练分布的一部分。这条路线的终点不是一个会自言自语的模型而是一套能够持续提出问题、构造实验、记录证据、修正策略并接受外部审计的学习系统。Ornith-1.5 还没有证明这套系统已经完成但它把问题从口号变成了可计算的三项奖励、可运行的 harness 和可比较的 benchmark。这就是它最值得被认真研究的地方。推荐阅读Rocky一直在运营技术交流群WeThinkIn-技术交流群这个群的初心主要聚焦于技术话题的讨论与学习包括但不限于算法、开发、竞赛、科研以及工作求职等。群里有很多人工智能行业的大牛欢迎大家入群一起学习交流请添加小助手微信Jarvis8866拉你进群1. 深入浅出完整解析AI AgentAI智能体的核心基础知识2025年可以说是AI Agent全面落地应用的元年因此Rocky在持续撰写对AI Agent的全维度解析文章深入浅出完整解析AI AgentAI智能体的核心基础知识2. 深入浅出完整解析扩散模型DDPM、DDIM、Score-Based、SDE、LDM、Classifier/Classifier-Free Guidance、Rectified Flow核心基础知识Rocky对扩散模型的本质原理与和核心基础知识进行了全面系统的深入浅出分析讲解同时不断跟进补充扩散模型的最新技术发展希望能给大家带来帮助深入浅出完整解析扩散模型DDPM、DDIM、Score-Based、SDE、LDM、Classifier/Classifier-Free Guidance、Rectified Flow核心基础知识3. 入浅出完整解析FLUX.2、Seedream即梦、Z-image、GLM-Image核心基础知识Rocky对AIGC时代“中场时刻”之后的主流AIGC创作大模型的核心基础知识进行了全面系统的深入浅出分析讲解力求让大家通俗易懂理解AIGC时代的技术浪潮的本质价值入浅出完整解析FLUX.2、Seedream即梦、Z-image、GLM-Image核心基础知识4. 深入浅出完整解析FLUX.1 Kontext和FLUX.1 Krea核心基础知识Rocky对FLUX.1 Kontext和FLUX.1 Krea的核心基础知识作了全面系统的梳理与解析深入浅出完整解析FLUX.1 Kontext和FLUX.1 Krea核心基础知识5. 深入浅出完整解析DeepSeek系列核心基础知识Rocky对DeepSeek系列模型的核心基础知识作了全面系统的梳理与解析深入浅出完整解析DeepSeek系列核心基础知识6. 深入浅出完整解析Stable Diffusion 3SD 3和FLUX.1系列核心基础知识Rocky对Stable Diffusion 3和FLUX.1的核心基础知识作了全面系统的梳理与解析深入浅出完整解析Stable Diffusion 3SD 3和FLUX.1系列核心基础知识7. 深入浅出完整解析Stable Diffusion XLSDXL核心基础知识Rocky对Stable Diffusion XL的核心基础知识作了全面系统的梳理与解析深入浅出完整解析Stable Diffusion XLSDXL核心基础知识8. 深入浅出完整解析Stable DiffusionSD核心基础知识Rocky对Stable Diffusion 1.x-2.x系列模型的核心基础知识做了全面系统的梳理与解析深入浅出完整解析Stable DiffusionSD核心基础知识9. 深入浅出完整解析Stable Diffusion中U-Net的前世今生与核心知识Rocky对Stable Diffusion中最为关键的U-Net结构进行了深入浅出的全面解析包括其在传统深度学习中的价值和在AIGC中的价值深入浅出完整解析Stable Diffusion中U-Net的前世今生与核心知识10. 深入浅出完整解析LoRALow-Rank Adaptation模型核心基础知识对于AIGC时代中的“ResNet”——LoRA模型Rocky进行了深入浅出的全面讲解深入浅出完整解析LoRALow-Rank Adaptation模型核心基础知识11. 深入浅出完整解析ControlNet核心基础知识AIGC图像创作开源社区已经形成以Stable Difffusion/FLUX为核心ConrtolNet和LoRA作为首要AI辅助工具的变化万千的AIGC图像创作工作流。ControlNet正是让AI图像创作社区无比繁荣的关键一环它让AIGC图像创作过程更加的可控更有助于广泛地将AIGC算法解决方案应用到各行各业中深入浅出完整解析ControlNet核心基础知识12. 深入浅出完整解析Sora、Seedance、keling等AI视频大模型核心基础知识AI绘画和AI视频是两个互相促进、相互交融的领域2024年无疑是AI视频领域的爆发之年Rocky对AI视频领域核心的Sora、Seedance、Keling等大模型进行了全面系统的梳理与解析深入浅出完整解析Sora、Seedance、keling等AI视频大模型核心基础知识13. 深入浅出完整解析AIGC时代Transformer核心基础知识在AIGC时代中Transformer为AI行业带来了深刻的变革。Transformer架构正在一步一步重构所有的AI技术方向成为AI技术架构大一统与多模态整合的关键核心基座大有一统“AI江湖”之势。Rocky也对Transformer模型进行持续的深入浅出梳理与解析深入浅出完整解析AIGC时代Transformer核心基础知识14. 深入浅出完整解析ComfyUI、Diffusers、Stable Diffusion WebUI等主流AIGC创作框架核心基础知识AIGC创作框架正是AIGC算法工作流的运行载体目前主流的AIGC创作框架有ComfyUI、Diffusers、Stable Diffusion WebUI等。在传统深度学习时代PyTorch、TensorFlow以及Caffe是传统深度学习模型的基础运行框架到了AIGC时代Rocky相信ComfyUI就是AIGC时代的“PyTorch”、Stable Diffusion WebUI就是AIGC时代的“TensorFlow”、Diffusers就是AIGC时代的“Caffe”深入浅出完整解析ComfyUI、Diffusers、Stable Diffusion WebUI等主流AIGC创作框架核心基础知识15. 深入浅出完整解析ComfyUI、Diffusers、Stable Diffusion WebUI等主流AIGC创作框架核心基础知识在AIGC时代中如何快速转身入局AIGC产业如何成为AIGC/LLM/AI Agent算法/开发工程师如何在学校中系统性学习AIGC/LLM/AI Agent知识斩获心仪的AIGC/LLM/AI Agent算法/开发offerDon‘t worryRocky为大家总结整理了全面的AIGC/LLM/AI Agent算法/开发工程师成长秘籍为大家答疑解惑希望能给大家带来帮助手把手教你成为AIGC/LLM/AI Agent算法/开发工程师斩获AIGC/LLM/AI Agent算法/开发offer16. AIGC产业的深度思考与分析2023年3月21日微软创始人比尔·盖茨在其博客文章《The Age of AI has begun》中表示自从1980年首次看到图形用户界面graphical user interface以来以OpenAI为代表的科技公司发布的AIGC模型是他所见过的最具革命性的技术进步。Rocky也认为AIGC及其生态会成为AI行业重大变革的主导力量。AIGC会带来一个全新的红利期未来随着AIGC的全面落地和深度商用会深刻改变我们的工作、生活、学习以及交流方式各行各业都将被重新定义过程会非常有趣。那么在此基础上我们该如何更好的审视AIGC的未来我们该如何更好地拥抱AIGC引领的革新Rocky准备从技术、产品、商业模式、长期主义等维度持续分享一些个人的核心思考与观点希望能帮助各位读者对AIGC有一个全面的了解深入浅出全面解析AIGC时代核心价值与发展趋势2025年版17. AI算法工程师的独孤九剑秘籍为了方便大家实习、校招以及社招的面试准备同时帮助大家提升扩展技术基本面Rocky将符合大厂和AI独角兽价值的算法高频面试知识点撰写总结成《三年面试五年模拟》之独孤九剑秘籍:【三年面试五年模拟】AIGC时代的算法工程师的求职面试秘籍持续更新中18. 深入浅出完整解析AIGC时代中GANGenerative Adversarial Network系列模型核心基础知识GAN系列模型作为传统深度学习时代的最热门生成式Al模型在AIGC时代继续繁荣作为Stable Diffusion/FLUX系列大模型的“得力助手”广泛活跃于AlGC图像创作的产品与工作流中深入浅出完整解析AIGC时代中GANGenerative Adversarial Network系列模型核心基础知识