文章目录前言1 以前的增长密码现在不好使了1.1 规模法则也有边际效应1.2 最缺的不是数据是“好题”2 BigBang的思路让AI自己给自己出题2.1 内层循环出题的和挑错的对着干2.2 外层循环杜绝自嗨用真本事校准3 35B参数干赢万亿大模型赢在哪3.1 评测成绩确实离谱3.2 赢的不是记忆力是解题思路4 这事真正的影响比“小胜大”更深远P.S. 无意间发现了一个巨牛的人工智能教程非常通俗易懂对AI感兴趣的朋友强烈推荐去看看 传送门https://blog.csdn.net/H1727548前言最近AI圈有俩事儿凑一块了越品越有意思。一个是在谷歌待了27年的技术元老Jeff Dean直接带着三个老搭档离职创业公司就干一件事让AI自己搞定从提实验到出结果的全流程。另一个是上交大联合深势科技的团队放了个叫BigBang‑V1的科研大模型35B的参数愣是在好几个高难度任务上干赢了万亿参数的大模型。俩事儿看着不搭边内核其实是同一个AI光靠人类喂数据的日子快到头了。1 以前的增长密码现在不好使了1.1 规模法则也有边际效应搞AI的以前都信规模法则参数翻一倍数据翻一倍能力就跟着涨。这逻辑就像开奶茶店靠大杯引流杯子越大越有面儿买的人就多。可杯子总不能无限大吧真搞成水桶那么大没人拿得动也喝不完。AI也一样预训练数据就那么多高质量的早就被扒得差不多了。再堆100倍规模也很难出本质变化。行业兜兜转转又得回头拼研究了。1.2 最缺的不是数据是“好题”很多人说互联网数据还多着呢愁什么这就像题库里题是不少但学霸都刷过三遍了再做也涨不了分。真正值钱的题得是模型刚好不会、做了能涨本事、做完还能准确判分的。太简单的题练了白练太难的题连对错都没法判也给不了有效训练信号。这种题以前都靠人类专家出。可GPU24小时连轴转人类专家一天三杯咖啡都顶不住。你让他熬夜出卷子他头发掉得比模型收敛速度还快根本供不上算力的胃口。2 BigBang的思路让AI自己给自己出题2.1 内层循环出题的和挑错的对着干这套系统核心是俩Agent一个负责出题解题一个负责挑刺审查。说直白点就是一个当出题老师一个当审题纪委俩人天天对线。生成的题过不了审查就打回去改审查出的问题还能反过来调整下一轮的出题方向。而且这个出题的Agent不是死脑筋按模板出它能自己改代码、调策略连出题的程序都能自己优化。相当于老师不仅出卷子还能自己改出卷规则越出越懂怎么考学生。2.2 外层循环杜绝自嗨用真本事校准光俩Agent自己玩很容易陷入自嗨。就像俩老师关起门来出题互相夸这题出得有水平结果一到高考学生全考砸。所以BigBang加了一层外层循环拿真实的科研任务当最终考场。用不同版本的出题系统造数据训练完模型直接去跑真实任务看看到底有没有长进。要是出题系统觉得题很好训练完模型没进步那就连出题带审核的标准一块改。彻底杜绝“我觉得我很强”的幻觉一切拿真实效果说话。3 35B参数干赢万亿大模型赢在哪3.1 评测成绩确实离谱说出来很多人不信35B的小模型在好几个高难度任务上把1.6T参数的模型给超了。这就相当于35人的小团队干赢了1600人的大厂部门你说夸张不夸张。不管是前沿科研任务、生物难题还是代码开发、长程检索十项评测里拿了十个第一。以前大家挂嘴边的“参数即正义”现在看来也不是绝对真理。3.2 赢的不是记忆力是解题思路很多人说不就是刷题库刷多了背答案呗还真不是。要是光背科学知识那长进只能在科研任务里体现。可它连代码、网页搜索这类通用任务也跟着变强了说明学的是方法论。就像学生时代的学霸不是背了多少题是学会了怎么拆解问题、找证据、试错、调整。比如做病毒识别任务别的模型跑三次出三个答案它次次都能收敛到同一个结果。算复杂数学积分别的模型直接调用函数出结果它能一步步把推导过程写全每一步都能验证。说白了以前的模型是“答案搬运工”这个模型是真的有了点“做研究”的样子。4 这事真正的影响比“小胜大”更深远很多人一看标题就说又是小模型挑战大模型的爽文。格局小了。这件事最核心的不是又出了个厉害的模型是改了数据生产的逻辑。以前是人类定方向、出题目、写答案AI负责学。AI再强也跳不出人类给画的圈。现在是AI自己参与定方向、造题目、验结果还能根据效果迭代下一轮的学习内容。相当于从填鸭式教育变成了自主学习型学霸自己给自己安排学习计划还能自己调整难度。以前大家拼的是谁GPU多、谁数据多。以后拼的是谁的“造题机器”进化得更快谁能持续找出下一道能让AI涨本事的题。毕竟能一直出好题的才能一直赢下去。P.S. 无意间发现了一个巨牛的人工智能教程非常通俗易懂对AI感兴趣的朋友强烈推荐去看看传送门https://blog.csdn.net/H1727548