AI算力绕不开的卡点与机会。最近字节跳动通过银团贷款296亿美元阿里巴巴800亿港元配售再往前几个月谷歌和亚马逊融了800多亿美元NVIDIA抛出5000亿美元“大计划”全球所有大厂都在疯狂找钱花钱的方向只有一个AI基建。宏大叙事一点说近代产业史每一轮重塑时代格局的底层机遇本质都是一场顶级的基建升级。19世纪轰轰烈烈的铁路狂热和美国西部淘金热、国内的房地产城镇化再到现在的全球AI基建热虽然资本大手笔砸钱的过程可能市场争议不会断过程也会伴随着泡沫但最后沉淀下来的基础设施能稳稳托举未来几十年的产业发展。只不过跟之前的全球基建相比这场AI基建的覆盖范围更广砸钱规模史无前例产业迭代也快得离谱争议自然也更大。7月份AI基建就经历了一轮剧烈波动资本市场对AI基建的巨额投入和回报之间的gap产生了疑问。无脑堆卡、疯狂扩集群的粗放时代还没结束但市场开始关心砸出去上万亿算力投资未来真的能赚到钱吗这是在资本端和产业端的变化信号。而与去年的区别是今年大家能明显感觉到普通用户已经开始常态化使用各类桌面Agent。AI不再是简单的聊天工具真正变成了可以自动运行、循环干活的智能体。今年是真正的Agent元年。C端智能体开始大范围普及也让Token消耗不断超出预计。今年3月国内日均Token调用突破140万亿相比2024年初直接翻了千倍以上。而且现在还有个挺拧巴的问题。都在喊缺卡抢算力但实际上还有大量GPU天天在空转、闲置和浪费。卡内基梅隆大学做了一次实测用756张GPU连续跑了31天发现集群近两成的时间都在“等待”。比如OpenAI的推理业务一半以上能耗都耗在了空转上国内智算中心更夸张GPU平均利用率还不到30%。前几年AI基建野蛮生长堆规模还能掩盖住效率问题。但现在快到了要回报的时刻拼的是谁能把Token成本打下来、谁能把算力利用率提上去。效率成了AI Infra新的胜负手。于是现在紧要的问题是空转的算力怎么盘活推理成本怎么打下来。而随着AI Infra的行情进入深水区行业噪音也逐渐多了起来。AI赛道铺得太开芯片、电力、硬件、软件、模型、应用层层叠加每天都有新融资、新故事、新概念冒出来每一方都在讲符合自己利益的自洽的版本。就如《信号与噪声》所说信息爆炸的时代噪音永远比信号多、比信号快。AI行业正处于这种状态大家都在讲狂热的长线故事但没人敢笃定短期的确定性。千亿级基建投入长期红利和短期泡沫的比例是多少AI Infra到底有没有真壁垒市场情绪降温会不会影响一级市场融资和退出中美在AI Infra的差别和差距在哪里又哪些弯道超车的机会这些问题需要去掉“噪声”找到那些真正的“信号”。带着这些趋势和问题投中网联合中关村科学城公司、中关村创业大街共同举办了“Agent元年重构AI Infra新势力”深度闭门沙龙。“七姐妹抱团中国散装”在本次的AI Infra沙龙中九章云极、特斯联、趋境科技都是国内核心的Token直接供给玩家。凭借自研调度、异构整合与全链路优化能力它们有各自的思路解决GPU空转、算力利用率低、推理成本高昂等问题。恰逢Agent规模化爆发全网Token需求井喷这类能实实在在提效降本、稳定算力供给的企业已然成为AI Infra精细化升级的核心底层支撑。九章云极在国内布局了12个智算中心节点并已拓展至东南亚市场业务覆盖智算新云、训练工厂与Token工厂三大板块。九章云极联合创始人暨COO尚明栋观察到一个行业趋势美国市场算力供给呈现高度集中的格局头部云厂商与AI基础设施公司形成了紧密的生态协同中国市场则更多由实际需求驱动呈现出更分散、更贴近产业的特点。趋境科技核心团队成员具有清华大学计算机系高性能计算研究所的科研和工程背景承接了相关团队十余年的技术积累研发核心团队成员多具有清华背景。2023年底成立时正值“百模大战”热度较高的阶段趋境科技就选定了推理明确聚焦大模型推理这在当时的行业创业公司中并不多见。趋境科技总裁兼CFO武文洁三年前还是这一行业的投资人和研究者如今投身创业。她的感触是“真正的创业者、实践者还是深感国产卡和海外高性能卡有很大的差距获得这些卡越来越难。”特斯联AI Infra业务负责人刘跃看的是场景这一端。特斯联2015年成立于重庆从AIoT场景做起一路成长为AI-IoT独角兽股东阵容涵盖国央企、IDG资本、AL Capital等知名投资机构以及京东、科大讯飞、商汤等头部产业资本截至目前其产品已部署于全球170多个城市、服务超过900个客户。他的核心观点是特斯联的打法是用垂直场景驱动AI Infra和Agent的产品迭代这与市面上以通用Token服务和算力租赁为主的路径不是一回事。“美国厂商更多集中在基础设施和上层通用模型国内市场不一样场景密度高、产业门类全应用层百花齐放。”芯片这一层的差距还有另一种形态。海松资本董事总经理刘忱举例说现在有一些专做推理芯片的新公司甚至直接把某家模型公司的架构写进芯片等于给一款模型做一颗专用芯片运行效率比现有方案高出100倍。代价也明显换个模型或者模型一迭代这颗芯片就用不上了。刘忱进一步解释说从绝对的通用性到绝对的效率有很多中间地带每个芯片解决的只是中间地带的某个场景“很难通过一个公司、一个产品解决所有的问题”大厂买不了整个公司就买人、买专利。国产通用GPU这一路象帝先的经历本身就很说明问题。象帝先2020年9月在重庆成立创始人唐志敏参与过龙芯1号、2号的研发也是海光信息的创始人之一80%的研发人员来自海光同芯在售产品已到第三代。公司累计融资约30亿元估值一度到过150亿元但资金压力一直悬在头顶2025年靠投资方数亿元战略投资缓了过来今年4月已与中信建投证券签约启动上市前各项准备工作。象帝先王耀宇的判断是NVIDIA不是纯粹的硬件公司制胜在软件打通了CUDA生态各家软硬件基于生态对接才形成行业壁垒。“目前国内还没有能力做到这个程度国产GPU市场要想做成完全通用化难度确实很大因为没有行业统一的接口。”他给出的路径是先定制化“区别于通用化的难度国产芯片企业可以达成应该是比通用化更快。随着AI Agent的需求迅速扩大通过定制化国产GPU可以满足快速增长的市场需求”。而且海内外芯片供给的差距相比过去还在进一步拉大。AIGCode联合创始人CTO陈秋武在沙龙现场给出一组直观对比数据去年NVIDIA产出的算力卡规模是昇腾的100倍到了今年这一差距进一步扩大到约200倍。作为长期深度适配国产算力的技术团队AIGCode一直在做国产芯片的训练及推理性能优化工作服务对象不仅有昇腾近期也陆续承接了国内大厂的模型训练及推理优化需求。团队的国产大模型适配能力也在快速迭代2025年底就已经和海思合作完成130B参数模型的预训练工作时至今日已经可以在国产硬件底座上完成700B参数大模型的训练任务。但硬件产能的硬鸿沟依然客观存在即便软件优化可以把单卡、集群的有效算力往上拉硬件供给总量的不足依旧是国产AI Infra绕不开的现实约束。君科丹木管理合伙人张瑞琪之前在君联资本天使基金美元基金天生拥有双币视角。他的判断是中美会慢慢形成两套不一样的体系“中国短期内封装和散热会比较重要因为制程还没起来、功耗较高而美国一直追求的是更先进的芯片算力”。从创业生态上来说他打了一个比方美国创投生态有点像比萨两层相对简单中国的则更像千层饼更加丰富。他在资本端的观察是美股“七姐妹”去年发起超过300起并购国内并购数量则有限这是资本体量的差距。“中国创业者受限于国家整体的资本不足跟美国创投机构拿到的资金体量相比至少还差着货币单位就是美元到人民币汇率”。祥峰投资执行董事姜煦重点关注数据中心的存储与互联。她认为随着AI算力从单卡、单机走向万卡级集群瓶颈正在从单点计算能力逐步延伸到数据如何在计算、网络与存储之间高效流动。算力规模越大数据搬运和资源协同的重要性越高存储与互联也越成为决定集群实际算力利用率的关键基础设施。这一趋势在超节点和大规模集群中更加明显。Scale Up和Scale Out不仅要求更高的多卡互联能力也对网络架构、存储访问和异构算力协同提出更高要求。即使单卡性能持续提升如果互联带宽、通信效率或存储访问速度无法匹配新增算力也难以充分释放。因此存储和互联不仅是算力基础设施的配套环节更是将芯片理论性能转化为集群有效算力的关键。从投资角度看姜煦认为AI Infra的机会在于随着集群规模扩大而产生的存储与互联增量需求。尤其是高速互联、高性能存储以及软硬件协同等环节其价值来自对集群效率的直接影响一方面支撑更大规模的算力扩展另一方面减少通信和数据访问带来的算力损耗。在国产AI算力生态持续建设、集群规模不断提升的背景下这类连接计算与数据的基础设施能力值得重点关注。焦耳传热深耕高功率设备热管理领域业务全面覆盖商业航天、激光通信、5G装备及AI算力四大核心方向。焦耳传热总经理刘旭强调散热是保障算力集群稳定运行的关键防线——电子设备温度每上升10℃故障率便会翻倍。在技术实力方面刘旭指出国内散热技术水平已跻身全球第一梯队。以某类高端散热系统为例全球目前仅3套系统能够实现稳定运行国内便独占一席。然而在产业落地规模上国内市场的需求牵引力仍显不足。相较于美国百万颗级别的部署量国内目前规模约为20万颗。这表明尽管我国在核心技术上已具备领先优势但在规模化应用与商业闭环方面仍有待进一步突破。真成投资主要看AI应用和前沿科技两个方向航空航天、先进制造也在射程内不过真成投资管理合伙人李剑威坦率承认过去错过了大模型、芯片和模型的早期阶段去年才看到明确的拐点最硬的证据出在编程“去年10月份开始至少Coding已经实现了AGI”研究报告的质量、幻觉率和研究深度都在变好。他直观感受到全球算力处于极度紧缺状态在美国、欧洲合适的算力选址很快就会被抢光中国企业与海外企业一同争夺有限资源。能够找到稳定50MW规模、电价条件相对友好的算力站点在当下市场已经属于十分抢手的稀缺资源。李剑威还抛出了一个关于国产算力和英伟达的疑问智GLM5.3在OpenRouter的上大概一天有100T的算力调用量据说都是用国产算力来支持的。如果这个数据可以被验证那是否会颠覆市场长期信奉的、AI必须依赖先进制程芯片的主流叙事机会在哪钱已经在往推理挪了。2026年一季度约三分之二的AI资本开支已经转向推理重点在跑模型而不是训模型做SGLang的RadixArk拿了1亿美元种子轮、估值4亿美元从开源到融资的周期被压缩到几个月意味着Infra这层的竞争正从技术比拼前移到生态比拼。不过推理需求确实在涨但涨的方式未必是线性暴涨它会通过算法和软件被反复压缩做Infra的人真正的对手很可能是模型公司自己把Token消耗降下来的速度。“美国在前沿技术探索上保持领先中国则更擅长把技术做扎实、把成本算清楚让AI能力以低成本、规模化方式进入千行百业。”尚明栋认为训练是提前准备推理才是真正使用的过程。顺着推理这条主线他看到存储正在成为新的机会点——通过优化数据存取架构减少重复计算HBM、SSD与企业级存储有望衍生出新的技术形态。在趋境科技的评价体系中Token被分为L1至L5五个等级其中L3、L4和L5被定义为面向企业实际应用需求的高品质Token。公司采取“少模型、深优化”的技术路线围绕少数具有明确生产需求的主流大模型进行持续优化。“我们会选择行业最大参数的顶级智能大模型进行深度优化目标是超过模型公司自己的能力。”武文洁说。电力是另一个绕不开的机会。科安创能创始人兼CEO姜伟给的数很惊人现在需要485TWh的电量消耗占全球电力1.5%如果把IDC换成AIDC数据可能上涨10倍甚至200倍变成全球电力消耗的两倍左右。而在海外以泰国为例姜伟看到老园区基本没有多余的电网留给数据中心新建园区有50MW容量也不可能全给数据中心美国在建的99个发电项目8成是为数据中心建设的独立电站主要的州已经立法不需要数据中心接入公共电网欧洲不少国家同样是电网不给数据中心。姜伟的结论是除了中国之外电网容量就是核心卡点美国用天然气解决卡在燃气轮机上电价大概0.25美金“太阳是最大的取之不尽的能源唯一的限制就是土地但土地恰恰是够的”。但光伏风电天然具备间歇性没法直接满足算力中心7×24小时不间断供电的硬性要求科安创能的思路就是通过不同储能技术排列组合打造配套方案在保障稳定供电的同时把用电成本压下来全球平均1元人民币1度电这也正是能源侧对接AI算力的现实商业机会。李剑威看到了AI应用端的变化真成投资的AI应用公司收入增长、毛利率、客户刚需的程度都已经得到比较好的验证付费意愿比想象中强。至于7月出现过行情暴跌甚至有公司爆仓他认为是情绪和博弈的结果基本面基本没变。冯源资本长期聚焦半导体也是AI Infra的底层基础设施。冯源资本执行董事刘思远表示半导体领域中美脱钩严重大量先进设备、材料没法互通“半导体制造整体还是一个系统工程脱钩背景下国产厂商绕开西方卡脖子节点进行了大量的独立开发以及生态配套事实上看到演进出了很多新的细分机会”。刘思远未来也会关注光互联、机柜以及新工艺新技术新材料散热也是持续关注的方向。在他看来散热不只是简单节约电力算力芯片温度控制到位更核心的是能充分释放芯片本身的计算性能。目前算力紧缺通过良好散热实现的收益十分可观。而目前行业内部液冷、风冷各类技术路线并存方案还没有完全收敛需要结合客户的实际场景做落地选型刘思远认为这其中蕴藏不少细分投资机会。光擎源成立于今年6月创始团队在Micro LED光通信领域已经积累17年的研发经验在2026年的时间节点AI Infra对低功耗需求的激增使得micro-LED互联技术备受关注的切入了光互联赛道。创始团队参与过“天琴计划”等产品交付在micro-LED可靠性方面具备十足的研究使器件可靠性具备航天级的标准如今公司正在进行天使轮融资。光擎源COO张振判断推理和训练的区别主要是延迟下一代互联方式用光是主要趋势NVIDIA也在主推“光进铜退”“MicroLED瞄准低功耗和高带宽成本也可以做的比较低”。张振表示传统电互联架构很难同时兼顾带宽密度与能耗算力系统经常出现芯片等待数据传输的情况传输环节本身消耗不少功率导致能耗较大。随着Agent兴起推理侧对延迟愈发敏感MicroLED光通信的特性刚好匹配AI集群内部大规模高速交互的需求把团队在低功耗、高速、高可靠性的技术经验迁移到算力场景也成为这家新公司的差异化。未名智芯联合创始人陈凤云表示国产算力落地的真正难点不只是“有没有芯片”而是能否把理论算力转化为可部署、可运营、可规模复制的有效算力。未名智芯由北京大学计算机学院教授、原北京大学软件与微电子学院创始院长陈钟领衔发起成立两周完成天使轮融资。公司聚焦面向高交互智能体的模型原生推理基础设施核心主张是“让模型定义数据中心——从一台模型原生机柜开始”也就是把数据中心编译成模型的形状。不同于“先造通用GPU、再寻找应用”的传统路径未名智芯坚持真实负载驱动、软件先行和软硬件协同从模型计算图与Token负载出发先在真实业务和第三方平台上验证编译器、运行时、数据流、分层存储及多芯片协同再将结果反向固化为专用芯片、机柜拓扑和数据中心级系统。核心创新在于把模型计算图编译映射到芯片、存储、互联和机柜拓扑让数据中心按照模型的结构组织和运行。首代产品聚焦高交互智能体场景下的MoE模型Decode推理以机柜级软硬件一体化系统为主要交付形态不追求通用训练芯片的全场景覆盖。目前团队正通过头部云厂商真实业务场景验证性能、稳定性与部署能力第三方平台用于技术验证国产异构平台承接产业落地自研芯片固化最终架构形成“软件栈—模型原生机柜—专用芯片”的演进闭环。公司的目标不是再增加一款参数更高的芯片而是以更低的Token成本将国产芯片的理论算力转化为可交付的有效算力重新定义芯片、机柜乃至整个数据中心。场景驱动也在塑造AI Infra的产品形态。刘跃观察到两个方向一是算力从云端向边缘侧延伸——企业客户对数据敏感又有与物理空间联动的刚需二是在通用大模型之外长出了面向具体行业的垂类模型。特斯联对应的产品形态是空间智能体和基于T-AgentBox的边缘侧产品数据不出本地、买断式算力替代持续的云端Token支出。因为形态上强调数据本地化和垂直场景闭环外界有人把它比作“中国版Palantir”——但区别是特斯联的壁垒既有场景数据与领域Know-how又有物理空间的设备感知-决策-执行闭环。还有一块容易被忽略的地方是加密算力。荆华密算副总裁王珂负责的正是这条线把AI推理和训练的加密做成能交付、能签的生意帮算力中心提供可信Token。公司孵化于清华大学计算机系项目发起人是清华计算机系教授任炬。王珂的判断是国家政策把AI安全提到了新的高度央国企的AI应用安全加密、加密算力改造、可信算力中心建设都落在这条业务线的射程内。现在客户的加密算力消耗已经能做到单周100亿 Token的规模。在他看来加密算力是个能长到千亿美元级的市场按行业年复合34.7%的增速2030年前后就该摸到1000亿美元。全场最反共识的声音来自陈秋武。他明确提出“推理的生意到后面会急剧下降”理由是当前模型建模方式存在局限处理任务时是在复杂空间里探索而非直达最优结果。未来如果能把长程复杂的规划任务收敛到最优决策路径现在完成一项任务需要消耗百万Token未来可能压缩到千或者万Token级别即陡降三个数量级。他还重新测算过大模型市场增长空间并不认同摩根大通给出的370倍增长预期。参照行业现有数据随着轻端重云大模型普及覆盖率有望达到85%90%以上渗透率可以轻松突破60%对应的增长倍率大约63倍远低于370倍。在他看来硬件受限物理条件如产能供电量能源稳定等不可能五年实现370倍的算力扩张算力供给不足的现实下产业资源必然涌向软件优化与算法优化方向。资本和产业能对齐吗全球AI融资里前三大单笔轮次拿走了约51%的资金前十笔融资拿走约83%呈现典型的赢家通吃格局。北美融资占比从2024、2025年的超80%降到2026年的约66%欧洲、亚太、中东机构开始频繁出现在大额基建和硬件融资轮次当中。资本一边向少数头部项目疯狂集中一边地域格局发生迁移但热闹的投融资数据之下资本市场的剧烈震荡暴露出产业与资本之间的显著gap。拿到钱的创业者必须直面落地难题关心的核心是能不能交付、毛利多少、订单在哪投资人思考的是能不能退出、估值贵不贵、下一轮由谁接盘。现在两方越来越难对齐了。相比清华在硬科技时代VC层面的“多点开花”强北大属性的创投机构并不多北大系基金燕缘创投在北大科技成果转化部门指导下设立并在北大临港国际科创中心体系下坚持市场化、专业化经营管理联动持股主体“燕缘孵化器”主做投孵一体型深度投资。燕缘创投主要投资北大科技成果转化和北大校友创业项目近三年在AI Infra领域相继投资布局了新型存算一体、AI矩阵计算、光通信、光计算和量子计算等早期前沿科技方向项目。在燕缘创投总经理、管理合伙人李军看来科技类投资分为两类一是商业应用类追求具体场景和落地强调本地化部署或C端用户突破和收入增长曲线。二是创新型突破这类项目更加非线性增长前期需要大量研发投入和里程碑验证突破关键节点后才会迎来增长性爆发二者没有优劣之分不同的投资逻辑会考验投资机构的节奏与策略选择。今年项目估值短期内快速增长首轮项目估值也较前两年提升较多优质项目进入壁垒抬高很多机构机构很难拿到早期阶段投资份额。赛道快速达成共识之后估值也随之抬升相关投资的风险补偿收益曲线在明显下降。对于目前火热的市场李军给创业者的建议是把握好企业融资和发展的自身节奏不要被市场过度影响在融资金额和估值之外要多考虑商业化和技术里程碑等节点“不仅要考虑当下还要考虑更长远”。张瑞琪的感受是今年市场很繁荣但钱大量集中到少数头部对生态不一定是好事“AI共识下很多非共识的路线具有巨大的创投价值”。他还提到一个具体的障碍监管对于并购仍然充满条条框框希望能放开让企业以更宽松的架构去收购前沿技术。水木梧桐创投董事总经理杨锐从一个深耕半导体的机构视角提出了他的理解。水木梧桐的管理团队以清华校友为主资深管理合伙人冯明宪博士是台湾清华大学校友80年代末留学美国后回到台湾交通大学任教此后多年深入地参与见证了台湾半导体产业发展2002年曾主持台积电一厂整厂转移落地宁波。水木梧桐的投资版图紧密围绕着半导体产业过去一年投资方向包括用于光刻机的微环境控制技术、薄膜沉积设备、半导体高纯度石英材料等。杨锐将水木梧桐的核心投资领域形容为“Infra的Infra”大模型不一定是一门好生意但支持AI飞速发展的产业链条可能有好生意。“AI应用厂商的上游是基座模型厂商模型厂商上游是芯片厂商fabless需要晶圆厂和封装厂代工而他们再上游是前道后道各类设备公司和材料公司我们核心关注的就是最上游那一层的突破性技术带来的投资机会”。他的观点是AI的“速胜论和失败论属于一体两面往往会互相转化这样是不对的”市场上普遍存在两种极端心态一边幻想AI产业短期就能迎来巨大胜利而一旦落地不及预期过度乐观又会直接反转成全盘看空。在面对一些我们认为不合理的估值或业绩表现时也应该做出清醒分析是暂时性的行业波动还是根植于其技术路线的真实价值体现。蔻町智能Co-FounderCTO陈秋武以昇腾910B的B3为例月租金1.6万但如果卖Token月收益大概只有4000元。他举了一个极端的例子AIGCode将客户原优化结果8台GLM5.2上输出172 token/s优化到1100到1600 token/s“这么大的优化空间为什么还亏市面上很多国产算力原来是空闲的、浪费的没有真正懂行的人把毛利做出来”。他进一步补充说“为什么会看到很多技术比较差的Token工厂能够拿到市场因为从事最有挑战如基模的这帮人没有去做推理”。推理生意到一定规模很快会急剧下降这个非共识判断如果成立那些按Token线性增长给出估值的公司无疑会受到非常大的影响。而从现实的投资视角出发他则表示还是应该回归到技术和产品实力做判断在任何生态位有核心技术优势的公司不愁没有资本化的价值。比如无问芯穹这样的明星企业虽然估值高虽然难投进但作为投资人可能依然想投。这也是AI Infra这个市场有意思的地方。另外还有投资人和创业者抛出了自己的问题困惑比如做商业应用能很快看到收入但毛利没那么高做前沿科技是非线性增长前期要大量投入谁也不知道什么时候才能跨过那个节点。短期和长期怎么平衡。这一瞬间我好像回到了在2024年那场人形机器人论坛对于要不要做自己的“大脑”大家也是争论纷纷。这大概也是办这类沙龙最实在的意义创业和投资都是长跑类似问题也未必有标准答案但值得被摆到桌面上。这场沙龙开了一下午开始时阴雨阵阵散场时雨已经停了北京即将进入最美好的秋天但一场秋雨一场寒四季交替不会停周期也不会停止。市场奖励β的阶段正在过去敢重仓算力、敢押注赛道的勇气依然值钱但光有勇气不够了。面对宏大叙事市场开始出现分歧AI Infra不会是一路向上的直线它会像所有基建浪潮一样经历泡沫挤压和重新定价淘汰掉虚浮的参与者最终沉淀下真正解决实际问题的人。原文链接AI赛道最缺接盘人-36氪我的专辑《人工智能生命体 新启点》CSDN平台https://blog.csdn.net/2501_91883294/article/details/147616608?sharetypeblogdetailshareId147616608sharereferAPPsharesource2501_91883294sharefromlink