端边大模型成大势所趋,国产存算一体芯片能否在竞争中脱颖而出?
大模型正在走向端边在2026 WAIC现场能观察到大模型能力正走出互联网和聊天框。两年前行业对大模型的想象多在云端认为参数和集群越大越好谁堆的GPU多谁赢这逻辑如今只对一半另一半在云端外发生。Agent出现后推理任务从数据中心沉淀到多种终端终端面临“不可能三角”功耗几瓦、成本几十美金却要运行几十亿甚至上百亿参数模型。芯片行业过去十年没遇此问题云端重算力天花板端边则要在物理规则限制下提升大模型推理效率改写了端边AI芯片竞争规则。近期黄仁勋判断推理算力需求增长约一万倍Token会成新计量单位。推理高频化使全走云端成本不合理新推理量级的成本压力促使计算向端边转移。中国市场反应更快垂直行业需求具体市场更需要交付级产品适配端边大模型的AI芯片将有大量订单。深圳一家公司搭建端云混合Agent平台约80%任务本地完成20%走云端还统计节省的Token费用。这表明本地算力可承担大量智能体工作且客户购置本地算力只需一次性消费云端按用量计费。成本之外端侧推理毫秒级响应云端受网络限制隐私方面本地处理数据安全可离线。多种因素使大模型价值核心从知识密度转向行动密度端边占比会增大。未来端云比例不重要本地优先本地不行再用云端。端边化给硬件端带来新挑战端边AI芯片要解决“不可能三角”三者相互制约缺一不可。新的终端新的解法一批新终端凸显“不可能三角”。过去几年AI在终端作用小芯片厂商应对简单。2025年起新设备形态出现像鸡蛋、花瓶、路由器是为AI和Agent设计的原生硬件可语音和多模态交互7×24小时运行叫Agent Computer。联想、英伟达推动其从概念变为硬件品类。应用场景决定Agent Computer主流形态家庭和企业需求不同端边终端市场碎片化影响AI芯片定义。新终端对本地算力要求高让“不可能三角”挑战更严峻。AI芯片厂商解决方案分化。高通和苹果走SoC延展路线生态成熟但改进空间有限英伟达从GPGPU拓展算力足但有生态负担。存算一体是第三条路打破计算和存储界限前期难但上限高。海外巨头难舍生态国产厂商在架构创新上表现突出后摩智能是较早采用存算一体路线的企业。在端边芯片竞争中国产厂商有机会在量产和落地速度上领先。端边芯片的竞争才刚打响端边AI芯片赛道刚兴起厂商格局分三类。SoC巨头生态成熟但改进能力有限英伟达算力强但面临端边功耗和成本问题后摩智能等新厂商无历史包袱可按需设计芯片。后摩智能创始人吴强2023年下半年预判大模型向端边迁移当时依据不足但关注到小模型效果测试效果好后提前布局。2025年DeepSeek R1降低端侧部署门槛2026年Agent大量落地后摩因提前布局获红利。后摩漫界M50性能出色单芯片可运行35B - 120B参数模型已达量产水平进入联想、长城供应链适配银河麒麟操作系统与中国移动合作拓展场景。端边AI芯片竞争分两阶段第一阶段比效率存算一体有优势但不持久第二阶段比生态和场景适配。国产厂商起点与海外相同后摩智能有进入第一梯队的条件。端边大模型处于向行业价值转化阶段未来两年端边场景将出现有影响力应用芯片是竞争的基础设施率先落地的算力平台将获入场券。

相关新闻

等了三个月,DeepSeek V4正式版或明日发布!性能接近Opus 4.8,价格仍是屠夫

等了三个月,DeepSeek V4正式版或明日发布!性能接近Opus 4.8,价格仍是屠夫

DeepSeek V4正式版即将登场,双版本引关注全网翘首以盼近三个月,DeepSeek V4正式版最早明日发布,最迟也在这几天。目前部分人已获得DeepSeek V4(GA)灰度测试权限,该版本有DeepSeek V4 Flash和DeepSeek V4 Pr…

2026/10/12 15:24:19 阅读更多 →
跨平台赛博朋克终端美化:Cyberpunk Neon主题终极配置指南

跨平台赛博朋克终端美化:Cyberpunk Neon主题终极配置指南

跨平台赛博朋克终端美化:Cyberpunk Neon主题终极配置指南 【免费下载链接】Cyberpunk-Neon Cyberpunk Neon Themes for KDE Plasma, GTK, Telegram, Tilix, Vim, Zim and more. 项目地址: https://gitcode.com/gh_mirrors/cy/Cyberpunk-Neon Cyberpunk Neon是…

2026/9/22 15:16:40 阅读更多 →
Golang日志监控与高性能日志库选型指南

Golang日志监控与高性能日志库选型指南

1. Golang日志监控的核心价值在生产环境中,日志监控是保障系统稳定性的第一道防线。不同于简单的日志记录,专业的日志监控系统需要实现三个关键目标:实时异常感知、上下文关联分析和性能瓶颈定位。Golang凭借其并发模型和丰富的日志库生态&am…

2026/10/5 13:16:54 阅读更多 →

最新新闻

Flutter scratch_space鸿蒙适配实战与性能优化

Flutter scratch_space鸿蒙适配实战与性能优化

1. 项目背景与核心价值在跨平台开发领域,Flutter因其高效的渲染性能和丰富的生态体系已成为移动端开发的主流选择之一。而scratch_space作为Flutter生态中专注于临时构建空间管理的三方库,在资源隔离和任务协同方面表现出色。但随着鸿蒙系统的崛起&#…

2026/10/14 2:37:27 阅读更多 →
Java 企业级工具类全家桶-83-RSA非对称加解密与签名工具类

Java 企业级工具类全家桶-83-RSA非对称加解密与签名工具类

📋 目录 一、工具类功能二、所需环境三、方法与调用示例(按需调用)四、工具类源码(可直接复制) 一、工具类功能 公钥加密私钥解密、私钥签名公钥验签,加密固定 RSA-OAEP(SHA-256&#xff0c…

2026/10/14 2:37:27 阅读更多 →
Java 企业级工具类全家桶-43-List转Map工具类

Java 企业级工具类全家桶-43-List转Map工具类

📋 目录 一、工具类功能二、所需环境三、方法与调用示例(按需调用)四、工具类源码(可直接复制) 一、工具类功能 一次遍历把集合摊成 Map,按键分组、按键分组并只抽取某个属性、一个键只对应一个值三种形…

2026/10/14 2:37:27 阅读更多 →
基于 STM32 的智能拐杖设计与 Proteus 仿真+源码

基于 STM32 的智能拐杖设计与 Proteus 仿真+源码

基于 STM32 的智能拐杖设计与 Proteus 仿真实现摘要我国视力障碍人群数量庞大,老龄化进程加速又使老年出行安全问题日益突出。传统盲杖功能单一,仅能提供触地探路的机械辅助,无法感知前方悬空障碍、积水坑洼与远距离障碍物,更缺乏…

2026/10/14 2:37:27 阅读更多 →
SUMO TraCI函数调用深度解析:从轮询到订阅的性能优化实战

SUMO TraCI函数调用深度解析:从轮询到订阅的性能优化实战

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/14 2:37:27 阅读更多 →
LLM_端到端自动驾驶

LLM_端到端自动驾驶

EAI:Embodied Artificial Intelligent,E2E:End to End,LLM:Large Language Mode 端到端自动驾驶专题:多模态输入融合、开源框架、头部企业与性能对比核心定义:端到端自动驾驶分为两类 纯端到端&…

2026/10/14 2:36:26 阅读更多 →

日新闻

AnyPS5通用适配层设计:兼容性与性能的工程取舍

AnyPS5通用适配层设计:兼容性与性能的工程取舍

1. 从"AnyPS5"这个名字说起:它到底想解决什么问题第一次看到"AnyPS5"这个标题,我脑子里冒出来的第一个念头是:这大概率是一个围绕"跨平台运行"或者"通用适配"做文章的项目。名字里的"Any"…

2026/10/14 0:00:41 阅读更多 →
Flutter跨平台开发实战:二手交易应用与HarmonyOS适配

Flutter跨平台开发实战:二手交易应用与HarmonyOS适配

1. 项目概述:Flutter跨平台二手交易应用开发作为一名长期从事移动应用开发的工程师,我最近完成了一个基于Flutter框架的二手物品交易平台项目。这个项目最吸引我的地方在于它完美结合了Flutter的跨平台优势与HarmonyOS的生态特性,实现了"…

2026/10/14 0:00:41 阅读更多 →
DFS算法解决飞机降落调度问题实战

DFS算法解决飞机降落调度问题实战

1. 项目背景与核心思路飞机降落问题是一个经典的调度优化场景,也是算法竞赛和面试中的高频题目。这个题目要求我们合理安排多架飞机的降落顺序和时间,确保所有飞机都能安全着陆而不发生冲突。在实际航空管制中,这类问题直接关系到飞行安全和机…

2026/10/14 0:00:41 阅读更多 →

周新闻

流感时间序列预测实战:ARIMA/LSTM全流程拆解与避坑指南

流感时间序列预测实战:ARIMA/LSTM全流程拆解与避坑指南

简介:基于 ARIMA、LSTM、Transformer 等模型的流感时间序列预测 Python 源码,面向计算机相关专业课程设计与期末大作业学生,以及项目实战学习者。内容覆盖预处理、平稳性检验、定阶、残差分析、多模型对比预测的完整时序建模流程,…

2026/10/13 2:54:56 阅读更多 →
影刀RPA新手教程:键盘模拟输入实战——输入文本与模拟按键的区别

影刀RPA新手教程:键盘模拟输入实战——输入文本与模拟按键的区别

影刀RPA新手教程:键盘模拟输入实战——输入文本与模拟按键的区别 做影刀RPA自动化,十个新手有八个栽在"往输入框里填东西"这件事上:要么填不进去,要么填了一半,要么直接把原来内容追加在后面。这背后的根因&…

2026/10/13 16:22:04 阅读更多 →
影刀RPA新手教程:阅文起点小说数据采集实战——书籍信息与章节内容

影刀RPA新手教程:阅文起点小说数据采集实战——书籍信息与章节内容

影刀RPA新手教程:阅文起点小说数据采集实战——书籍信息与章节内容 1. 认识影刀:什么场景该用RPA采小说数据 起点中文网的页面结构相对稳定——分类榜单、书籍详情、章节内容三块独立页面,跳转链路清晰。这种场景非常适合影刀自动化&#x…

2026/10/13 1:58:08 阅读更多 →

月新闻

我发现了一个新思路:用 Remotion + Claude Code 像写代码一样自动化生成短视频

我发现了一个新思路:用 Remotion + Claude Code 像写代码一样自动化生成短视频

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/13 22:01:27 阅读更多 →
Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式:TaoToken 统一 Key 配置与验证

Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式:TaoToken 统一 Key 配置与验证

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/13 14:57:39 阅读更多 →
黑夜航拍船只数据集训练YOLOV5模型全流程解析

黑夜航拍船只数据集训练YOLOV5模型全流程解析

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/12 18:11:17 阅读更多 →