端边大模型成大势所趋,国产存算一体芯片能否在竞争中脱颖而出?
大模型正在走向端边在2026 WAIC现场能观察到大模型能力正走出互联网和聊天框。两年前行业对大模型的想象多在云端认为参数和集群越大越好谁堆的GPU多谁赢这逻辑如今只对一半另一半在云端外发生。Agent出现后推理任务从数据中心沉淀到多种终端终端面临“不可能三角”功耗几瓦、成本几十美金却要运行几十亿甚至上百亿参数模型。芯片行业过去十年没遇此问题云端重算力天花板端边则要在物理规则限制下提升大模型推理效率改写了端边AI芯片竞争规则。近期黄仁勋判断推理算力需求增长约一万倍Token会成新计量单位。推理高频化使全走云端成本不合理新推理量级的成本压力促使计算向端边转移。中国市场反应更快垂直行业需求具体市场更需要交付级产品适配端边大模型的AI芯片将有大量订单。深圳一家公司搭建端云混合Agent平台约80%任务本地完成20%走云端还统计节省的Token费用。这表明本地算力可承担大量智能体工作且客户购置本地算力只需一次性消费云端按用量计费。成本之外端侧推理毫秒级响应云端受网络限制隐私方面本地处理数据安全可离线。多种因素使大模型价值核心从知识密度转向行动密度端边占比会增大。未来端云比例不重要本地优先本地不行再用云端。端边化给硬件端带来新挑战端边AI芯片要解决“不可能三角”三者相互制约缺一不可。新的终端新的解法一批新终端凸显“不可能三角”。过去几年AI在终端作用小芯片厂商应对简单。2025年起新设备形态出现像鸡蛋、花瓶、路由器是为AI和Agent设计的原生硬件可语音和多模态交互7×24小时运行叫Agent Computer。联想、英伟达推动其从概念变为硬件品类。应用场景决定Agent Computer主流形态家庭和企业需求不同端边终端市场碎片化影响AI芯片定义。新终端对本地算力要求高让“不可能三角”挑战更严峻。AI芯片厂商解决方案分化。高通和苹果走SoC延展路线生态成熟但改进空间有限英伟达从GPGPU拓展算力足但有生态负担。存算一体是第三条路打破计算和存储界限前期难但上限高。海外巨头难舍生态国产厂商在架构创新上表现突出后摩智能是较早采用存算一体路线的企业。在端边芯片竞争中国产厂商有机会在量产和落地速度上领先。端边芯片的竞争才刚打响端边AI芯片赛道刚兴起厂商格局分三类。SoC巨头生态成熟但改进能力有限英伟达算力强但面临端边功耗和成本问题后摩智能等新厂商无历史包袱可按需设计芯片。后摩智能创始人吴强2023年下半年预判大模型向端边迁移当时依据不足但关注到小模型效果测试效果好后提前布局。2025年DeepSeek R1降低端侧部署门槛2026年Agent大量落地后摩因提前布局获红利。后摩漫界M50性能出色单芯片可运行35B - 120B参数模型已达量产水平进入联想、长城供应链适配银河麒麟操作系统与中国移动合作拓展场景。端边AI芯片竞争分两阶段第一阶段比效率存算一体有优势但不持久第二阶段比生态和场景适配。国产厂商起点与海外相同后摩智能有进入第一梯队的条件。端边大模型处于向行业价值转化阶段未来两年端边场景将出现有影响力应用芯片是竞争的基础设施率先落地的算力平台将获入场券。

相关新闻

等了三个月,DeepSeek V4正式版或明日发布!性能接近Opus 4.8,价格仍是屠夫

等了三个月,DeepSeek V4正式版或明日发布!性能接近Opus 4.8,价格仍是屠夫

DeepSeek V4正式版即将登场,双版本引关注全网翘首以盼近三个月,DeepSeek V4正式版最早明日发布,最迟也在这几天。目前部分人已获得DeepSeek V4(GA)灰度测试权限,该版本有DeepSeek V4 Flash和DeepSeek V4 Pr…

2026/7/26 21:54:09 阅读更多 →
跨平台赛博朋克终端美化:Cyberpunk Neon主题终极配置指南

跨平台赛博朋克终端美化:Cyberpunk Neon主题终极配置指南

跨平台赛博朋克终端美化:Cyberpunk Neon主题终极配置指南 【免费下载链接】Cyberpunk-Neon Cyberpunk Neon Themes for KDE Plasma, GTK, Telegram, Tilix, Vim, Zim and more. 项目地址: https://gitcode.com/gh_mirrors/cy/Cyberpunk-Neon Cyberpunk Neon是…

2026/7/26 21:54:11 阅读更多 →
Golang日志监控与高性能日志库选型指南

Golang日志监控与高性能日志库选型指南

1. Golang日志监控的核心价值在生产环境中,日志监控是保障系统稳定性的第一道防线。不同于简单的日志记录,专业的日志监控系统需要实现三个关键目标:实时异常感知、上下文关联分析和性能瓶颈定位。Golang凭借其并发模型和丰富的日志库生态&am…

2026/7/26 21:54:12 阅读更多 →

最新新闻

【高德开放平台skill】从拍脑袋到看数据,我是如何把一个“选址直觉“做成 AI Skill 的

【高德开放平台skill】从拍脑袋到看数据,我是如何把一个“选址直觉“做成 AI Skill 的

AI 高德地图做一个商铺选址分析工具创业圈里有句话:“选址定生死”。 有个做线下连锁品牌的朋友常说,选到一个好铺位,生意就成了一半;选错了,再努力也是给房东打工。但每次听他们聊选址,聊到最后往往都是…

2026/7/26 22:55:57 阅读更多 →
Preference Orchestrator: Prompt-Aware Multi-Objective Alignment for Large Language Models

Preference Orchestrator: Prompt-Aware Multi-Objective Alignment for Large Language Models

一、文章主要内容总结 该研究聚焦于大型语言模型(LLMs)的多目标对齐问题,核心挑战是解决现有方法依赖人工指定偏好权重、用户负担重且训练效率低的痛点。为此,提出了名为PRO(Preference Orchestrator) 的轻量级框架,通过一个偏好适配器自动推断与提示词相关的偏好权重,…

2026/7/26 22:55:57 阅读更多 →
基于PHP和Bootstrap的考研互助平台设计与实现毕业设计任务书

基于PHP和Bootstrap的考研互助平台设计与实现毕业设计任务书

一、课题名称 基于PHP和Bootstrap的考研互助平台设计与实现 二、课题研究背景与意义 随着考研报考人数逐年递增,考研备考已成为大学生升学的主流选择,备考学生对院校信息、复习资料、备考经验、答疑交流、同伴互助的需求持续提升。传统考研备考模式主要依…

2026/7/26 22:55:57 阅读更多 →
笔记越记越乱?我用PandaWiki把碎片资料变成了随叫随到的AI助手

笔记越记越乱?我用PandaWiki把碎片资料变成了随叫随到的AI助手

前言 资料越来越多,很多人都有同一种烦恼。 工作文档放在电脑里,学习笔记散落在各种笔记软件中,收藏的网页躺在浏览器书签里,下载的PDF又堆在网盘和NAS里。平时觉得都保存好了,真正需要的时候却怎么也找不到。 刚开始还…

2026/7/26 22:55:57 阅读更多 →
迁移学习原理与实践:从特征提取到模型微调

迁移学习原理与实践:从特征提取到模型微调

1. 迁移学习:让AI像人类一样举一反三记得三年前我在做一个医疗影像识别项目时,训练数据严重不足。正当团队一筹莫展之际,一位同事提议:"为什么不用ImageNet上预训练好的模型?"这个看似简单的建议&#xff0c…

2026/7/26 22:55:57 阅读更多 →
Qwen-3与Unsloth轻量化大模型微调实战指南

Qwen-3与Unsloth轻量化大模型微调实战指南

1. 为什么选择 Qwen-3 和 Unsloth 进行微调?在开始动手之前,我们需要先理解为什么这个组合特别适合新手和资源有限的开发者。传统的大模型微调往往需要昂贵的硬件设备和复杂的配置过程,而 Qwen-3 和 Unsloth 的组合完美解决了这些问题。1.1 算…

2026/7/26 22:54:57 阅读更多 →

日新闻

深度学习道路桥梁裂缝检测系统 道路桥梁裂缝检测数据集 道路桥梁病害识别检测数据集

深度学习道路桥梁裂缝检测系统 道路桥梁裂缝检测数据集 道路桥梁病害识别检测数据集

深度学习道路桥梁裂缝检测系统 数据集6000张 完整源码已标注数据集训练好的模型环境配置教程程序运行说明文档,可以直接使用!系统支持图片、视频、摄像头等多种方式检测裂缝,功能强大实用。 1数据集6000张 8各类别

2026/7/26 0:00:31 阅读更多 →
深度学习YOLO模型如何训练 PUBG 绝地求生目标检测数据集

深度学习YOLO模型如何训练 PUBG 绝地求生目标检测数据集

pubg数据集 精选原图1.42万数据 1.49万标签 无任何重复、算法增强或冗余图像! pubg绝地求生目标检测数据集 1分类:e_body,14905个标签,txt格式 共计14244张图,99%为640*640尺寸图像 适合yolo目标检测、AI训练关键词&am…

2026/7/26 0:00:31 阅读更多 →
Apex英雄目标检测数据集 深度学习框架YOLO如何训练APEX数据集

Apex英雄目标检测数据集 深度学习框架YOLO如何训练APEX数据集

Apex检测数据集数据集详情检测类别: allies enemy tag图片总量:7247张训练集:5139张验证集:1425张测试集:683张标注状态:全部已标注,即拿即用数据格式:支持YOLO格式及其他格式&#…

2026/7/26 0:00:31 阅读更多 →

周新闻

深度学习道路桥梁裂缝检测系统 道路桥梁裂缝检测数据集 道路桥梁病害识别检测数据集

深度学习道路桥梁裂缝检测系统 道路桥梁裂缝检测数据集 道路桥梁病害识别检测数据集

深度学习道路桥梁裂缝检测系统 数据集6000张 完整源码已标注数据集训练好的模型环境配置教程程序运行说明文档,可以直接使用!系统支持图片、视频、摄像头等多种方式检测裂缝,功能强大实用。 1数据集6000张 8各类别

2026/7/26 0:00:31 阅读更多 →
深度学习YOLO模型如何训练 PUBG 绝地求生目标检测数据集

深度学习YOLO模型如何训练 PUBG 绝地求生目标检测数据集

pubg数据集 精选原图1.42万数据 1.49万标签 无任何重复、算法增强或冗余图像! pubg绝地求生目标检测数据集 1分类:e_body,14905个标签,txt格式 共计14244张图,99%为640*640尺寸图像 适合yolo目标检测、AI训练关键词&am…

2026/7/26 0:00:31 阅读更多 →
Apex英雄目标检测数据集 深度学习框架YOLO如何训练APEX数据集

Apex英雄目标检测数据集 深度学习框架YOLO如何训练APEX数据集

Apex检测数据集数据集详情检测类别: allies enemy tag图片总量:7247张训练集:5139张验证集:1425张测试集:683张标注状态:全部已标注,即拿即用数据格式:支持YOLO格式及其他格式&#…

2026/7/26 0:00:31 阅读更多 →

月新闻