开源了,但你可能跑不动:部署 Kimi K3 真正要多少算力
开头Kimi K3 权重已经公开2.8T MoE、104B 激活、原生 MXFP4官方还把 vLLM / SGLang recipe 摆出来了。但这不等于「下载就能私有化」。门槛不在软件而在聚合显存与互联规模——绝大多数团队会在机柜账单前停下来。核心分析第一层权重本身就约 1.56 TB。实测 checkpoint 约1560.9 GB96 个 safetensors不是坊间常说的「2.8T×4bit≈1.4TB」。MXFP4 有效比特约 4.25注意力、共享专家、LM Head、视觉塔等还没被压到 4bit。vLLM recipe 直接写明MXFP4 变体最低约1680 GB显存——这还只是「能加载」不含高并发 KV 与通信缓冲。第二层能加载 ≠ 能服务。单机 8×H200约 1128 GB装不下权重常见可行起步是路线大致配置定位Blackwell 单机8×B300 / GB300约 2.3 TBday-0 最省心Hopper 多机2×(8×H200)TP16存量 Hopper 的务实解存量 H100约 32×H1004 节点容量够但互联与运维更重AMD至少 8×MI355XROCm 官方路线Moonshot 明确建议64 卡及以上 supernode才更像生产吞吐形态。原因是 MoE 专家并行吃高带宽通信域卡少了能跑通 demo吞吐和稳定性会难看。1M context 在 KDA 下单序列 KV 并不夸张真正吃显存的是并发数 常驻 recurrent state。第三层对谁有用怎么落地。有合规/数据不出域硬约束、且日均 token 极大自建才谈得上 ROI且必须按「集群 推理平台 值班」立项不是买几张卡。研发试用、Agent 编排、长程编码走官方 API 更理性——缓存命中输入约 $0.30/MTok编码场景官方称命中率可很高。中小团队别被「开源」绑架更划算的是 API 本地小模型分流而不是硬上 2.8T。苍狮技术团队观点被高估的是「开源可私有化」低估的是运维与互联成本。短期价值API 立刻可用自建只适合已有多机 HBM 集群的组织。长期价值开源压低了「3T 级」能力的获取门槛但算力与调度仍是护城河。是否值得投入没有稳定高流量与集群能力不值得有则按「≥1.7TB 聚合显存起步、生产看 64 卡级」做预算而不是按消费卡幻想。总结Kimi K3 的真实门槛是约 1.56TB 权重 ≥1.68TB 聚合显存起步生产更接近 64 卡 supernode——开源降低的是权限不是机柜。

相关新闻

RAG 查询路由实战:3 种方案对比 + 完整代码

RAG 查询路由实战:3 种方案对比 + 完整代码

有读者问了一个好问题:决策树本身用什么实现?也是 LLM 吗? 这个问题直接命中了那篇文章没讲清楚的一个漏洞。 我的回答是:「能用 if-else 写的判断,从来就不是路由的难点。难的那部分,确实得靠模型——但…

2026/8/6 23:21:02 阅读更多 →
终极指南:在Switch上安装第三方B站客户端wiliwili

终极指南:在Switch上安装第三方B站客户端wiliwili

终极指南:在Switch上安装第三方B站客户端wiliwili 【免费下载链接】wiliwili 第三方B站客户端,目前可以运行在PC全平台、PSVita、PS4 、Xbox 和 Nintendo Switch上 项目地址: https://gitcode.com/GitHub_Trending/wi/wiliwili 想在任天堂Switch上…

2026/8/6 23:21:02 阅读更多 →
【YOLOv11模型改进系列】31 YOLOv11 模型剪枝实战:用“结构化稀疏”砍掉40%参数而不掉精度

【YOLOv11模型改进系列】31 YOLOv11 模型剪枝实战:用“结构化稀疏”砍掉40%参数而不掉精度

31 YOLOv11 模型剪枝实战:用“结构化稀疏”砍掉40%参数而不掉精度 开篇故事:那个被老板骂“模型太大”的深夜 去年冬天,我接到一个工业质检项目。客户要求在 Jetson Orin NX 上同时跑4路YOLOv11,每路要求30FPS。我兴冲冲地把训练好的模型(82MB)部署上去,结果——单路才…

2026/8/6 23:20:02 阅读更多 →

最新新闻

EtherCAT可以用电容式Chip LAN吗

EtherCAT可以用电容式Chip LAN吗

EtherCAT可以用电容式Chip LAN吗 在EtherCAT硬件设计中,常见的100BASE-TX接口由PHY、网络变压器、共模电感和连接器组成。网络变压器负责信号耦合及直流隔离,共模电感负责抑制共模干扰。那么,能否去掉传统变压器,改用电容式Chip …

2026/8/7 0:19:29 阅读更多 →
耦合电感引脚编号不同,能直接改吗?

耦合电感引脚编号不同,能直接改吗?

耦合电感引脚编号不同,能直接改吗?在对比两款四引脚耦合电感时,经常会遇到一种情况:外形、焊盘位置和绕组结构看起来相同,但规格书中的引脚编号却不一样。这是否意味着产品不能替换?答案是:不一…

2026/8/7 0:19:29 阅读更多 →
光伏1500V电源变压器与PoE电源变压器有什么区别?

光伏1500V电源变压器与PoE电源变压器有什么区别?

光伏1500V电源变压器与PoE电源变压器有什么区别?光伏1500V辅助电源变压器和PoE电源变压器都属于高频开关电源磁性器件,也可能采用反激拓扑,但两者的输入电压、绝缘设计和应用环境完全不同,不能因为输出都是12V就互相替代。一、输入…

2026/8/7 0:19:29 阅读更多 →
嵌入式软件测试——单元测试用例爆炸问题分析与应对策略

嵌入式软件测试——单元测试用例爆炸问题分析与应对策略

1. 引言:嵌入式单元测试的独特挑战在嵌入式软件开发中,单元测试是保证代码质量、发现早期缺陷的关键环节。然而,与通用软件不同,嵌入式系统因其硬件依赖性强、资源受限、实时性要求高等特点,使得单元测试面临一个普遍且…

2026/8/7 0:19:29 阅读更多 →
用 Cherry Studio 接入 Ace Data Cloud:一个 Token 打通 Claude、GPT、Gemini、DeepSeek 等主流模型

用 Cherry Studio 接入 Ace Data Cloud:一个 Token 打通 Claude、GPT、Gemini、DeepSeek 等主流模型

用 Cherry Studio 接入 Ace Data Cloud:一个 Token 打通 Claude、GPT、Gemini、DeepSeek 等主流模型 如果你经常在本地使用 AI 客户端,应该对 Cherry Studio 不陌生。它是一款开源、多平台的多模型 AI 桌面客户端,支持 Windows、macOS、Linux…

2026/8/7 0:17:28 阅读更多 →
专科自考成人教育论文查AI率吗?要求和全日制不一定一样,问清这几件事。

专科自考成人教育论文查AI率吗?要求和全日制不一定一样,问清这几件事。

专科自考成人教育论文查AI率吗?要求和全日制不一定一样,问清这几件事。 你可能已经找了两三天了。搜"论文 AI 检测",出来的全是全日制研究生和本科生在讨论,说的是学校统一送检、导师催、学院群里通知。你这边呢&#x…

2026/8/7 0:16:28 阅读更多 →

日新闻

为什么scrcpy成为Android投屏的终极解决方案:完整实战指南

为什么scrcpy成为Android投屏的终极解决方案:完整实战指南

为什么scrcpy成为Android投屏的终极解决方案:完整实战指南 【免费下载链接】scrcpy Display and control your Android device 项目地址: https://gitcode.com/GitHub_Trending/sc/scrcpy 想要将Android手机屏幕完美投射到电脑上,享受大屏操作的自…

2026/8/7 0:00:19 阅读更多 →
如何在5分钟内掌握Tom Select:打造现代化表单选择器的终极指南

如何在5分钟内掌握Tom Select:打造现代化表单选择器的终极指南

如何在5分钟内掌握Tom Select:打造现代化表单选择器的终极指南 【免费下载链接】tom-select Tom Select is a lightweight (~16kb gzipped) hybrid of a textbox and select box. Forked from selectize.js to provide a framework agnostic autocomplete widget wi…

2026/8/7 0:00:19 阅读更多 →
5分钟快速上手:NSZ压缩工具终极指南,轻松管理Switch游戏文件

5分钟快速上手:NSZ压缩工具终极指南,轻松管理Switch游戏文件

5分钟快速上手:NSZ压缩工具终极指南,轻松管理Switch游戏文件 【免费下载链接】nsz NSZ - Homebrew compatible NSP/XCI compressor/decompressor 项目地址: https://gitcode.com/gh_mirrors/ns/nsz 你是否在为Nintendo Switch游戏文件占用大量存储…

2026/8/7 0:00:19 阅读更多 →

周新闻

最大流算法详解:从水管网络到Ford-Fulkerson与Dinic实战

最大流算法详解:从水管网络到Ford-Fulkerson与Dinic实战

1. 从水管网络到最大流:一个核心问题的诞生想象一下,你是一个城市供水系统的总工程师。你的城市有多个水源(水库),需要通过一个复杂的地下管道网络,将水输送到各个居民区。每条管道都有其最大通水能力&…

2026/8/6 22:02:27 阅读更多 →
基于Springboot的企业门户网站(源码+LW+调试文档+讲解)

基于Springboot的企业门户网站(源码+LW+调试文档+讲解)

温馨提示:本人主页置顶文章(点我)开头有 CSDN 平台官方提供的学长联系方式的名片! 温馨提示:本人主页置顶文章(点我)开头有 CSDN 平台官方提供的学长联系方式的名片! 温馨提示:本人主页置顶文章(点我)开头有 CSDN 平台…

2026/8/6 22:02:27 阅读更多 →
MATLAB xcorr函数详解:从互相关原理到四大实战应用

MATLAB xcorr函数详解:从互相关原理到四大实战应用

1. 从一次信号“找茬”说起:为什么我们需要互相关几年前,我在处理一组声学传感器数据时遇到了一个棘手的问题。我有两个麦克风记录了一段相同的音频信号,理论上它们接收到的声音波形应该非常相似,只是由于麦克风位置不同&#xff…

2026/8/6 22:02:27 阅读更多 →

月新闻

免费解锁百度网盘SVIP加速:macOS用户必备的下载提速终极指南

免费解锁百度网盘SVIP加速:macOS用户必备的下载提速终极指南

免费解锁百度网盘SVIP加速:macOS用户必备的下载提速终极指南 【免费下载链接】BaiduNetdiskPlugin-macOS For macOS.百度网盘 破解SVIP、下载速度限制~ 项目地址: https://gitcode.com/gh_mirrors/ba/BaiduNetdiskPlugin-macOS 还在为百度网盘macOS版的龟速下…

2026/8/5 23:28:39 阅读更多 →
终极ncmdump指南:3分钟实现网易云NCM音乐解密与格式转换

终极ncmdump指南:3分钟实现网易云NCM音乐解密与格式转换

终极ncmdump指南:3分钟实现网易云NCM音乐解密与格式转换 【免费下载链接】ncmdump 项目地址: https://gitcode.com/gh_mirrors/ncmd/ncmdump 还在为网易云音乐下载的NCM格式文件无法在其他播放器播放而烦恼吗?ncmdump解密工具帮你轻松解决这个困…

2026/8/6 22:02:28 阅读更多 →
HarmonyOS 应用开发《掌上英语》第81篇: 智能体卡片:为英语学习 App 打造桌面级学习助手

HarmonyOS 应用开发《掌上英语》第81篇: 智能体卡片:为英语学习 App 打造桌面级学习助手

AgentCard 智能体卡片:为英语学习 App 打造桌面级学习助手适用平台:HarmonyOS 7.0 (API 26 Beta)一、引言 HarmonyOS 7.0(API 26 Beta)新增了 AgentCard 智能体卡片能力,这是继 HMAF(鸿蒙智能体框架&#x…

2026/8/5 23:46:51 阅读更多 →