【免费下载链接】K3FlightRun Kimi K3 locally on CPU with ~55GB measured runtime RAM. A single-file Linux inference server powered by cPilot Runtime.项目地址https://gitcode.com/gh_mirrors/k3/K3Flight点击查看免费下载K3 Flight 让 2.8 万亿参数的 Kimi K3 在本地 CPU 上跑起来实测运行内存仅约 55GB。本文手把手带你完成一次 K3 Flight 实机运行采集 Share a Run 实测数据并通过项目 Issue 模板提交社区实测报告把你的机器写进 K3 Flight 硬件地图。K3 Flight 本地推理服务概览2.8T 参数、约55GB 实测运行内存、纯 CPU 推理为什么值得提交一份 K3 Flight 实测报告K3 Flight 目前的约 55GB 内存数字来自维护者的单台参考机器并不是对所有硬件的通用承诺——存储带宽、CPU 能力、上下文长度都会显著影响结果。项目方因此发起硬件地图计划由社区在不同硬件上提交独立实测逐步拼出一张真实的、可复现的硬件能力矩阵。你的报告哪怕很慢、甚至失败只要能说明在什么硬件上、发生了什么都是地图上的一个坐标点。这正是 Share a Run 机制存在的意义。一句话理解K3 Flight 没有把 929GB 模型压缩成 55GB而是让完整的 checkpoint 留在存储里cPilot Runtime 只在推理时把当前执行路径需要的权重调进内存。所以每台机器的 SSD 和 CPU 组合都会让实测数字不一样——这就是需要众包实测的原因。飞行前检查你的机器满足运行要求吗提交报告前先确认自己处于首发可验证配置之内否则结果参考价值会打折扣项目要求备注操作系统Linux x86-64macOS 尚未发布系统内存建议 64GB 及以上约 55GB 是实测值不是下限存储至少 1TB 可用空间建议留余量模型文件约 929GB硬盘强烈建议本地 NVMe SSD网络盘、U 盘、虚拟盘不在首发承诺范围GPU不需要参考路径为纯 CPU四步快速开始从下载到第一次出 token1️⃣ 下载二进制并做 sha256 校验v0.1.0-preview发布后从项目 Releases 页面下载 Linux x86-64 压缩包注意选.tar.gz资源而非自动生成的源码包解压后先校验再运行tar -xzf cpilot-server-v0.1.0-preview-linux-x86_64.tar.gz sha256sum -c cpilot-server-v0.1.0-preview-linux-x86_64.sha256 chmod x cpilot-server-v0.1.0-preview-linux-x86_642️⃣ 下载 929GB 的 Q2_K 模型文件模型不在仓库中需从 Hugging Face 下载完整的 Kimi-K3-GGUF Q2_K checkpoint共 94 个分片。详细步骤见 MODEL.zh-CN.md最简命令export MODEL_DIR$HOME/models/Kimi-K3-Q2_K mkdir -p $MODEL_DIR hf download GrEarl/Kimi-K3-GGUF \ --include Kimi-K3-Q2_K-*.gguf \ --local-dir $MODEL_DIR⚠️ 下载后不要重命名任何.gguf分片文件。3️⃣ 启动 K3 Flight 推理服务./cpilot-server-v0.1.0-preview-linux-x86_64 \ --model $MODEL_DIR/Kimi-K3-Q2_K-00001-of-00094.gguf \ --host 127.0.0.1 --port 8080除非你清楚安全影响否则保持默认的127.0.0.1回环地址端口被占用时用--port修改。完整参数线程数-t、上下文-c、--cpilot-memory等运行--help即可查看。4️⃣ 发送第一个请求观察实测数字浏览器打开http://127.0.0.1:8080在 Web 界面发送提示词。同时留意 cpilot-server 的运行日志——prefill 和 decode 吞吐会实时打印这两项正是实测报告的核心字段。参考环境下约为 prefill 1 token/s、decode 0.8 token/s你的数字大概率不同这很正常。Share a Run 实测数据采集一次运行要记什么好消息是不需要你写任何脚本把运行过程看到的关键数字记下来即可。建议开一个记事本边跑边填机器信息CPU 型号与核心数、内存容量、Linux 发行版、内核版本uname -a一行搞定存储信息SSD 型号、接口NVMe/SATA、文件系统、可用空间软件版本K3 Flight 的确切版本号如v0.1.0-preview 模型 revision性能数字提示词长度、生成 token 数、prefill 速度、decode 速度、峰值内存运行状态冷启动 / 热启动 / 恢复运行 / 中途中断——同一台机器不同状态数字差别很大日志能复现结果的服务端日志注意脱敏见下文报告里必须写全的 6 项内容提交时请使用项目 Issues 中的Share a Run 模板在 Issues 页面选择该模板即可它对应 README.zh-CN.md 一起建立真实硬件地图一节列出的清单CPU、系统内存、Linux 发行版和内核SSD 型号、接口、文件系统与可用空间K3 Flight 准确版本与模型 revision输入长度、生成 token 数、prefill、decode 和峰值内存冷启动、热启动、恢复运行或中断状态足以复现结果的日志已移除隐私路径和数据负面结果同样有价值如果你的运行很慢、内存吃紧、甚至启动失败——照样提交而且项目方明确欢迎这类受控的负面结果它帮助社区找到真实的硬件边界。提交时只需把变量说清楚比如同一机器上 NVMe 冷启动失败SSD 换 SATA 后成功结论就非常有信息量。隐私与安全红线报告里不能放什么按 SECURITY.md 的安全规范公开 Issue 中不要出现私人提示词内容、完整对话日志账号凭据、密钥暴露个人身份的本机路径如/home/你的名字/...日志贴之前把模型目录改成~/models之类的通用写法即可。另外下载二进制前请先阅读 BINARY-LICENSE.md模型文件本身受 Kimi K3 License 约束。提交你的第一份报告现在你已经掌握了完整链路确认硬件 → 四步跑通 → 采集六类数据 → 用模板提交。整个过程不需要写代码、不需要 GPU只要一台合格的 Linux 机器和耐心等模型下载。当第一个公开硬件矩阵成形时你的名字会作为某个数据点的来源被记录在案——这比 Star 仓库更能帮到一个预览阶段的开源项目。祝飞行顺利 ✈️赞分享【免费下载链接】K3FlightRun Kimi K3 locally on CPU with ~55GB measured runtime RAM. A single-file Linux inference server powered by cPilot Runtime.项目地址https://gitcode.com/gh_mirrors/k3/K3Flight点击查看免费下载相关推荐Duplicati社区贡献指南从Bug报告到PR提交全流程Duplicati社区贡献指南从Bug报告到PR提交全流程 作为一款开源备份软件Duplicati的发展离不开全球社区贡献者的支持。本文将系统介绍从发现Bu应用桌面应用CLI存储brpc快速上手10分钟搭建你的第一个RPC服务brpc快速上手10分钟搭建你的第一个RPC服务 brpc是一款工业级C RPC框架广泛应用于搜索、存储、机器学习、广告和推荐等高性能系统。本文将带你快ES8389 xiaozhi-esp32 音频接入指南从接线到出声ES8389 xiaozhi esp32 音频接入指南从接线到出声 ES8389 是 xiaozhi esp32 项目使用的一款音频编解码芯片一路负责麦克风人工智能AI 应用语音交互助手物联网嵌入式智能硬件MCP 服务创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考