封面大数字海报 纸白数字为 Hugging Face 显示的 Qwen3.8-27B 上月下载量条形为三家官方公布的 GPQA Diamond 分数由本号封面脚本生成。Hugging Face 上赞数最多的千问不是几百 B 的大模型而是一个 27B 的「中杯」Qwen3.8-27B17821 个赞上个月下载 7,516,626 次。参数小了一个数量级为什么大家反而最爱它先说结论手里是一张 24GB 显卡4090、3090 这一档想在本地跑一个什么活都能干的模型首选 Qwen3.8-27B。三家官方公布的同项跑分里它都排第一协议是最宽松的 Apache-2.0中文生态也最全。英伟达本周刚发的 Nemotron 3.5 Bolt 适合 RTX Spark 这类新机器、主要做英文 Agent 任务的人谷歌 Gemma 4 31B 适合要做多语种、想拿稳定底座来微调的团队。显卡只有 16GB 甚至 8GBBolt 直接出局另外两家也只能退到低精度版本。下面三张表把这个结论拆开讲。本文是资料整合所有跑分都是各家官方数据我们没有在本地跑这三个模型。17821 个赞背后27B 为什么成了最多人下载的 Qwen[官方图] Qwen3.8-27B 的 Hugging Face 模型页17.8k 赞、上月下载 7,516,626 次、协议 apache-2.0。截于 2026-10-16 21:00北京时间。图源Hugging Face Qwen3.8-27B 模型页大家爱它说白了就三点一张卡装得下。27B 是稠密模型量化到 4 bit 后模型文件 16.5GB放进 24GB 显存还有余量。比它大的模型要两张卡或者租云服务器比它小的模型能力又差一截。能干的活多。模型卡写的是「原生视觉语言模型」能看图、能看视频还能写代码、操作电脑。思考模式默认打开可以按请求关掉用reasoning_effort在 xhigh、medium、low 三档之间调思考深度。协议省心。Apache-2.0商用、改造、二次分发都不用另外申请。它的底子也值得说一句。27B 用的不是传统的「每层都做全注意力」而是 3 层线性注意力配 1 层全注意力循环 16 组[源码推导] 依据 Qwen3.8-27B 模型卡 Model Overview 中的 Hidden Layout16 × (3 × Gated DeltaNet → 1 × Gated Attention)绘制非官方原图。来源Qwen3.8-27B 官方模型卡用大白话讲线性注意力那 3 层负责「省」文本越长越省显存每 4 层插 1 层全注意力负责「准」长文里找某句话不容易漏。所以它原生就支持 262,144 个 token 的上下文用 YaRN 还能扩到约 100 万。对本地用户来说这意味着同样一张卡能塞进去的文档更长。同档三选一官方跑分摆一起看先把对手介绍清楚Nemotron 3.5 Bolt 74B-A9B 24GB英伟达 2026-10-15 在 Hugging Face 发布。总参数 74B但每次只激活 9BMoE 结构官方直接用原生 2-bit 量化把它打包成 24GB主打「在 24GB 内存里跑日常 Agent 任务」首发配的是 10 月 16 日上市的 RTX Spark 笔记本。Gemma 4 31B谷歌今年 4 月发布的 31B 稠密模型256K 上下文Apache-2.0。谷歌技术报告称它是 Arena 文本榜上排名最高的稠密开源模型。三家都公布了不少跑分但能直接对上的只有几项。我们只挑出同名的基准放进一张表[框架示意] 按三家官方模型卡整理的同名基准评测设置不完全相同只适合看量级。来源Qwen3.8-27B 模型卡、NVIDIA Nemotron 3.5 Bolt 模型卡、Gemma 4 官方模型卡基准考什么Qwen3.8-27BNemotron 3.5 Bolt 24GBGemma 4 31B数据出处GPQA Diamond研究生级理科题89.286.4384.3各自官方模型卡Terminal-Bench 2.1在终端里完成任务73.050.9837.2226B-A4BQwen 模型卡NVIDIA 模型卡HLE超难综合题30.825.3019.5各自官方模型卡判分方式不同LiveCodeBench v6算法编程90.3未公布80.0Qwen 模型卡Gemma 4 模型卡表格说明全部为官方数据。Terminal-Bench 这一格谷歌没公布 Gemma 4 31B 的成绩表里是 NVIDIA 模型卡给 Gemma 4 26B-A4B 的分HLE 上 Qwen 由 GPT-4o 判分另两家是「不联网」设置。看这张表要抓两点差距最大的是「在终端里干活」。Terminal-Bench 2.1 考的是让模型自己敲命令、改文件、跑测试Qwen3.8-27B 的 73.0 比 Bolt 高出 22 分。想让本地模型接 Claude Code、OpenCode 这类编程工具替你干活这一项最该看。理科题差距不大。GPQA Diamond 三家都在 8489 之间日常问答你很难感觉出区别。英伟达自己的对比图里没有放 Qwen3.8-27B比的是上一代 Qwen3.6-35B-A3B 和 Gemma 4 26B-A4B[官方图] NVIDIA 在 Bolt 模型卡里给出的 13 项对比绿色为 Bolt 24GB。注意对手是 Qwen3.6-35B-A3B 和 Gemma 4 26B-A4B不是本文主角。图源NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB 模型卡这张图里 Bolt 的强项很清楚BrowseComp上网查资料66.75远高于同图其他模型PinchBench 87.82英伟达称是同级开源模型第一。如果你的需求是「本地跑一个会上网查资料的 Agent」Bolt 值得认真看。显存账24GB、16GB、8GB 各能跑到哪一档跑分再好装不进显卡也白搭。下面这张表只算模型文件大小用的是社区最常用的 Unsloth GGUF 量化版[框架示意] 文件大小取自 Hugging Face 上 Unsloth 发布的 Qwen3.8-27B-GGUF、gemma-4-31B-it-GGUF 文件列表以及 NVIDIA Bolt 模型卡查询于 2026-10-16。来源Unsloth GGUF 文件列表、NVIDIA Bolt 模型卡量化档位Qwen3.8-27BGemma 4 31BNemotron 3.5 Bolt8 bit几乎无损29.0GB32.6GB无6 bit22.0GB25.2GB无5 bit19.8GB21.7GB无4 bit最常用16.5GB18.3GB无2 bit8.4GB8.5GB24GB官方唯一版本翻译成人话24GB 显卡Qwen3.8-27B 可以上 5 bit19.8GB剩下的显存留给上下文最舒服Gemma 4 31B 用 4 bit18.3GB够用Bolt 的 24GB 包正好卡在线上。英伟达说的「24GB 可跑」首发对象是 RTX Spark、DGX Spark 这类大内存新机器普通 24GB 独显上还要给上下文留空间会比较紧。16GB 显卡Qwen 的 4 bit 小号版 15.4GB、Gemma 的 3 bit 14.7GB都是勉强塞进去上下文开不长。Bolt 放不下。812GB 显卡只能用 2 bit 版8.4GB 左右能聊天但质量会明显下降。这一档建议直接换更小的模型或者用云端 API。注意上面只是模型文件大小实际运行时还要加上上下文缓存和系统占用建议留出 24GB 余量。中文、代码、长上下文各自的强项和短板[框架示意] 依据三家官方模型卡与 Hugging Face 页面 license 字段整理查询于 2026-10-16北京时间。来源三家官方模型卡一家一句点评Qwen3.8-27B全能短板是「贪」。思考模式默认开、默认最高档 xhigh官方建议给思考留到 262,144 个 token 的输出上限。本地跑的时候简单问题记得把思考关掉或调到 low否则一句话也要想半天。Nemotron 3.5 BoltAgent 型选手短板是中文。模型卡列出的语言是英、西、法、德、意、日六种没有中文部署方面官方 vLLM 方案写的是 A100、H100 和 Blackwell消费级显卡主要靠 llama.cpp、Ollama、LM Studio。协议是 OpenMDW-1.1英伟达写明可以商用。Gemma 4 31B稳短板是「慢一代」。4 月发布Agent 和终端编码类的分数落后于本周两款新模型但多语种成绩好MMMLU 88.4Apache-2.0生态工具第一天就齐拿来微调做垂直模型很合适。长上下文三家都在 256K 左右Qwen 能用 YaRN 扩到约 100 万 token是唯一明确写了百万上下文方案的。谁该选 Qwen3.8-27B谁该看别家适合直接上 Qwen3.8-27B 的人一张 24GB 显卡想要一个中文好、能写代码、能看图的本地主力模型想接本地编程 Agent终端任务分数三家最高要商用又不想研究复杂协议。不适合、建议看别家的情况用的是 RTX Spark、DGX Spark 这类新机器主要做英文资料检索和网页 Agent先试 Nemotron 3.5 Bolt要做多语种产品或者要拿稳定版本做长期微调Gemma 4 31B 更稳妥显卡只有 8GB三家都不建议换小模型或用 API。使用建议先 4 bit再往上加。24GB 卡从 Q4_K_M16.5GB起步跑顺了再试 Q5_K_M19.8GB。思考档位按任务调。聊天、改写用 non-thinking 或 low写代码、做 Agent 任务再用 xhigh。官方也提醒多轮 Agent 任务里调低思考档位不一定更快可能因为想得少反而多返工。采样参数照官方抄。思考模式 temperature1.0、top_p0.95非思考模式 temperature0.7、top_p0.8、presence_penalty1.5。跑分只当参考。表里每个分数都是厂商自己测的评测设置也不一样最终以你自己的业务题为准。其他扩展RuoyiOffice 是一套面向中小企业的企业管理一体化平台思路是「一个平台管好整个企业」不用再分别采购 OA、人事、客户管理、进销存好几套系统数据在一个平台里打通。它的核心特性有这几块业务全覆盖按需启用OA 协同、流程审批、人力资源、客户管理CRM、进销存ERP、资产管理、仓储管理、企业商城、数据报表、物联网等十余个子系统模块化组合用到哪个开哪个。可视化流程引擎仿钉钉、飞书的流程设计器同时支持 BPMN会签、或签、依次审批抄送、转办、委派、加减签父子流程和超时提醒都有请假、入职、转正、调动、离职这类单据都能走线上审批。PC 端加移动端PC 端基于 Vue 3移动端基于 UniApp审批、打卡、待办、公告、企业云盘在手机上也能处理。微服务架构后端基于 Spring Boot 和 Spring Cloud Alibaba网关、注册配置中心、消息队列齐全各模块可以独立部署、按需扩展。内置 AI 能力可对接 DeepSeek、通义千问等大模型提供 AI 对话、写作、绘图、知识库问答和思维导图。企业级底座多租户、细粒度的角色和数据权限、单点登录还有代码生成器二次开发省事。