100 万 token 上下文实测Step 5 Preview 一次能吞下多大的工程【免费下载链接】Step-5-PreviewStep 5 Preview 是阶跃星辰面向智能体工作打造的旗舰模型。该模型在软件工程和专业知识工作领域均展现出前沿级性能尤其在金融领域表现突出。 Step 5 Preview 是一个稀疏混合专家MoE模型总参数量为 600B激活参数量为 27B。它支持高达 100 万 token 的上下文长度并可接收文本、图像和视频输入能够在复杂任务中实现持续推理与工具调用。项目地址: https://ai.gitcode.com/StepFun/Step-5-Preview10 月 15 日阶跃星辰把 Step 5 Preview 的完整权重放进了开源仓库——就在登顶 OpenRouter Trending 榜单的次日。这款 600B 总参数、27B 激活参数的稀疏 MoE 模型把上下文窗口直接标到了 100 万 token输入还支持图像。对做工程的人来说这个数字的真正含义不是窗口更大而是整个代码库、历史日志、需求文档可能一次就能全部进上下文不用再靠 RAG 切片和摘要来喂模型了。这篇文章基于官方开源仓库StepFun/Step-5-Preview的config.json、参考推理实现和社区实测情报把三件事讲清楚1M 窗口的架构代价是什么、100 万 token 折算下来到底能装多大的工程、以及这笔显存账普通人算不算得起。一、纸面参数解码600B/27B 与 1M 窗口是怎么做到的先看仓库根目录 config.json 里的硬指标配置项值含义max_seq_len/max_position_embeddings10485761M 上下文的直接声明num_hidden_layers9292 层解码器num_attention_heads/num_attention_groups64 / 4GQAKV 头只有 Q 头的 1/16sliding_window512滑动窗口层只看 512 tokenmoe_num_experts/moe_top_k352 / 8每 token 只路由 8 个专家num_nextn_predict_layers33 层 MTP 多 token 预测三个设计决定了 1M 上下文的可行性。第一92 层里只有 23 层是全局长记忆。layer_types字段显示layer_types按3 个sliding_attention 1 个full_attention周期性排布92 层中 69 层是 512 token 滑窗仅 23 层做全局注意力。滑窗层的 KV 占用是常数512 token 封顶无论上下文 1 万还是 100 万都一样。这是 1M 窗口的第一道成本闸门。第二23 层全注意力量层用的不是裸 full attention而是 DSA 稀疏注意力。sparse_config里写得很直白topk: 512、region_block_size: 8、compression_method: csa_block_compress、attention_impl: sparse_gqaapply_to_layer_types指向full_attention。也就是说每 8 个 token 压成一个 region 摘要proxy_dim: 256当前 query 用 indexer 打分后只读 131,072 个 region 里最相关的 512 个。参考实现 kernel.py 里有完整的 Triton kernel 支撑这条链路csa_compress_regionsregion 摘要压缩、indexer_logits_radix_topk_threshold区域打分与 top-k 选择、prefill_sparse_meta/decode_sparse_meta按 PagedAttention 的block_table打包命中 region、sparse_attention_prefill/sparse_attention_decode只对命中 region 做 GQA。fp8_vit_sidecar_ready.json 里sparse_indexer_q/k/z等权重各出现 23 次——正好对应 23 个全注意力量层内部训练名还留着step4_dsa_1m的字样。没有这层稀疏化23 层全局注意力在 1M 长度下的显存和算力都会直接爆炸。第三27B 激活参数把单 token 计算量压住。moe_layer_list显示第 3~90 层共 88 层是 MoE每层 352 个专家moe_intermediate_size: 1536外加 1 个共享专家每 token 只激活 8 个路由专家前 3 层和末两层是稠密的。此外num_nextn_predict_layers: 3对应仓库里的model-mtp3-00001.safetensorsvLLM 启动参数直接给了--spec-method mtp --spec-tokens 3SGLang 侧则配了 EAGLE 三步推测解码——decode 阶段一次前向最多吐 4 个 token长上下文任务里这直接决定等待时间。位置编码上rope_scaling用的是llama3方案high_freq_factor: 32original_max_position_embeddings就是 1048576全注意力量层还配了partial_rotary_factors ≈ 1/3192 维 head 里只对约 64 维做 RoPE。这些都说明 1M 是从训练期就按 1M 设计的不是后拉伸出来的外推。二、100 万 token 到底能吞下多大的工程先换算单位。工程文本平均 1 行代码约 3~4 个 token1M token 大约能装25 万~33 万行代码或者几百 MB 的纯文本——相当于一个中型 monorepo 的全部源码、加上完整的 CI 日志、issue 记录和 PR 讨论。拿本仓库自己当标尺inference/下的 Python 参考实现加全部 README、配置、chat template文本总量约 400 KB折合约10~13 万 token。也就是说1M 上下文能一次性装下8 份这样的完整推理代码库还剩余量放任务指令和多轮工具调用历史。对一个 20 万行、几百个文件的真实业务仓库源码 构建日志 需求文档塞进单窗口是有余量的。这不只是容量游戏它改变的是工作流形态。官方 README.md 把 Step 5 Preview 定位为 StepFuns flagship model for agentic work能力清单第一条就是 navigate large codebases, coordinate changes across files, run and verify code, and iterate on the results——跨文件协调修改、反复执行验证这正是长上下文最受益的场景工具调用的每一次输出编译报错、测试日志都留在上下文里模型不需要靠摘要回忆早期的文件状态。社区侧的实测数据可以佐证吞得下之后用得好不好。9 月下旬掘金上的多篇实测WorkBuddy Agent 环境里Step 5 Preview 做了两类典型工程任务单缸四冲程发动机剖面动画HTML/CSS/JS/SVG含暂停、调速、拖动角度首轮通过0 轮人工纠错耗时 10 分 39 秒与对照组 DeepSeek-V4.1-Flash 仅差 4 秒且是三家唯一把提示词要求的操作说明直接交付到页面里的三维抓娃娃机Three.js不提供任何素材状态机要求抓空不计分、抓取中不重复扣币首轮通过39 分 19 秒状态、日志、取奖口完整闭环。跑分方面社区转述的 Artificial Analysis Intelligence Index v4.3 得分 44进入前沿梯队CSDN 侧的评测提到 StepCodeBench 49.0、覆盖 33 种编程语言短板在前端与轻量任务性价比。需要注意的边界这些实测跑在 API/Agent 环境1M 是窗口上限单次任务是否真用了百万 token 取决于任务本身而仓库里inference/路径目前验证过的是短 prompt 贪心解码FP8 8×H200 / BF16 16×H200README 也明确写了 long-context workloads ... have not been validated——本地参考实现还没替 1M 长文做过端到端背书这一点要看官方模型页的长程案例研究。另一个容易被忽略的细节图像也在吃上下文预算。config.json 顶层声明image_token_len: 169、patch_token_len: 81即每张 728×728 概览图占 169 token、每块 504×504 细节裁剪占 81 token。inference/vision_encoder.py 的 47 层 perception encoder宽度 1536、2D RoPE在 prefill 阶段把视觉特征注入文本序列——截图、设计稿、图表进窗口并不免费规划 1M 预算时要把这些视觉 token 算进去。三、显存与成本账1M 上下文人人跑得起吗先看权重。model.safetensors.index.json 的metadata.total_size是 644,100,979,280 字节约600.6 GiB——这是 FP8 格式quant_method: fp8e4m3128×128 分块 scale加上 BF16 保留项视觉塔、部分 expert 层被modules_to_not_convert排除的总盘。README.md 给出的官方部署矩阵框架精度硬件并行vLLMFP81 节点 4×B300TP4 / TEP4 / DEP4vLLMFP81 节点 8×H200TP8 / TEP8 / DEP8vLLMBF161 节点 8×B300TP8 / TEP8 / DEP8vLLMBF162 节点 16×H200TP16 / TEP16 / DEP16SGLangFP84×B300 或 8×H200TPEPtransformers 参考实现 给出了更细的 per-rank 数字BF16 权重在 TP/EP8 下每 rank 约144.41 GiB超过单张 H200 的 140.40 GiB所以必须切到 TP/EP16降到每 rank74.93 GiBFP8 单节点 8×H200 则能装下。消费级显卡24GB 级别在这个权重体量前面没有讨论空间。KV cache 才是 1M 上下文的胜负手。用手上的配置算一笔账全注意力量层23 层每 token KV 2 (KV) × 4 个 KV 组 × 192 维 × 2 字节 (BF16) 3,072 B 1M token × 3,072 B × 23 层 ≈ 69 GiBBF16 KV 滑动窗口层69 层 窗口 512 封顶69 × 512 × 3,072 B ≈ 0.1 GiB常数 DSA indexer 区域摘要23 层 1M/8 131,072 区域 × 256 维 × 2 字节 ≈ 67 MB/层 合计 ≈ 1.5 GiB也就是说1M 上下文的 KV 主体是那 23 层全注意力量层的 ~69 GiB若 KV 用 FP8 可减半而 DSA 的索引结构只花约 1.5 GiB 就替代了对 1M 历史做二次方 attention的开销——这就是前面topk: 512稀疏化的直接回报。8 卡 H200 部署时FP8 权重每卡约 75 GiB 视觉塔每卡约 4 GBKV 摊到每卡约 8.6 GiB141 GiB 的显存还剩出激活与通信缓冲这与 vLLM 示例里--gpu-memory-utilization 0.85、--max-num-seqs 64的配套参数是吻合的。但官方措辞留了明确的口子README 在 H200 部署一节写明1M-token context limit covers input and output combined.If KV cache memory is insufficient, reduce--max-model-lenor concurrency.——1M 是天花板不是标配。实际部署时并发数、单请求长度和 KV 预算三者互为约束长请求一多就得降--max-model-len。API 侧的账好算得多。社区情报Artificial Analysis 数据转引显示Step 5 Preview 单任务成本约为同等智能水平 GLM-5.3 / Kimi K3 的35%、Claude Opus 5 的12.5%上线渠道方面9 月 20 日发布后先登 OpenRouter Trending 榜首腾讯 WorkBuddy 在 10 月 12 日至 25 日独家限免开放了 75 天级别的免费额度CSDN 报道这也是这轮开源前热度最高的原因。对绝大多数团队1M 上下文的合理姿势是走 API按 token 付费、把整个仓库一次性丢进去自托管 FP8 起步价是 4×B300 或 8×H200BF16 则要到双节点 16 卡——这是跑得起和跑得划算的分界线。小结Step 5 Preview 的 1M 上下文不是一个营销数字config.json里 69 层滑窗 23 层 DSA 稀疏全注意力131,072 个区域里只取 top-512的架构把百万长度的显存和算力成本压到了 8 张 H200 能承接的范围600B/27B 的 MoE 形态则保证了每 token 的推理成本落在 27B 量级。折算下来单窗口约可容纳 25 万行代码级文本覆盖一个中型 monorepo 的全量源码与日志社区实测里它在这种长任务场景下的首轮通过与完整交付也验证了吞得下之后的工程可用性。剩下的问题很实际1M 是上限而非默认自托管需要 Hopper/Blackwell 级多卡集群而最普遍的路径还是用 API 按量付费把整个工程一次性交给它。【免费下载链接】Step-5-PreviewStep 5 Preview 是阶跃星辰面向智能体工作打造的旗舰模型。该模型在软件工程和专业知识工作领域均展现出前沿级性能尤其在金融领域表现突出。 Step 5 Preview 是一个稀疏混合专家MoE模型总参数量为 600B激活参数量为 27B。它支持高达 100 万 token 的上下文长度并可接收文本、图像和视频输入能够在复杂任务中实现持续推理与工具调用。项目地址: https://ai.gitcode.com/StepFun/Step-5-Preview创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考