【免费下载链接】NVIDIA-Nemotron-3.5-Super-VL-120B-A12B项目地址https://ai.gitcode.com/hf_mirrors/unsloth/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B点击查看免费下载NVIDIA-Nemotron-3.5-Super-VL-120B-A12B是 NVIDIA 发布的 120B 参数多模态推理模型原生支持函数调用Function Calling可接入搜索、数据库、代码执行等外部工具。本文带你逐行拆解它内置在聊天模板中的XML 工具调用语法并附上一份从零构建AI Agent的实战清单零基础也能照着跑通 一、30 秒认识 Nemotron 3.5 Super VL关键指标参数 总参数 / 激活参数120B / 12BMoE512 个专家每 token 激活 22 个️ 架构Mamba-2 MoE Attention 混合 C-RADIO 视觉编码器 上下文长度最高1M tokens️ 部署硬件4× H100 或 2× GB200BF16 全精度⚡ 加速能力原生 MTP 多 token 预测支持投机解码️ 输入 / 输出文本、图片、视频 → 文本 许可证OpenMDW-1.1可商用模型权重共 63 个分片model-00001-of-00063.safetensors至model-00063-of-00063.safetensors总大小约 249 GB分片映射关系记录在 model.safetensors.index.json 中。 官方训练数据中专门包含26.2B tokens 的 Tool Calling Data和 Tool-Call Schema 强化学习数据见 README.md 数据章节函数调用能力是出厂即调教的核心技能之一。二、函数调用的核心文件chat_template.jinja这款模型没有独立的工具调用模块整个工具协议都写死在聊天模板里模板把标准 function schema 渲染成 XML 声明注入 system 区模型则被训练成用同样的 XML 格式输出调用指令。看懂这个文件就掌握了全部语法。① 声明工具tools块当你传入 tools 参数时模板chat_template.jinja 第 98-141 行会把每个工具渲染成这样tools function nameget_weather/name description查询指定城市的天气/description parameters parameter namecity/name typestring/type description城市名称如北京/description /parameter /parameters required[city]/required /function /tools注意required列表是 JSON 数组格式enum等额外字段也会被模板自动补齐。② 模型调用工具... 当模型决定调用工具时会只输出以下 XML不带任何多余后缀... 模板第 142 行写入了四条 IMPORTANT 铁律[chat_template.jinja](https://link.gitcode.com/i/666441aa355ecca0ded805eba1099aa4#L142) 1. function... 必须嵌套在 ... 内 2. 必填参数required必须全部给值 3. 调用前可以写自然语言解释**调用后不能写** 4. 无可用工具时正常作答不要向用户泄露我在调用函数 ### ③ 回传结果 ... 工具执行完毕后结果以 tool 角色消息回传模板将其包裹为[chat_template.jinja](https://link.gitcode.com/i/666441aa355ecca0ded805eba1099aa4#L224-L235){code: 200, data: 晴天25°C} 模型看到结果后继续推理要么发起下一个函数调用要么输出最终文字答案——这就是 Agent 循环的本质 ## 三、推理开关enable_thinking 参数 | 参数 | 默认值 | 作用 | | :-- | :-- | :-- | | enable_thinking | True | 控制生成前缀True → /thinkFalse → /think直接跳到答案 | | medium_effort | False | 为最后一个 user 轮追加 {reasoning effort: efficient} 提示 | | truncate_history_thinking | True | 多轮对话中截断历史轮的思考内容节省上下文 | ⚡ 对**低延迟工具调用场景**建议 enable_thinkingFalse跳过推理链模型直接给出 ... 响应更快。开启思考时vLLM 侧可用仓库自带的 [ultra_v3_reasoning_parser.py](https://link.gitcode.com/i/4707f35e00e27341967a0cc727b4afab) 解析器注册名 ultra_v3基于 DeepSeekR1 解析器扩展把思考过程与正文分离详见 [ultra_v3_reasoning_parser.py](https://link.gitcode.com/i/4707f35e00e27341967a0cc727b4afab#L5-L19)。 ## 四、AI Agent 构建清单6 步跑通 - [ ] **1. 下载模型**拉取 63 个 safetensors 分片约 249 GB用 [checksums.blake3](https://link.gitcode.com/i/fa401efe9fa563478c4dd9199550fd17) 校验完整性 - [ ] **2. 启动推理服务**推荐 vLLM 或 SGLang官方 Software Integration 指定引擎硬件建议 4× H100 - [ ] **3. 定义工具列表**按标准 function schema 编写 name / description / parameters / required描述写得越清晰调用越准确 - [ ] **4. 携带 tools 发起请求**聊天模板会自动注入 # Tools XML 声明无需手写任何协议代码 - [ ] **5. 解析输出**用正则提取 ... 中的 function 名与 parameter 参数实际执行工具 - [ ] **6. 回传并循环**把执行结果包进 ... 回传重复 5-6 步直到模型返回纯文本最终答案 ✅ **小经验**一次请求中模型可能连续输出多个 ... 解析器要支持批量提取复杂/数组参数会被序列化为 JSON 字符串回传结果时也建议保持 JSON 格式。 ## 五、推荐采样参数速查 | 场景 | temperature | top_p | 来源 | | :-- | :--: | :--: | :-- | | 文本 / 工具调用 | 1.0 | 0.95 | [generation_config.json](https://link.gitcode.com/i/7a4c5d7f1c7d913543891faecbed6e13) | | 视觉理解任务 | 0.6 | 0.95 | [README.md](https://link.gitcode.com/i/58d4422c5ce94578d57e44a30ab8ab85) 推荐采样 | 其他要点do_sample: true结束符 eos_token_id 为 2 与 11见 [tokenizer_config.json](https://link.gitcode.com/i/1e309ea0163531f9372c4b5a6df170e9) 与 [config.json](https://link.gitcode.com/i/9d1c8ffc9bd90e10ba7f6d6b7cc946e4)。 ## 六、相关文件速查表 | 文件 | 作用 | | :-- | :-- | | [chat_template.jinja](https://link.gitcode.com/i/666441aa355ecca0ded805eba1099aa4) | ⭐ 聊天模板 XML 工具调用语法全集 | | [ultra_v3_reasoning_parser.py](https://link.gitcode.com/i/4707f35e00e27341967a0cc727b4afab) | vLLM 推理解析器拆分思考与正文 | | [config.json](https://link.gitcode.com/i/9d1c8ffc9bd90e10ba7f6d6b7cc946e4) | 架构配置MoE、Mamba-2、C-RADIO 视觉编码器 | | [processing_nemotron_h_omni.py](https://link.gitcode.com/i/dd4221522aaf09344dad3eaf62e97248) | 多模态处理器文本 图像 视频 | | [modeling_nemotron_h_omni.py](https://link.gitcode.com/i/ccfbe2bb6c8fce7285d403ab75741ea6) | 模型结构定义 | | [generation_config.json](https://link.gitcode.com/i/7a4c5d7f1c7d913543891faecbed6e13) | 官方推荐采样参数 | | [model.safetensors.index.json](https://link.gitcode.com/i/c5823f8280b1034649ed51a75db15d2c) | 63 个权重分片的映射索引 | | [checksums.blake3](https://link.gitcode.com/i/fa401efe9fa563478c4dd9199550fd17) | 文件完整性校验值 | --- **总结**Nemotron 3.5 Super VL 的函数调用走的是纯 XML 文本协议路线—— ... 发起、 ... 回传与具体框架解耦因此接入任何 Agent 框架都只需三步**声明工具 → 解析调用 → 回传结果**。配合 1M 上下文与可开关的推理链它是构建多模态工具型 Agent 的强力底座 赞分享【免费下载链接】NVIDIA-Nemotron-3.5-Super-VL-120B-A12B项目地址https://ai.gitcode.com/hf_mirrors/unsloth/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B点击查看免费下载相关推荐Velero(前身 Ark)实战:把 IBM Cloud Object Storage 配置为备份存储目标Velero 前身 Ark 实战:把 IBM Cloud Object Storage 配置为备份存储目标 本文以 Velero v0.10.0 时期文档 ibDataHub 平台组件全解Metadata Store、Metadata Models、采集框架、GraphQL API 与 React 前端DataHub 平台组件全解Metadata Store、Metadata Models、采集框架、GraphQL API 与 React 前端 本文基于 DDelta 模拟器自定义皮肤十秒给控制器换上专属外衣Delta 模拟器自定义皮肤十秒给控制器换上专属外衣 深夜打 GBA 老游戏拇指按下去屏幕上还是那套默认按钮——游戏的氛围是到位了按钮却有点出戏。Del创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考