逐行读懂cosmos3-nano-libero10-sdg-export-D5的config.json:VAE、FSDP并行、FP8量化与LoRA关键参数清单
  • 人工智能
  • 大模型
  • 具身智能
  • 机器人

【免费下载链接】cosmos3-nano-libero10-sdg-export-D5

项目地址:https://ai.gitcode.com/hf_mirrors/nvidia/cosmos3-nano-libero10-sdg-export-D5
点击查看免费下载

🤖 本文带你逐行读懂cosmos3-nano-libero10-sdg-export-D5 的 config.json:这是一个基于 Cosmos3-Nano 的机器人策略模型(LIBERO-10 微调版,约 15.2B 参数)。我们将重点拆解VAE 视频编解码、FSDP 数据并行、FP8 量化开关、LoRA 微调参数四大核心配置块,帮你快速建立完整参数认知。

一、模型档案:这是什么模型?

先看清家底,再读配置:

项目数值
模型架构Cosmos3OmniModel(MoT 架构)
总参数量约 151.7 亿(15.17B)
权重体积约 30GB,7 个 safetensors 分片
基础模型nvidia/Cosmos3-Nano
训练数据379 条真实 LIBERO-10 演示 + 1895 条重复样本
标准场景成功率93.4% ± 1.2%
扰动场景成功率82.9% ± 1.9%

参数总量记录在 model.safetensors.index.json,分片分布可通过weight_map字段查询每个权重张量落在哪个分片里。模型定位见 README.md:这是 Cosmos Cookbook 合成数据对照实验中 cell D5 的训练检查点导出。

二、顶层架构:模型如何被加载

config.json 的前几行决定了加载入口:

参数值含义
architecturesCosmos3OmniModel模型类名
auto_mapcosmos3.model.*自定义类的查找路径,HuggingFaceAutoConfig/AutoModel会据此加载
dtypebfloat16默认精度 BF16
model._targetomni_mot_model实际实例化的模型工厂名(MoT = Mixture of Transformers)
model_typecosmos3_omni模型家族标识

auto_map(config.json)是关键:没有它,加载器就不知道去哪里找Cosmos3OmniModel这个自定义类。

三、VAE 参数清单:视频如何压缩进潜空间

🎬 视频生成模型的灵魂是 VAE。本模型复用Wan2.2 视频 VAE,配置块在 config.json:

参数值作用
_targetwan2pt2_vae_interfaceWan2.2 VAE 接口实现
causaltrue因果编码:可逐帧流式处理视频
spatial_compression_factor16空间压缩 16 倍(720p 帧宽 1280→80 潜变量)
temporal_compression_factor4时间压缩 4 倍(30 帧→约 8 个 latent 步)
chunk_duration93单次编码处理的最大时长
encode_chunk_frames256→68 / 480→24 / 720→8按分辨率分档的编码分块帧数,防止显存溢出
vae_pathWan2.2_VAE.pthVAE 权重文件位置

几个联动参数值得注意:

  • latent_downsample_factor: 16(config.json):与空间压缩因子一致,主网络在潜空间上工作的步长;
  • patch_spatial: 2(config.json):潜变量再做 2×2 patch 化,等效空间 32× 下采样;
  • max_vae_latent_side_after_patchify: 20:patch 化后潜空间单边不超过 20 个 token,限制序列长度;
  • load_vision_tokenizer: true(config.json):确认 VAE 随模型一起加载。

💡 换算一下:720p 下每 4 帧、每 32×32 像素区域 → 1 个 latent token,这就是"视频怎么变成 token"的全部答案。

四、FSDP 并行参数清单:4 路数据并行怎么切

🚀 训练时的并行策略集中在parallelism块(config.json):

参数值说明
data_parallel_shard_degree4FSDP 分片数据并行,4 路切分参数/优化器状态
data_parallel_replicate_degree1副本型数据并行关闭
context_parallel_shard_degree1上下文并行关闭
cfg_parallel_shard_degree1CFG(分类器自由引导)并行关闭
fsdp_master_dtypefloat32主权重 FP32 保存,保证数值稳定
fsdp_reduce_dtypebfloat16梯度归约用 BF16,省带宽
fsdp_cpu_offloadfalse不把参数卸载到 CPU
vae_load_balance_group_size1VAE 编码不做额外负载均衡分组

配套的计算布局参数:

  • attention_io_layout: sequence_sharded(config.json):注意力输入按序列维分片,配合长视频 token;
  • activation_checkpointing.mode: selective(config.json):选择性激活检查点,只对fmha(融合注意力)等算子重算,省显存又不太牺牲速度;
  • correct_cp_gradients: false(config.json):上下文并行关闭时此项自然无效;
  • max_num_tokens_after_packing: 74000(config.json):样本打包后单序列 token 上限,直接决定单卡显存峰值。

✅ 结论:这是一套"4 卡 FSDP + FP32 主权重 + BF16 梯度"的经典稳健配方——分片降显存,FP32 保精度,BF16 提速度。

五、FP8 量化参数清单:开关到底开没开?

🔍 这是新手最容易误读的一块。quantization块(config.json)虽然字段齐全,但:

参数值含义
methodnull未启用任何量化方法(如 modelopt FP8)
fp8_granularityper_row若启用 FP8,采用按行缩放粒度
exclude_regex/include_regex[]无量化范围过滤
modelopt_fp8_checkpoint_pathnull无 FP8 检查点
mixed_precision_reasoner_policyhigh_precision推理时 reasoner 走高精度策略
mixed_precision_first_steps/last_steps0首尾混合精度过渡步数为 0

一句话总结:本导出未做 FP8 量化,全程 BF16(与顶层dtype: bfloat16、precision: bfloat16相互印证)。per_row等字段只是框架预留的开关,方便你后续一键启用 FP8 推理。

六、LoRA 参数清单:微调配置为什么是"关闭"状态

LoRA 相关 4 个参数非常简洁(config.json):

参数值含义
lora_enabledfalse当前导出未使用 LoRA,是全参数微调后的完整权重
lora_rank16若启用,低秩矩阵秩为 16
lora_alpha32缩放系数 32(有效缩放 = alpha/rank = 2.0)
lora_target_modulesq/k/v/o_proj_moe_gen只注入生成专家(MoT 的 gen 分支)注意力投影层

两个细节值得品味:

  1. 目标模块全部带_moe_gen后缀——MoT 架构中"理解(und)"与"生成(gen)"是两套并行参数,LoRA 只动生成分支,理解能力不被扰动;
  2. rank 16 / alpha 32 是社区常见稳健比例,即使以后想在此基础上继续 LoRA 微调,这套超参可直接沿用。

另外 checkpoint.json 的experiment_overrides揭示了训练时的三个关键动作:关闭预训练权重加载(diffusion expert 与 VLM 预训练)、禁用对象存储、以及use_ema_weights: true——导出的 7 个分片是 EMA 平滑权重,比原始检查点更稳。

七、其余高频参数速查表

参数值一句话解释
action_gentrue启用动作生成(这是 VLA 模型,不只生成视频)
vision_gentrue启用视频/图像生成
sound_genfalse声音生成关闭
max_action_dim64动作向量最大维度 64(机器人关节/末端位姿)
state_ch/state_t48/300机器人状态通道 48 维、最多 300 时间步
num_embodiment_domains32最多支持 32 种具身域(domain_aware 投影器)
resolution720训练分辨率档位
base_fps24视频基准帧率 24fps
rectified_flow_inference_configunipc/ shift 1 / 1000 步推理采样器:UniPC,去噪时间步 1000
shift(训练)256→3 / 480→5 / 720→10按分辨率加噪声的 shift 档位(720p 用 10)
action_loss_weight10.0动作损失权重,动作学习被显著放大
train_time_video_distributionwaver视频时间步采样分布
input_caption_key/input_image_key/input_video_keyai_caption/images/video数据集字段映射
vlm_config.model_nameQwen/Qwen3-VL-8B-Instruct语言骨干为 Qwen3-VL-8B
tie_word_embeddingstrue(VLM 内部)词嵌入与 lm_head 共享参数,省显存

语言骨干细节见 config.json:layer_module为Qwen2MoTDecoderLayer,freeze_und: false表示理解分支也参与训练;qk_norm_for_text: true开启 QK 归一化以稳定长序列注意力。处理管线由 export_manifest.json 声明:processor 来自 Qwen3-VL-8B-Instruct,视频预处理参数(patch 16、merge 2、均值/方差 0.5)见 video_preprocessor_config.json。

八、总结:一份配置读懂四个决策

回顾全文,这份 config.json 回答了四个核心工程决策:

  1. 压缩怎么做→ Wan2.2 因果 VAE,空间 16×、时间 4×,720p 档 8 帧分块编码;
  2. 怎么并行训练→ 4 路 FSDP 分片数据并行,FP32 主权重 + BF16 梯度,选择性激活检查点;
  3. 要不要量化→ 不要:quantization.method: null,全 BF16,FP8 字段为未来预留;
  4. 要不要 LoRA→ 不要:全参数训练,LoRA 参数(rank 16 / alpha 32 / gen 分支注意力层)仅作模板保留。

配合 checkpoint.json 的 EMA 权重导出与 model.safetensors.index.json 的 15.17B 参数清单,你现在可以完整还原这个 LIBERO-10 策略模型的训练与加载全貌。🎯

  • 人工智能
  • 大模型
  • 具身智能
  • 机器人

【免费下载链接】cosmos3-nano-libero10-sdg-export-D5

项目地址:https://ai.gitcode.com/hf_mirrors/nvidia/cosmos3-nano-libero10-sdg-export-D5
点击查看免费下载

相关推荐

上一篇:FlatBuffers 白皮书深度解读:零解析、零拷贝的二进制序列化设计原理与实现
下一篇:core-js 中 ECMAScript Reflect 全面解析:模块清单、内置方法签名与多入口使用指南

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

相关新闻

钢价上涨为何反而推动自动化立体库需求?成本账背后的行业逻辑

钢价上涨为何反而推动自动化立体库需求?成本账背后的行业逻辑

一个荒诞的行情,正在悄悄改变仓储物流行业的项目决策逻辑。往年钢材报价上涨,大家第一反应是“货架又要贵了”“项目成本又失控了”;但这一轮钢铁涨价之后,我反而在几个项目交流里看到另一幕:多个原本犹豫着“先上普通…

2026/10/21 5:15:05 阅读更多 →
快速事件架构rea:从零构建可扩展的异步事件驱动框架

快速事件架构rea:从零构建可扩展的异步事件驱动框架

好几次遇到项目已经到了“接口越改越慢、业务越糊越乱”的阶段,我才开始认真思考整套系统内部应该用什么方式协作。于是有了标题里这个很短的代号 rea,它后面全称是 Rapid Event Architecture,也就是快速事件架构。我最初只想做一套轻量的事件…

2026/10/21 5:15:05 阅读更多 →
响应式架构实战:从rea概念到实时数据处理系统搭建

响应式架构实战:从rea概念到实时数据处理系统搭建

1. 从“rea”这个标题说起:一个被低估的缩写背后藏着什么第一次看到“rea”这个标题的时候,我脑子里蹦出来的第一反应是——这大概率又是一个被缩写玩坏的项目名。做技术的人都有个习惯,喜欢把长名字砍成三四个字母,图省事、图好记…

2026/10/21 5:15:05 阅读更多 →

最新新闻

K8s Pod运维实战:状态排查、探针配置与资源限制

K8s Pod运维实战:状态排查、探针配置与资源限制

先聊点实际的。如果你已经会用kubectl apply -f把 Pod 拉起来,会用kubectl get pods看状态,那这篇就是给你准备的。这是 K8s 操作系列里 Pod 部分的第二篇,前一篇我们把 Pod 的创建、查看、删除、标签这些基础操作过了一遍,这一篇…

2026/10/21 6:34:37 阅读更多 →
从舞台到实用:人形机器人运动控制与力控的核心跃迁

从舞台到实用:人形机器人运动控制与力控的核心跃迁

每年总有那么几台春晚机器人,在亿万观众面前蹦跳、转圈、挥手,然后第二天全网都在聊"机器人是不是真要取代人了"。这类话题每次都能把热度拉满。但我作为常年跟人形机器人运动控制、具身智能方向打交道的人,看到的东西通常跟大家不…

2026/10/21 6:34:37 阅读更多 →
Kubernetes网络链路验证:从Pod到Service的五跳排查指南

Kubernetes网络链路验证:从Pod到Service的五跳排查指南

拿到一个新搭好的Kubernetes集群,很多人第一件事就是跑一个nginx,看到Pod变成Running就以为万事大吉。等到真正业务联调的时候,Web应用访问不上数据库、订单服务调不通网关,才发现网络这一层从来没验证过。Kubernetes从Pod到Servi…

2026/10/21 6:34:37 阅读更多 →
函数式技能建模:用YAML实现可验证、可执行的个人能力系统

函数式技能建模:用YAML实现可验证、可执行的个人能力系统

1. 项目概述:当“skills”不再只是简历上的单词,而成为可验证、可组合、可进化的个人能力操作系统最近在多个技术社区、职业发展平台和高校教学反馈中,“skills”这个词高频出现,但几乎从不单独存在——它总被嵌套在具体语境里&am…

2026/10/21 6:34:37 阅读更多 →
React Native for OpenHarmony 实战:三方库 react-native-swipe-gestures 的鸿蒙化适配指南

React Native for OpenHarmony 实战:三方库 react-native-swipe-gestures 的鸿蒙化适配指南

本文记录把 react-native-swipe-gestures&#xff08;滑动手势识别&#xff09;适配到 HarmonyOS 的完整过程。 它做的事&#xff1a;用一个 <View> 包住内容&#xff0c;把 PanResponder 的 panHandlers 挂上去&#xff0c; 在滑动结束时根据速度与方向偏移判断是上/下/…

2026/10/21 6:34:37 阅读更多 →
findpass:从pcap中批量提取明文用户名密码的实用工具

findpass:从pcap中批量提取明文用户名密码的实用工具

简介&#xff1a;FindPass是一款用于Windows NT4/2000系统的密码查询工具&#xff0c;面向系统管理员与安全测试人员。它利用调试特权读取winlogon进程内存&#xff0c;依据明文存储的域名与用户名定位对应登录会话&#xff0c;进而解密出用户口令&#xff0c;适用于管理员忘记…

2026/10/21 6:33:37 阅读更多 →

日新闻

统一内存+量化:锐龙AI Max PRO 400如何本地跑320B大模型

统一内存+量化:锐龙AI Max PRO 400如何本地跑320B大模型

这段时间硬件圈和AI圈都在传一个事&#xff1a;AMD锐龙AI Max PRO 400系列把最高192GB统一内存搬进了PC形态的产品里&#xff0c;按宣传口径&#xff0c;本地跑320B参数的大家伙不再是纸面概念。我第一反应倒不是“内存真大”&#xff0c;而是这话背后的含金量——它把过去只能…

2026/10/21 0:00:11 阅读更多 →
AI助手深度使用体验:对话质量、长文本处理与指令遵循如何留住用户

AI助手深度使用体验:对话质量、长文本处理与指令遵循如何留住用户

1. 从“封号重开”这个行为说起&#xff1a;用户到底在追求什么“封号重开”这四个字&#xff0c;放在任何产品语境里都带着一股决绝的味道。一个账号从零开始积累使用记录、调教偏好、沉淀工作流&#xff0c;背后是大量的时间和精力成本。正常情况下&#xff0c;没有人愿意主动…

2026/10/21 0:00:11 阅读更多 →
ROS中YOLOv3工程落地:通信同步、坐标变换与性能调优

ROS中YOLOv3工程落地:通信同步、坐标变换与性能调优

1. 为什么在ROS里硬刚YOLOv3不是“炫技”&#xff0c;而是工程落地的必经之路我第一次在某高校机器人实验室看到那台搭载Jetson TX2的移动底盘原地打转、反复识别错垃圾桶时&#xff0c;就意识到&#xff1a;单纯跑通darknet_ros demo和真正让YOLOv3在ROS里“干活”&#xff0c…

2026/10/21 0:00:11 阅读更多 →

周新闻

基于GMM的语音识别系统原理与MATLAB实现详解

基于GMM的语音识别系统原理与MATLAB实现详解

说到基于高斯混合模型&#xff08;GMM&#xff09;的语音识别系统&#xff0c;很多人第一反应就是一堆数学公式&#xff0c;觉得门槛很高。但如果你真的在MATLAB里把它落地跑通&#xff0c;会发现核心其实就是三件事&#xff1a;把声音变成特征向量&#xff0c;用GMM给每个类别…

2026/10/20 10:02:13 阅读更多 →
数字图像处理入门:反白、灰度化、调色板修改与导出txt实践

数字图像处理入门:反白、灰度化、调色板修改与导出txt实践

数字图像处理这四个字听起来挺唬人&#xff0c;但落到具体操作上&#xff0c;无非就是让计算机按你的想法“摆弄”像素。我在一个模拟项目X里用了一套特别经典的基础处理流程&#xff1a;对图像做反白、改调色板、彩色转灰度&#xff0c;最后把像素数据导出成txt文件。单看每一…

2026/10/20 20:43:59 阅读更多 →
机器人大脑技术盘点:具身智能的感知、决策与数据闭环

机器人大脑技术盘点:具身智能的感知、决策与数据闭环

如果你的信息流最近也天天刷到“机器人大脑”这个词&#xff0c;你会发现一个很有意思的现象&#xff1a;每个人说的“大脑”根本不是同一个东西。有人指的是大语言模型&#xff0c;有人指的是运动控制系统&#xff0c;还有人指的是能理解物理世界的端到端模型。在2026年这个时…

2026/10/21 4:27:17 阅读更多 →

月新闻

我发现了一个新思路:用 Remotion + Claude Code 像写代码一样自动化生成短视频

我发现了一个新思路:用 Remotion + Claude Code 像写代码一样自动化生成短视频

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/20 10:02:08 阅读更多 →
Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式:TaoToken 统一 Key 配置与验证

Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式:TaoToken 统一 Key 配置与验证

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/20 9:50:17 阅读更多 →
黑夜航拍船只数据集训练YOLOV5模型全流程解析

黑夜航拍船只数据集训练YOLOV5模型全流程解析

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/20 9:50:45 阅读更多 →