逐行读懂cosmos3-nano-libero10-sdg-export-D5的config.json:VAE、FSDP并行、FP8量化与LoRA关键参数清单
  • 人工智能
  • 大模型
  • 具身智能
  • 机器人

【免费下载链接】cosmos3-nano-libero10-sdg-export-D5

项目地址:https://ai.gitcode.com/hf_mirrors/nvidia/cosmos3-nano-libero10-sdg-export-D5
点击查看免费下载

🤖 本文带你逐行读懂cosmos3-nano-libero10-sdg-export-D5 的 config.json:这是一个基于 Cosmos3-Nano 的机器人策略模型(LIBERO-10 微调版,约 15.2B 参数)。我们将重点拆解VAE 视频编解码、FSDP 数据并行、FP8 量化开关、LoRA 微调参数四大核心配置块,帮你快速建立完整参数认知。

一、模型档案:这是什么模型?

先看清家底,再读配置:

项目数值
模型架构Cosmos3OmniModel(MoT 架构)
总参数量约 151.7 亿(15.17B)
权重体积约 30GB,7 个 safetensors 分片
基础模型nvidia/Cosmos3-Nano
训练数据379 条真实 LIBERO-10 演示 + 1895 条重复样本
标准场景成功率93.4% ± 1.2%
扰动场景成功率82.9% ± 1.9%

参数总量记录在 model.safetensors.index.json,分片分布可通过weight_map字段查询每个权重张量落在哪个分片里。模型定位见 README.md:这是 Cosmos Cookbook 合成数据对照实验中 cell D5 的训练检查点导出。

二、顶层架构:模型如何被加载

config.json 的前几行决定了加载入口:

参数值含义
architecturesCosmos3OmniModel模型类名
auto_mapcosmos3.model.*自定义类的查找路径,HuggingFaceAutoConfig/AutoModel会据此加载
dtypebfloat16默认精度 BF16
model._targetomni_mot_model实际实例化的模型工厂名(MoT = Mixture of Transformers)
model_typecosmos3_omni模型家族标识

auto_map(config.json)是关键:没有它,加载器就不知道去哪里找Cosmos3OmniModel这个自定义类。

三、VAE 参数清单:视频如何压缩进潜空间

🎬 视频生成模型的灵魂是 VAE。本模型复用Wan2.2 视频 VAE,配置块在 config.json:

参数值作用
_targetwan2pt2_vae_interfaceWan2.2 VAE 接口实现
causaltrue因果编码:可逐帧流式处理视频
spatial_compression_factor16空间压缩 16 倍(720p 帧宽 1280→80 潜变量)
temporal_compression_factor4时间压缩 4 倍(30 帧→约 8 个 latent 步)
chunk_duration93单次编码处理的最大时长
encode_chunk_frames256→68 / 480→24 / 720→8按分辨率分档的编码分块帧数,防止显存溢出
vae_pathWan2.2_VAE.pthVAE 权重文件位置

几个联动参数值得注意:

  • latent_downsample_factor: 16(config.json):与空间压缩因子一致,主网络在潜空间上工作的步长;
  • patch_spatial: 2(config.json):潜变量再做 2×2 patch 化,等效空间 32× 下采样;
  • max_vae_latent_side_after_patchify: 20:patch 化后潜空间单边不超过 20 个 token,限制序列长度;
  • load_vision_tokenizer: true(config.json):确认 VAE 随模型一起加载。

💡 换算一下:720p 下每 4 帧、每 32×32 像素区域 → 1 个 latent token,这就是"视频怎么变成 token"的全部答案。

四、FSDP 并行参数清单:4 路数据并行怎么切

🚀 训练时的并行策略集中在parallelism块(config.json):

参数值说明
data_parallel_shard_degree4FSDP 分片数据并行,4 路切分参数/优化器状态
data_parallel_replicate_degree1副本型数据并行关闭
context_parallel_shard_degree1上下文并行关闭
cfg_parallel_shard_degree1CFG(分类器自由引导)并行关闭
fsdp_master_dtypefloat32主权重 FP32 保存,保证数值稳定
fsdp_reduce_dtypebfloat16梯度归约用 BF16,省带宽
fsdp_cpu_offloadfalse不把参数卸载到 CPU
vae_load_balance_group_size1VAE 编码不做额外负载均衡分组

配套的计算布局参数:

  • attention_io_layout: sequence_sharded(config.json):注意力输入按序列维分片,配合长视频 token;
  • activation_checkpointing.mode: selective(config.json):选择性激活检查点,只对fmha(融合注意力)等算子重算,省显存又不太牺牲速度;
  • correct_cp_gradients: false(config.json):上下文并行关闭时此项自然无效;
  • max_num_tokens_after_packing: 74000(config.json):样本打包后单序列 token 上限,直接决定单卡显存峰值。

✅ 结论:这是一套"4 卡 FSDP + FP32 主权重 + BF16 梯度"的经典稳健配方——分片降显存,FP32 保精度,BF16 提速度。

五、FP8 量化参数清单:开关到底开没开?

🔍 这是新手最容易误读的一块。quantization块(config.json)虽然字段齐全,但:

参数值含义
methodnull未启用任何量化方法(如 modelopt FP8)
fp8_granularityper_row若启用 FP8,采用按行缩放粒度
exclude_regex/include_regex[]无量化范围过滤
modelopt_fp8_checkpoint_pathnull无 FP8 检查点
mixed_precision_reasoner_policyhigh_precision推理时 reasoner 走高精度策略
mixed_precision_first_steps/last_steps0首尾混合精度过渡步数为 0

一句话总结:本导出未做 FP8 量化,全程 BF16(与顶层dtype: bfloat16、precision: bfloat16相互印证)。per_row等字段只是框架预留的开关,方便你后续一键启用 FP8 推理。

六、LoRA 参数清单:微调配置为什么是"关闭"状态

LoRA 相关 4 个参数非常简洁(config.json):

参数值含义
lora_enabledfalse当前导出未使用 LoRA,是全参数微调后的完整权重
lora_rank16若启用,低秩矩阵秩为 16
lora_alpha32缩放系数 32(有效缩放 = alpha/rank = 2.0)
lora_target_modulesq/k/v/o_proj_moe_gen只注入生成专家(MoT 的 gen 分支)注意力投影层

两个细节值得品味:

  1. 目标模块全部带_moe_gen后缀——MoT 架构中"理解(und)"与"生成(gen)"是两套并行参数,LoRA 只动生成分支,理解能力不被扰动;
  2. rank 16 / alpha 32 是社区常见稳健比例,即使以后想在此基础上继续 LoRA 微调,这套超参可直接沿用。

另外 checkpoint.json 的experiment_overrides揭示了训练时的三个关键动作:关闭预训练权重加载(diffusion expert 与 VLM 预训练)、禁用对象存储、以及use_ema_weights: true——导出的 7 个分片是 EMA 平滑权重,比原始检查点更稳。

七、其余高频参数速查表

参数值一句话解释
action_gentrue启用动作生成(这是 VLA 模型,不只生成视频)
vision_gentrue启用视频/图像生成
sound_genfalse声音生成关闭
max_action_dim64动作向量最大维度 64(机器人关节/末端位姿)
state_ch/state_t48/300机器人状态通道 48 维、最多 300 时间步
num_embodiment_domains32最多支持 32 种具身域(domain_aware 投影器)
resolution720训练分辨率档位
base_fps24视频基准帧率 24fps
rectified_flow_inference_configunipc/ shift 1 / 1000 步推理采样器:UniPC,去噪时间步 1000
shift(训练)256→3 / 480→5 / 720→10按分辨率加噪声的 shift 档位(720p 用 10)
action_loss_weight10.0动作损失权重,动作学习被显著放大
train_time_video_distributionwaver视频时间步采样分布
input_caption_key/input_image_key/input_video_keyai_caption/images/video数据集字段映射
vlm_config.model_nameQwen/Qwen3-VL-8B-Instruct语言骨干为 Qwen3-VL-8B
tie_word_embeddingstrue(VLM 内部)词嵌入与 lm_head 共享参数,省显存

语言骨干细节见 config.json:layer_module为Qwen2MoTDecoderLayer,freeze_und: false表示理解分支也参与训练;qk_norm_for_text: true开启 QK 归一化以稳定长序列注意力。处理管线由 export_manifest.json 声明:processor 来自 Qwen3-VL-8B-Instruct,视频预处理参数(patch 16、merge 2、均值/方差 0.5)见 video_preprocessor_config.json。

八、总结:一份配置读懂四个决策

回顾全文,这份 config.json 回答了四个核心工程决策:

  1. 压缩怎么做→ Wan2.2 因果 VAE,空间 16×、时间 4×,720p 档 8 帧分块编码;
  2. 怎么并行训练→ 4 路 FSDP 分片数据并行,FP32 主权重 + BF16 梯度,选择性激活检查点;
  3. 要不要量化→ 不要:quantization.method: null,全 BF16,FP8 字段为未来预留;
  4. 要不要 LoRA→ 不要:全参数训练,LoRA 参数(rank 16 / alpha 32 / gen 分支注意力层)仅作模板保留。

配合 checkpoint.json 的 EMA 权重导出与 model.safetensors.index.json 的 15.17B 参数清单,你现在可以完整还原这个 LIBERO-10 策略模型的训练与加载全貌。🎯

  • 人工智能
  • 大模型
  • 具身智能
  • 机器人

【免费下载链接】cosmos3-nano-libero10-sdg-export-D5

项目地址:https://ai.gitcode.com/hf_mirrors/nvidia/cosmos3-nano-libero10-sdg-export-D5
点击查看免费下载

相关推荐

上一篇:FlatBuffers 白皮书深度解读:零解析、零拷贝的二进制序列化设计原理与实现
下一篇:core-js 中 ECMAScript Reflect 全面解析:模块清单、内置方法签名与多入口使用指南

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

相关新闻

钢价上涨为何反而推动自动化立体库需求?成本账背后的行业逻辑

钢价上涨为何反而推动自动化立体库需求?成本账背后的行业逻辑

一个荒诞的行情,正在悄悄改变仓储物流行业的项目决策逻辑。往年钢材报价上涨,大家第一反应是“货架又要贵了”“项目成本又失控了”;但这一轮钢铁涨价之后,我反而在几个项目交流里看到另一幕:多个原本犹豫着“先上普通…

2026/11/15 13:46:29 阅读更多 →
快速事件架构rea:从零构建可扩展的异步事件驱动框架

快速事件架构rea:从零构建可扩展的异步事件驱动框架

好几次遇到项目已经到了“接口越改越慢、业务越糊越乱”的阶段,我才开始认真思考整套系统内部应该用什么方式协作。于是有了标题里这个很短的代号 rea,它后面全称是 Rapid Event Architecture,也就是快速事件架构。我最初只想做一套轻量的事件…

2026/11/9 19:47:04 阅读更多 →
响应式架构实战:从rea概念到实时数据处理系统搭建

响应式架构实战:从rea概念到实时数据处理系统搭建

1. 从“rea”这个标题说起:一个被低估的缩写背后藏着什么第一次看到“rea”这个标题的时候,我脑子里蹦出来的第一反应是——这大概率又是一个被缩写玩坏的项目名。做技术的人都有个习惯,喜欢把长名字砍成三四个字母,图省事、图好记…

2026/11/8 19:24:47 阅读更多 →

最新新闻

Electron桌面应用开发实战:从环境搭建到打包发布全流程

Electron桌面应用开发实战:从环境搭建到打包发布全流程

做前端这些年,我大部分时间都在跟浏览器标签页打交道,直到第一次把桌面应用跑起来,才发现原来自己一直被限制在地址栏和刷新按钮围起来的框框里。Electron这个词,最开始是在某段时间频繁出现在同事的讨论里,一个用HTML…

2026/11/15 5:13:35 阅读更多 →
滑盖智能锁T109深度解析:结构原理、安装调试与故障排查

滑盖智能锁T109深度解析:结构原理、安装调试与故障排查

简介:亚太天能T109滑盖智能锁产品说明书是一份PDF格式的官方技术文档,主要面向智能锁安装人员、终端用户及售后维护者,帮助快速掌握产品安装、配置与常见故障处理。全包仅1个PDF文件,大小4.37MB,内容结构清晰&#xff…

2026/11/15 5:13:35 阅读更多 →
PMSM弱磁控制原理与Simulink建模:高速AGV驱动系统设计指南

PMSM弱磁控制原理与Simulink建模:高速AGV驱动系统设计指南

上个月我在调试一台高速AGV的驱动系统,整车要求空载跑到8m/s,电机转速已经拉到额定点,驱动器的输出电压也顶到了母线电压极限附近。再往上踩速度指令,转速纹丝不动,三相电流反而开始震荡。那会儿我的第一反应就是&…

2026/11/15 5:13:35 阅读更多 →
C++核心知识点:从内存管理到STL的实战指南

C++核心知识点:从内存管理到STL的实战指南

C 这门语言我前前后后折腾了十几年,用它写过嵌入式驱动、做过游戏服务端,也搭过基础组件库。每次看到新人一头扎进"C 核心知识点"这个搜索词,我其实挺感慨的——这门语言的难点从来不是语法多,而是知识点之间的耦合太深…

2026/11/15 3:37:41 阅读更多 →
T109滑盖智能锁怎么装?安装调试与故障排查全攻略

T109滑盖智能锁怎么装?安装调试与故障排查全攻略

简介:亚太天能T109滑盖智能锁产品说明书以PDF格式发布,适合智能锁用户、安装人员与售后维修人员阅读。内容围绕T109系列指纹密码刷卡锁展开,先介绍前面板、后面板、锁体、机械钥匙、电池盒盖等部件名称与功能,再给出完整安装步骤&…

2026/11/15 4:18:38 阅读更多 →
LLM知识降熵:从信息垄断到理解权下放

LLM知识降熵:从信息垄断到理解权下放

你有没有过这种经历:翻开源码注释、论文摘要或者一份专业报告,每个字都认识,连在一起却像天书。想找人聊聊,身边要么没人懂,要么懂的懒得跟你解释。后来我试着把同一段内容丢给一个大语言模型,几秒钟之后&a…

2026/11/15 5:13:35 阅读更多 →

日新闻

周新闻

月新闻