人工智能大模型基础模型媒体生成模型量化【免费下载链接】LLaDA-Image-FP8项目地址https://ai.gitcode.com/hf_mirrors/inclusionAI/LLaDA-Image-FP8点击查看免费下载LLaDA-Image-FP8 是 inclusionAI 推出的 6B 参数开源统一图像生成与编辑模型单模型同时支持文生图生成与指令式图像编辑并通过 FP8 量化显著降低显存占用在 Qwen-Image-Bench 基准上拿下 SOTA 成绩英文 53.53 分、中文 53.38 分。本文将带你从模型亮点、仓库结构到快速上手完整了解这款模型家族。一、为什么能登顶 SOTA5 大亮点速览根据官方 README.md 中的 Highlights 部分LLaDA-Image 的核心竞争力可以归纳为 5 点统一生成与编辑单一 checkpoint 同时支持文生图生成和保留参考图内容 按指令修改的编辑能力无需额外的编辑专用骨干网络统一扩散框架文本骨干backbone与扩散 TransformerDiT都是扩散模型在统一框架下训练真实感生成画面细节丰富、光线自然、构图连贯写实风格尤为突出纯图像预训练先通过 image-only 预训练和中训练建立视觉先验再引入语言监督与生成-编辑联合训练蒸馏加速LLaDA-Image-Turbo 采用 Twin-DMD 蒸馏仅 2~4 步采样即可完成快速生成与编辑下图是官方在 Qwen-Image-Bench 上的评测对比LLaDA-Image 在英文与中文两个榜单上均取得最高总分二、模型家族Base 与 Turbo 怎么选LLaDA-Image 目前发布了两个版本对应不同的使用场景见 README.md 的 Model Zoo模型定位推荐采样步数适合场景LLaDA-Image (Base)高保真文生图 指令式编辑50 步追求最佳画质LLaDA-Image-Turbo蒸馏加速版4 步快速出图、批量生成两个版本都提供BF16和FP8两种精度你正在看的这个仓库就是 Base 模型的 FP8 量化版本。对显存有限的用户来说FP8 版本是更实际的选择。三、FP8 是什么为什么对普通用户很重要FP8 是一种 8 位浮点量化格式相比 BF16模型权重的显存占用大约减半推理速度通常也有提升。这个仓库对两大核心模块都做了精细化 FP8 量化扩散 Transformer采用float8_e4m3fn格式、128×128 分块对称量化激活值在运行时动态量化无需校准数据集。详见 transformer/config.json 中的quantization_config与 transformer/quantization_manifest.json文本编码器MoE 结构对全部 MoE 专家权重gate_proj/up_proj/down_proj按 expert 做 2D 分块量化原始权重约 17.3GB。详见 text_encoder/quantization_manifest.json从权重文件也能直观看到压缩效果transformer 拆分为 4 个分片如transformer/diffusion_pytorch_model-00001-of-00004.safetensorstext_encoder 拆分为 9 个分片如text_encoder/model-00001-of-00009.safetensors并配有 model.safetensors.index.json 索引文件。 简单理解FP8 用一半的空间装下同样的模型让你在中端显卡上也能跑得动 6B 级图像生成模型。四、仓库结构速览每个子文件夹负责什么整个推理 pipeline 由 model_index.json 统一编排各子目录分工如下目录角色说明text_encoder/文本理解骨干LLaDA2 MoE 语言模型负责理解中英文提示词附带自定义建模代码 modeling_llada2uni_moe.py 与融合 MoE 算子 fused_moe_ops.pytransformer/扩散主干DiT30 层、30 头、3840 维的扩散 Transformer核心生成器配置见 transformer/config.jsonvae/变分自编码器负责像素与潜变量之间的编解码128 通道输入32 通道 × 2×2 patchsigvq/VQ 语义嵌入模块将 VQ 图像 token 编码为扩散可用的语义特征queryformer/查询解码器配合 SigVQ 使用的轻量解码网络text_projection/文本特征投影将文本编码器输出投影到扩散模型的表示空间scheduler/采样调度器FlowMatchEulerDiscreteSchedulerscheduler_config.json 控制采样行为tokenizer/分词器标准 HuggingFace 分词器配置想深入推理代码逻辑可以直接看 README.md 中给出的 pipeline 用法它是理解整个数据流的最佳入口。五、快速上手5 分钟跑出第一张图1️⃣ 准备环境官方在 Python 3.11 PyTorch 2.8 Transformers 4.57.6 Diffusers 0.39.0 下验证过README.mdgit clone https://gitcode.com/hf_mirrors/inclusionAI/LLaDA-Image-FP8 cd LLaDA-Image-FP82️⃣ 加载 pipelinepipeline 会在首次使用时自动下载模型权重FP8 版本仓库路径为inclusionAI/LLaDA-Image-FP8。3️⃣ 最小可运行代码Base50 步pipe LLaDAImagePipeline.from_pretrained(inclusionAI/LLaDA-Image-FP8, torch_dtypetorch.bfloat16, devicecuda) image pipe(promptA cinematic photograph of a red fox in fresh snow, generation_modetext, height1024, width1024, num_inference_steps50, guidance_scale5.0).images[0] image.save(first.png)如果想用 Turbo 版快速出图把模型换成inclusionAI/LLaDA-Image-Turbo-FP8并把num_inference_steps改为4、guidance_scale改为1.0即可参考 README.md。六、三种生成模式文生图、VQ 模式、指令式编辑1️⃣ text 模式标准文生图generation_modetext直接根据提示词生成图像中英文提示词都可以支持中英文文字渲染海报、标语类文字生成效果出色2️⃣ vq 模式VQ 条件生成generation_modevq先用 LLaDA2 从提示词生成 VQ 图像 token再经 SigVQ 编码进入扩散过程可获得更强的语义一致性。注意该模式下不要传入输入图像README.md。3️⃣ editing 模式指令式图像编辑generation_modeediting并传入image参数即可在保留原图内容的基础上按指令修改例如把这张照片变成水彩画风格七、常用参数与实用小贴士参数建议值说明num_inference_stepsBase 用 50 / Turbo 用 4步数越多细节越好速度越慢guidance_scaleBase 用 5.0 / Turbo 用 1.0少步推理时请调低height/width1024生成模式需能被 16 整除编辑模式需能被 32 整除stochastic_sampling可选falseTurbo 推理时在 scheduler_config.json 中尝试设为false部分场景细节更锐利generator固定随机种子便于复现实验结果写在最后LLaDA-Image-FP8 的看点在于统一与开放一个 6B 模型同时搞定生成和编辑训练配方与推理代码完全开源Apache-2.0 协议FP8 版本让普通显存的用户也能跑起 SOTA 级图像生成。官方表示训练代码即将开源值得持续关注。 延伸阅读完整使用说明请查阅 README.md模型论文可参考 arXiv:2609.03796。赞分享人工智能大模型基础模型媒体生成模型量化【免费下载链接】LLaDA-Image-FP8项目地址https://ai.gitcode.com/hf_mirrors/inclusionAI/LLaDA-Image-FP8点击查看免费下载相关推荐LLaDA-Image与顶级图像模型对比评测Qwen-Image-Bench SOTA 53.53分数深度解读LLaDA Image与顶级图像模型对比评测Qwen Image Bench SOTA 53.53分数深度解读 LLaDA Image 是 inclusion人工智能大模型基础模型媒体生成模型量化Qwen-Image-2.1 完整入门指南7B参数统一文生图与图像编辑模型一文读懂Qwen Image 2.1 完整入门指南7B参数统一文生图与图像编辑模型一文读懂 Qwen Image 2.1 是 Qwen 家族开源的 统一文生图与图像编人工智能大模型媒体生成多模态stable-diffusion.cpp 中的 LLaDA-Image6B 文生图与指令编辑模型完整部署指南stable diffusion.cpp 中的 LLaDA Image6B 文生图与指令编辑模型完整部署指南 LLaDA Image 是 inclusionA人工智能大模型本地部署推理引擎媒体生成创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考