把ltx-2.5-mlx的62.4GB显存占用砍掉35%:DiT驱逐与文本编码器int8量化双技详解
人工智能基础模型大模型媒体生成本地部署视频【免费下载链接】ltx-2.5-mlx项目地址https://ai.gitcode.com/hf_mirrors/mlx-community/ltx-2.5-mlx点击查看免费下载ltx-2.5-mlx是 Lightricks 22B 音视频联合生成模型LTX-2.5的 MLX 格式转换版专为 Apple Silicon 打造支持文生视频、图生视频与音画联合生成。但它默认配置的峰值内存占用高达62.4 GB直接把不少 Mac 用户挡在门外。好消息是官方实测出两个几乎零损失的显存优化手段——DiT 驱逐eviction与文本编码器 int8 量化最高可以把 62.4 GB 的占用直接砍掉 35%。这篇文章用最直白的方式把这两个优化的原理、实测数字和注意事项一次讲清楚。一、为什么默认要 62.4 GB先看懂三大内存大头 LTX-2.5 采用按组件拆分split components的权重布局各组件文件与规模如下数据来自 README.md权重文件角色参数量备注transformer-distilled.safetensors蒸馏版联合音画 DiT8 步固定、CFG122B生成主力transformer-dev.safetensors完整版dev联合音画 DiT22B二选一使用gemma4-12b-ltx-v1/Lightricks 调优的 Gemma-4-unified 文本编码器12B显存大头vae_encoder.safetensors / vae_decoder.safetensors视频 VAE编码/解码726M—vae_diffusion_decoder.safetensorsDiffVAE 一步 x0 视频解码器417M—audio_vae.safetensors / vocoder.safetensors音频 VAE BigVGAN v2 BWE182M—connector.safetensors文本嵌入连接器 聚合投影——spatial_upscaler_x2_v1_1.safetensors×2 空间 latent 上采样器498M—temporal_upscaler_x2_v1_0.safetensors×2 时间 latent 上采样器131M—duration_head.safetensors提示词→时长预测头1.9M—内存结构的关键事实在 128 GB Apple Silicon 统一内存上实测448×320×9 帧、bf16DiT 本体bf16 下常驻约37.98 GB是硬性地板文本编码器才是惊喜gemma4-12b-ltx-v1/是未量化的bf16 12B磁盘 23.8 GB、常驻约24.4 GB——比 LTX-2.3 时代 4-bit Gemma-3约 7 GB大了三倍多照搬 2.3 的经验会严重低估 2.5 的占用默认调度下文本编码器与 DiT同时驻留峰值即62.40 GB。⚠️ 模型为 48 层音视频联合 DiTconfig.json 中num_layers: 48、model_type: AudioVideo音频/视频双路注意力并行这是它比纯视频模型更吃内存的根源之一。二、技巧一DiT 驱逐——不花钱的调度的魔法 效果一览来源README.md 内存小节调度方式峰值占用默认文本编码器与 DiT 共驻62.40 GB编码阶段前后将 DiT 驱逐40.66 GB一次调度改动直接−21.74 GB−34.8%这就是标题里砍掉 35%的来源。为什么 DiT 驱逐是免费午餐生成流程里文本编码和扩散去噪是两个不重叠的阶段编码阶段文本编码器gemma4-12b-ltx-v1 连接器connector.safetensors工作此时 DiT 完全用不到去噪阶段DiT 迭代 8 步蒸馏版生成 latent此时文本编码器已完成使命。DiT 驱逐就是在阶段切换的间隙把 22B 的 DiT 从内存中卸载、需要时再载入。它本质是调度优化不是精度妥协✅ 输出逐位一致bit-identical✅ 耗时只在运行间噪声范围内波动✅ Swift 消费端ltx-2-mlx-swift默认开启。换句话说如果你的运行框架支持该选项优先开它无任何代价。三、技巧二文本编码器 int8 量化——再省 10 GB肉眼不可辨 ️DiT 驱逐解决了 34.8%剩下的空间从 24.4 GB 的 bf16 文本编码器身上挤。推荐配方官方实测数值保真档int8 量化group size 64embed_tokens保持 bf16 不量化原因见下文避坑编码器常驻24.42 GB → 14.20 GB端到端峰值62.40 GB → 52.18 GB。质量到底损失了多少官方给了两组数据结论是可忽略指标数值含义有效 token 余弦相似度int8 vs 参考0.999820高于 bf16 基线下限 0.999879 的容忍带属数值保真盲测 A/B6 对样本操作者盲评3 平局、2:1、全部非常接近感知中立而int4 被明确拒绝同一指标只有0.996728。README 还特别提醒市面上一些第三方 MLX 包直接附带 4-bit 版本编码器且无任何公开质量数据自建量化时请勿盲目跟进。⚠️ 自己动手量化时两个必踩的坑默认命令会把embed_tokens也量化掉。mlx_lm.convert -q的默认行为如此而embed_tokens既是 hidden state 00也是全部 48 层的输入必须排除mixed_*配方更差该编码器启用tie_word_embeddings: true见 gemma4-12b-ltx-v1/config.json 第 130 行混合配方会把嵌入表压到 3 bit质量进一步劣化。 本仓库不发布量化版权重量化配方在消费端仓库ltx-2-mlx的ltx-2.5分支中需要自行执行转换。四、双技叠加优化路线怎么选两个杠杆可以叠加README 原文Two levers, and they stack方案峰值占用相对默认质量影响默认共驻62.40 GB—基线仅 DiT 驱逐40.66 GB−34.8%输出逐位一致仅文本编码器 int852.18 GB−16.4%数值保真、感知中立驱逐 int8 叠加可进一步压低—两者叠加选型建议内存 ≥ 64 GB默认配置直接跑或用蒸馏版 transformer-distilled.safetensors8 步、CFG1流程更短内存 48~56 GB先确认调度端已启用 DiT 驱逐40.66 GB 即可跑通 448×320 级别分辨率需要更大分辨率时再叠加 int8追求极限容量驱逐 int8 全上并关注下方第四节的可选解码器。五、附赠低内存机型的解码器替换 PrunaVAED 如果你的瓶颈在解码阶段例如 24 GB 档位的 M5 ProREADME 提供了一个可选的剪枝蒸馏解码器 vae_decoder_pruna.safetensorsPrunaAI PrunaVAED 的 MLX 转换版解码约快 2×解码激活峰值显著下降实测 704×512×121 档位下峰值21.1 → 14.5 GB把超预算换页的运行拉回预算内Swift 端可用环境变量LTX_VAE_DECODERpruna或LTX2Configuration.vaeDecoderPath启用代价是解码结果近但不逐位属可接受范围。更多细节见 README.md 对应小节。六、快速上手一条命令跑起来 拉取消费端仓库权重即本仓库mlx-community/ltx-2.5-mlxgit clone -b ltx-2.5 https://gitcode.com/hf_mirrors/mlx-community/ltx-2.5-mlx # 消费端 ltx-2-mlx 需另行 clone 后 uv sync生成一条 768×512、121 帧的蒸馏版视频uv run ltx-2-mlx generate \ --model mlx-community/ltx-2.5-mlx \ --distilled \ --prompt a red fox standing in deep snow, closeup wildlife photography, golden hour \ -H 512 -W 768 -f 121 --frame-rate 24 -o fox.mp4完整用法与 Swift API 示例见 README.md Usage 小节。七、文件资料与延伸阅读 资料路径项目总览组件表、内存数据、量化配方要点README.md内存实测两技详解README.md#L91-L117流水线 transformer 配置config.json、embedded_config.json文本编码器配置48 层、tied embeddings 证据gemma4-12b-ltx-v1/config.json许可证与可接受使用政策快照LICENSE.md、ltx-acceptable-use-policy-snapshot-2026-08-12.pdf⚖️使用提醒权重为 LTX-2.5 衍生模型遵循LTX-2.x Community License。年营收 ≥ 1000 万美元的商业实体使用前须向 Lightricks 购买授权机器生成内容需按许可附件 A 披露。使用即接受条款详情读 LICENSE.md。总结面对 ltx-2.5-mlx 的 62.4 GB 峰值占用——先开DiT 驱逐−34.8%零质量损失、Swift 端默认开启再按需做文本编码器 int8 量化group 64、保留 bf16embed_tokens端到端 52.18 GB、感知中立。两步叠加多数 Apple Silicon 机型都能把这条 22B 音视频生成流水线真正跑起来。赞分享人工智能基础模型大模型媒体生成本地部署视频【免费下载链接】ltx-2.5-mlx项目地址https://ai.gitcode.com/hf_mirrors/mlx-community/ltx-2.5-mlx点击查看免费下载相关推荐如何在64GB Mac上流畅运行LTX-2.5文生视频ltx-2.5-mlx-ditq8的int8量化显存减半完全指南如何在64GB Mac上流畅运行LTX 2.5文生视频ltx 2.5 mlx ditq8的int8量化显存减半完全指南 想在 64GB 统一内存的 Mac 上8GB 显存玩家的极限LTX-2.5 的 INT8 量化 低显存模式实测清单8GB 显存玩家的极限LTX 2.5 的 INT8 量化 低显存模式实测清单 220 亿参数、一次前向就要吃掉几十 GB 权重的扩散 Transforme大模型媒体生成视频音频多模态为什么Qwen-Image-2.1-FP8能把显存砍半FP8/INT8量化原理与LPIPS质量损失详解为什么Qwen Image 2.1 FP8能把显存砍半FP8/INT8量化原理与LPIPS质量损失详解 Qwen Image 2.1 FP8 是 Unslot人工智能大模型基础模型媒体生成模型量化Qwen创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

相关新闻

Win7 x64 SP1中简优化终极版:系统镜像封装全流程解析

Win7 x64 SP1中简优化终极版:系统镜像封装全流程解析

看到标题里那串数字,常年折腾系统的人应该会心一笑:7601.28117,Win7 x64 SP1。这个版本号放在今天来看,几乎就是一套老系统的毕业照。从XP时代一路折腾过来,我做系统镜像也有些年头了,这次借这版“中简优化…

2026/10/18 8:09:11 阅读更多 →
无人机SAR雷达成像仿真:从回波生成到回投影算法BPA的完整Matlab实现与避坑指南

无人机SAR雷达成像仿真:从回波生成到回投影算法BPA的完整Matlab实现与避坑指南

这阵子做了一套无人机平台的雷达成像仿真,核心是合成孔径(SAR)成像和时域回投影算法(Back Projection Algorithm,BPA),配套了完整的Matlab源码和一份成像分析报告。整个链路跑下来最大的感受就是…

2026/10/18 8:09:11 阅读更多 →
电商库存防超卖全链路方案:从数据库锁到Redis+Lua原子扣减

电商库存防超卖全链路方案:从数据库锁到Redis+Lua原子扣减

做电商后端这些年,库存这块的坑我几乎都踩过一遍。最典型的就是大促期间商品详情页明明显示"仅剩3件",用户下单、支付都成功了,过两个小时却收到一条"库存不足,订单已取消"的短信,客服电话直接被打…

2026/10/18 8:09:11 阅读更多 →

最新新闻

400G多模光纤:为何8通道50G比4通道100G更早落地

400G多模光纤:为何8通道50G比4通道100G更早落地

简介:IEEE Std 802.3cm-2020 是 IEEE 发布的以太网修订标准,聚焦多模光纤上 400Gb/s 的物理层与管理参数,面向光通信工程师、数据中心网络架构师及 400G 光模块研发人员。标准新增 Clause 150,定义了 400GBASE-SR8 与 400GBASE-SR…

2026/10/18 10:36:45 阅读更多 →
400G多模光纤标准解析:SR8与SR4.2的物理层设计差异与工程实践

400G多模光纤标准解析:SR8与SR4.2的物理层设计差异与工程实践

简介:IEEE Std 802.3cm-2020 是 IEEE 发布的以太网修订标准,聚焦多模光纤上 400Gb/s 的物理层与管理参数,面向光通信工程师、数据中心网络架构师及 400G 光模块研发人员。标准新增 Clause 150,定义了 400GBASE-SR8 与 400GBASE-SR…

2026/10/18 10:36:45 阅读更多 →
Linux Socket 编程实战:从可编译实例到多连接服务

Linux Socket 编程实战:从可编译实例到多连接服务

简介:这份资源面向Linux网络编程初学者与需要夯实Socket基础的开发者,系统梳理了Socket通信的核心原理与常用接口。内容从网络中进程如何唯一标识讲起,说明IP地址、协议与端口三元组的作用,并解释Socket作为特殊文件的设计思想&am…

2026/10/18 10:36:45 阅读更多 →
微信小程序远程在线诊疗系统:基于SSM的完整设计与实现

微信小程序远程在线诊疗系统:基于SSM的完整设计与实现

简介:面向高校毕业设计场景的微信小程序远程在线诊疗系统完整项目,后端采用Java SSM框架与MySQL数据库,前端为微信开发者工具构建的小程序,并辅以Vue相关后台管理界面。系统内设管理员、用户、医生三类角色,覆盖科室信…

2026/10/18 10:36:45 阅读更多 →
勇士传说横版卷轴游戏:C#动作游戏源码解析与毕业设计实战

勇士传说横版卷轴游戏:C#动作游戏源码解析与毕业设计实战

简介:这份资源是基于C#开发的「勇士传说」横版卷轴游戏完整源码,面向计算机相关专业做毕业设计的学生,以及希望入门Unity 2D游戏开发的学习者。项目以经典横版卷轴玩法为核心,涵盖角色动画、碰撞检测、地图设计、敌人AI与用户输入…

2026/10/18 10:36:45 阅读更多 →
零基础参与开源Python项目:从Fork到首个PR的完整实战指南

零基础参与开源Python项目:从Fork到首个PR的完整实战指南

1. 先搞清楚开源贡献这件事,远不止写代码很多刚接触开源Python项目的人,以为“做贡献”就等于“提PR改源码”。我最初也是这样想的,甚至一度觉得,自己没写出过有设计感的代码,就不配去动别人的仓库。直到后来真正参与进…

2026/10/18 10:35:45 阅读更多 →

日新闻

基于GMM的语音识别系统原理与MATLAB实现详解

基于GMM的语音识别系统原理与MATLAB实现详解

说到基于高斯混合模型(GMM)的语音识别系统,很多人第一反应就是一堆数学公式,觉得门槛很高。但如果你真的在MATLAB里把它落地跑通,会发现核心其实就是三件事:把声音变成特征向量,用GMM给每个类别…

2026/10/18 0:00:55 阅读更多 →
数字图像处理入门:反白、灰度化、调色板修改与导出txt实践

数字图像处理入门:反白、灰度化、调色板修改与导出txt实践

数字图像处理这四个字听起来挺唬人,但落到具体操作上,无非就是让计算机按你的想法“摆弄”像素。我在一个模拟项目X里用了一套特别经典的基础处理流程:对图像做反白、改调色板、彩色转灰度,最后把像素数据导出成txt文件。单看每一…

2026/10/18 0:00:55 阅读更多 →
机器人大脑技术盘点:具身智能的感知、决策与数据闭环

机器人大脑技术盘点:具身智能的感知、决策与数据闭环

如果你的信息流最近也天天刷到“机器人大脑”这个词,你会发现一个很有意思的现象:每个人说的“大脑”根本不是同一个东西。有人指的是大语言模型,有人指的是运动控制系统,还有人指的是能理解物理世界的端到端模型。在2026年这个时…

2026/10/18 0:00:55 阅读更多 →

周新闻

基于GMM的语音识别系统原理与MATLAB实现详解

基于GMM的语音识别系统原理与MATLAB实现详解

说到基于高斯混合模型(GMM)的语音识别系统,很多人第一反应就是一堆数学公式,觉得门槛很高。但如果你真的在MATLAB里把它落地跑通,会发现核心其实就是三件事:把声音变成特征向量,用GMM给每个类别…

2026/10/18 0:00:55 阅读更多 →
数字图像处理入门:反白、灰度化、调色板修改与导出txt实践

数字图像处理入门:反白、灰度化、调色板修改与导出txt实践

数字图像处理这四个字听起来挺唬人,但落到具体操作上,无非就是让计算机按你的想法“摆弄”像素。我在一个模拟项目X里用了一套特别经典的基础处理流程:对图像做反白、改调色板、彩色转灰度,最后把像素数据导出成txt文件。单看每一…

2026/10/18 0:00:55 阅读更多 →
机器人大脑技术盘点:具身智能的感知、决策与数据闭环

机器人大脑技术盘点:具身智能的感知、决策与数据闭环

如果你的信息流最近也天天刷到“机器人大脑”这个词,你会发现一个很有意思的现象:每个人说的“大脑”根本不是同一个东西。有人指的是大语言模型,有人指的是运动控制系统,还有人指的是能理解物理世界的端到端模型。在2026年这个时…

2026/10/18 0:00:55 阅读更多 →

月新闻

我发现了一个新思路:用 Remotion + Claude Code 像写代码一样自动化生成短视频

我发现了一个新思路:用 Remotion + Claude Code 像写代码一样自动化生成短视频

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/18 0:55:02 阅读更多 →
Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式:TaoToken 统一 Key 配置与验证

Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式:TaoToken 统一 Key 配置与验证

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/17 17:22:31 阅读更多 →
黑夜航拍船只数据集训练YOLOV5模型全流程解析

黑夜航拍船只数据集训练YOLOV5模型全流程解析

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

2026/10/16 14:23:36 阅读更多 →