人工智能基础模型深度学习生物信息学科学计算【免费下载链接】alphafold3AlphaFold 3 inference pipeline.项目地址https://gitcode.com/gh_mirrors/alp/alphafold3点击查看免费下载导读AlphaFold 3 的推理管线分为数据管线遗传序列搜索与模板搜索纯 CPU与模型推理特征化 扩散模型前向传播依赖 GPU两大阶段两者的性能瓶颈、硬件需求与调优手段完全不同。本文以仓库 docs/performance.md 为核心结合 run_alphafold.py、docker/Dockerfile 与模型配置源码系统讲解如何通过磁盘提速、CPU 并行、分阶段运行、编译桶compilation buckets、pair_transition_shard_spec分片、Flash Attention 选择与环境变量调优让 AlphaFold 3 在单卡 A100/H100 上以高吞吐运行并掌握在 40 GB 显存 A100、V100、P100 等受限硬件上完成折叠的配置方案。整体性能画像数据管线与模型推理数据管线Data Pipeline的耗时因素数据管线负责遗传序列搜索Jackhmmer / Nhmmer与模板搜索其运行时间会因以下因素产生显著波动输入规模链数量、序列长度直接影响搜索量同源序列数量找到的同源序列越多MSA 构建越耗时可用硬件其中磁盘速度对遗传搜索的影响尤为突出因为 HMMER 工具需要反复读取大型序列数据库文件。因此文档给出的性能改进建议依次是提升磁盘速度例如借助 RAM-backed 文件系统如 tmpfs存放数据库增加可用 CPU 核数并加强并行化为深 MSA 预留足够内存序列具有深度 MSA 时Jackhmmer 或 Nhmmer 可能需要远超推荐 64 GB RAM的内存部署时需按输入规模评估内存上限。仓库在 src/alphafold3/data/pipeline.py 中为 Jackhmmer 与 Nhmmer 分别提供了jackhmmer_n_cpu与nhmmer_n_cpu配置项默认均为 8并在 run_alphafold.py 中暴露为命令行 flag默认取min(cpu_count, 8)且注释明确指出超过 8 核几乎不会再带来额外加速可作为 CPU 资源分配的直接依据。模型推理的基准定位文档指出AlphaFold 3 论文Nature表 8给出的 inference timing 基于16 张 40 GB 的 NVIDIA A100而本仓库支持在单张 80 GB NVIDIA A100上以面向高吞吐优化的配置运行。下表使用 GPU 秒数即 16 卡场景乘以 16对比两种配置的免编译compile-free推理耗时Num Tokens1 A100 80 GB (GPU secs)16 A100 40 GB (GPU secs)Improvement1024623525.7×204827511364.1×307270320162.9×4096143436482.5×5120254755522.2×从源码看单卡高吞吐的支撑点包括默认使用 Triton Flash Attentionsrc/alphafold3/model/model_config.py 中flash_attention_implementation tritonrun_alphafold.py 提供--flash_attention_implementation切换、bfloat16 精度与编译桶机制。这些内容将在下文逐一展开。分阶段运行管线解耦 CPU 数据管线与 GPU 推理run_alphafold.py支持分阶段执行用以优化资源利用典型收益场景成本/资源优化把纯 CPU 的数据管线与需要 GPU 的模型推理拆分到不同机器或不同时段执行MSA/模板结果复用缓存数据管线产物带 MSA 与模板的增强 JSON供**不同 seed 或不同特征变体如更换配体**的多次推理复用避免重复搜索。入口脚本在 run_alphafold.py 定义了--run_data_pipeline与--run_inference两个开关默认均为 True并限制两者不能同时为 False。仅运行数据管线--norun_inferencepython3 run_alphafold.py \ --json_path input.json \ --output_dir output/ \ --norun_inference该阶段只生成 MSA 与模板不做特征化和模型推理但在运行时长、CPU 与内存开销上可能相当昂贵。产物是已用 MSA 和模板增强的 JSON 文件对应源码write_fold_input_json写出的*_data.json可直接作为后续推理阶段的输入。仅运行特征化与模型推理--norun_data_pipelinepython3 run_alphafold.py \ --json_path augmented.json \ --output_dir output/ \ --norun_data_pipeline该阶段跳过数据管线只做特征化与推理要求输入 JSON 已包含预计算的 MSA 和模板。特征化环节由 src/alphafold3/data/featurisation.py 的validate_fold_input严格校验蛋白链必须携带 unpaired MSA、paired MSA 与 TemplatesRNA 链必须携带 unpaired MSA缺失即抛错——这与文档的必须包含预计算 MSA/模板要求一一对应。加速器硬件要求与实测对照官方支持的两种配置仓库官方支持并经过数值精度与吞吐效率全面测试的配置为1 张 NVIDIA A10080 GB1 张 NVIDIA H10080 GB两种配置下的免编译推理耗时对比如下Num Tokens1 A100 80 GB (seconds)1 H100 80 GB (seconds)102462342048275144307270336740961434774512025471416H100 相比 A100 在各 token 规模上约快 1.8 倍。需注意这些是免编译compile-free的纯推理耗时首次运行仍会包含模型编译开销见编译桶与JAX 持久化编译缓存两节。其他硬件配置NVIDIA A10040 GB上限 4,352 tokens单张 40 GB A100 可处理至多 4,352 tokens的输入需要两项配置修改启用 unified memory见下文环境变量小节调整pair_transition_shard_spec位于 src/alphafold3/model/model_config.py默认值为((2048, None), (None, 1024))改为pair_transition_shard_spec: Sequence[_Shape2DType] ( (2048, None), (3072, 1024), (None, 512), )该配置条目的格式为(num_tokens_upper_bound, shard_size)shard_sizeNone表示无上限。结合 src/alphafold3/model/network/modules.py 中get_shard_size的实现按顺序匹配首个满足上界的分片规格与 modules.py 中sharded_apply的应用逐条解读如下(2048, None)序列不超过 2,048 tokens 时不进行分片(3072, 1024)序列不超过 3,072 tokens 时按 1,024 的块大小分片(None, 512)其余更长的序列统一按 512 的块大小分片。分片作用于 Evoformer 与 Diffusion Transformer 中的 pair transition 块TransitionBlock通过对 pair 表示按残基维度切块计算来降低瞬时显存峰值。该配置数值上依然精确但由于可用显存更小吞吐会低于 80 GB A100 的方案。NVIDIA V100CUDA Capability 7.xCUDA Capability 7.x 设备存在已知数值问题需设置环境变量XLA_FLAGS包含--xla_disable_hlo_passescustom-kernel-fusion-rewriter。设置后配合 unified memory单张 V100 可处理至多 1,280 tokens。此外run_alphafold.py 在启动推理时会主动校验7.x 卡上若XLA_FLAGS缺少该 flag或--flash_attention_implementation未设为xla会直接抛错终止避免数值错误静默发生。NVIDIA P100单张 P100 可处理至多 1,024 tokens且无需任何配置修改。同理入口脚本要求 GPU compute capability 不低于 6.0。其他设备未在其他设备上执行大规模数值测试但从实现上推断其数值结果是准确的不过对 7.x 设备的已知数值问题与对应的XLA_FLAGS规避手段仍然适用。编译桶Compilation Buckets机制XLA 编译模型的开销显著AlphaFold 3 通过编译桶避免过度重编译即用单个模型编译覆盖一段输入规模区间。特征化时系统为输入选择能容纳它的最小桶并填充padding至该桶的 token 数若后续输入落在同一桶内则可复用之前的编译结果。桶数量的配置存在权衡桶越多 → 重编译次数越多但 padding 越少桶越少则反之。默认桶与超桶输入默认最大桶为5,120 tokens定义于 run_alphafold.py 的--buckets默认值序列为256,512,768,1024,1280,1536,2048,2560,3072,3584,4096,4608,5120。处理超过最大桶的输入会触发为该输入尺寸新建桶并重编译模型——对应 src/alphafold3/model/pipeline/pipeline.py 中calculate_bucket_size的行为当num_tokens超过最大桶时打印 warning并直接返回输入自身的 token 数作为新桶。此时应通过--buckets追加更大的桶尺寸。文档给出的示例假设三个输入 token 数分别为5132, 5280, 5342使用默认桶会触发三次独立编译每个尺寸各一次改为传入--buckets 256,512,768,1024,1280,1536,2048,2560,3072,3584,4096,4608,5120,5376三个输入都会落到 5,376 桶模型只编译一次。文档特别注明对该示例而言--buckets 5376已足够给出多桶示例是为覆盖更广泛的输入规模分布。桶的边界约束源码要求桶列表必须严格递增calculate_bucket_size会校验prev curr否则抛ValueError若输入 token 数超过最大桶且未自定义更大的桶系统仍会以输入实际尺寸建新桶运行但会伴随一次重编译。环境变量与附加 Flag 调优XLA 编译时间规避默认开启为规避已知的、会大幅拉长编译时间的 XLA 问题必须设置以下环境变量docker/Dockerfile 已默认设置ENV XLA_FLAGS--xla_gpu_enable_triton_gemmfalse即禁用 Triton GEMM。注意该设置与 7.x 卡的规避 flag互斥二者只能取其一。CUDA Capability 7.x 显卡对所有 7.x GPU如 V100XLA_FLAGS必须改为包含--xla_disable_hlo_passescustom-kernel-fusion-rewriter由于此类 GPU 不支持 Triton GEMM 内核无需也不应同时禁用 Triton GEMMENV XLA_FLAGS--xla_disable_hlo_passescustom-kernel-fusion-rewriterGPU 内存预分配A100/H100 80 GB 默认配置以下环境变量docker/Dockerfile 默认设置支撑在单张 80 GB A100 或 H100上折叠至多 5,120 tokens的单个输入ENV XLA_PYTHON_CLIENT_PREALLOCATEtrue ENV XLA_CLIENT_MEM_FRACTION0.95PREALLOCATEtrue让 JAX 启动时预占显存MEM_FRACTION0.95允许使用 95% 的设备显存从而把最大可用显存留给模型。Unified Memory突破 5,120 tokens / 小显存 GPU若需处理超过 5,120 tokens 的输入或在显存更小的 GPU如 40 GB A100上运行推荐启用 unified memory。其原理是当显存不足时将 GPU 内存换出到主机内存避免 OOM代价是访问主机内存比设备内存慢程序变慢。启用方式ENV XLA_PYTHON_CLIENT_PREALLOCATEfalse ENV TF_FORCE_UNIFIED_MEMORYtrue ENV XLA_CLIENT_MEM_FRACTION3.2注意此配置与上文的 80 GB 默认配置互斥应按显存规格选用。XLA_CLIENT_MEM_FRACTION3.2表示允许 JAX 申请超过物理显存的内存比例配合 TF_FORCE_UNIFIED_MEMORY 交由 unified memory 兜底。Flash Attention 实现选择run_alphafold.py 提供--flash_attention_implementation可选triton、cudnn、xlatriton默认最快测试最充分需 Ampere 及更新架构含 A100/H100cudnncuDNN 实现的 Flash Attention同样需 Ampere 及以上xlaXLA 注意力实现无 Flash Attention跨设备可移植也是 7.x 卡的唯一选择入口脚本会强制校验。JAX 持久化编译缓存为避免多次运行间的模型重复编译可在 run_alphafold.py 中使用--jax_compilation_cache_dir指定缓存目录python3 run_alphafold.py \ --json_path input.json \ --output_dir output/ \ --jax_compilation_cache_dir /path/to/cache入口脚本在main开头将其写入jax.config.update(jax_compilation_cache_dir, ...)run_alphafold.py。若要使用非本地文件系统如 GCS作为缓存需额外安装etils默认 Docker 容器未包含。其他值得关注的推理参数除性能专项配置外run_alphafold.py 中还有几个直接影响推理开销的参数组合使用时需一并评估--num_recycles默认 10扩散前 Trunk 重循环次数越大越耗时--num_diffusion_samples默认 5每 seed 生成的扩散样本数线性放大推理成本--num_seeds批量生成连续 seed便于复用数据管线结果做多次采样--gpu_device多卡系统上将每次运行固定到指定 GPU--save_embeddings输出 Trunk 的 single/pair embeddings会额外写盘--conformer_max_iterationsRDKit 构象搜索迭代上限影响配体相关输入的特征化时长。实践建议汇总优先提升磁盘与 CPU数据库放 RAM-backed 文件系统CPU 核数按需分配Jackhmmer/Nhmmer 超过 8 核收益有限大输入先跑数据管线用--norun_inference产出增强 JSON 并缓存再对多个 seed/配体变体用--norun_data_pipeline复用按 token 规模配桶常规输入使用默认桶接近或超过 5,120 tokens 时用--buckets补齐更大的桶减少重编译次数按显存选配置80 GB 卡用默认PREALLOCATEtrueMEM_FRACTION0.9540 GB A100 或超 5,120 tokens 改用 unified memory 三件套并按文档调整pair_transition_shard_spec7.x 卡务必设XLA_FLAGS并搭配--flash_attention_implementation xla入口脚本会校验未设置将无法启动推理持久化编译缓存高频推理场景开启--jax_compilation_cache_dir跨机器共享时另装etils。以上所有配置均以本仓库 docs/performance.md、run_alphafold.py、docker/Dockerfile 及 src/alphafold3/model/model_config.py 为准性能数值为文档所载的官方测试结果实际收益请结合自身输入规模与硬件实测。赞分享人工智能基础模型深度学习生物信息学科学计算【免费下载链接】alphafold3AlphaFold 3 inference pipeline.项目地址https://gitcode.com/gh_mirrors/alp/alphafold3点击查看免费下载相关推荐如何用ComfyUI-MimicMotionWrapper实现专业级AI动作迁移新手5分钟完全指南如何用ComfyUI MimicMotionWrapper实现专业级AI动作迁移新手5分钟完全指南 想要让普通人拥有专业舞者的优美动作吗想为视频角色赋予流畅人工智能媒体生成大模型计算机视觉AlphaFold 3分布式训练终极指南多GPU配置与性能优化全解析AlphaFold 3分布式训练终极指南多GPU配置与性能优化全解析 AlphaFold 3作为蛋白质结构预测领域的革命性技术在生物医药研究和药物开发中发挥人工智能基础模型深度学习生物信息学科学计算AlphaFold 3终极性能优化指南XLA编译与硬件加速实战AlphaFold 3终极性能优化指南XLA编译与硬件加速实战 AlphaFold 3作为革命性的蛋白质结构预测工具在科学研究和药物发现领域发挥着重要作用。人工智能基础模型深度学习生物信息学科学计算上一篇NextTrace防火墙配置指南确保路由追踪正常工作的设置下一篇如何在Obsidian中实现可视化思维一个插件让图表与笔记无缝融合创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考