1. 系列前情回顾与本期核心目标语义分割学习系列写到第四篇前面几篇我分别梳理了语义分割的基本概念、常见数据集的组织方式、以及几个主流分割模型的结构差异。按照正常的学习路线理论铺垫到这一步接下来就该动手了。动手的第一步就是装环境而这一步恰恰是劝退很多初学者的一道坎。针对“语义分割”这个具体方向来说环境安装有个很现实的特殊性分割模型普遍比分类模型更吃显存和算力。分类模型用几层卷积加全连接就能跑分割模型动不动就是编码器-解码器结构特征图尺寸大、上采样层多参数量和中间张量都明显更大。所以环境选型时要不要上GPU版本不是一个“随便选一个就行”的问题而是直接决定了你后续能不能把模型跑起来、跑多快、能跑多大分辨率。本篇会用完全实操的方式把CPU版本和GPU版本的PyTorch安装分别讲清楚从版本选型、安装命令、验证方法到语义分割场景下的常见坑位排查全部过一遍。适合两类人参考一类是刚入门、想先在本机上把分割模型跑通的初学者另一类是换了新机器、需要在不同硬件环境下快速重建PyTorch环境的从业者。在动手之前先把本篇的核心思路交代清楚CPU版本负责“跑通”GPU版本负责“跑快”。两种版本的核心代码完全一致区别只在底层的张量计算走的是CPU指令集还是CUDA并行计算。所以你会发现换版本时你写的模型代码一行都不用改改的只是安装命令和验证逻辑。这也是我强烈建议初学者先装CPU版本的原因——环境问题一旦和模型问题混在一起排查起来非常痛苦。2. CPU版本和GPU版本到底差在哪先想清楚再动手2.1 两者的本质区别不是“快慢”差距而是“计算路径”差距很多初学者有个误解觉得CPU版本的PyTorch就是GPU版本的“低配阉割版”功能少、性能差。实际上两者在API层是完全一致的唯一区别在于底层张量运算的执行引擎。CPU版本把每个算子编译成CPU指令依赖Intel的MKL或OpenBLAS这类数学库做矩阵乘法加速GPU版本则通过CUDA把张量运算派发给显卡上的CUDA核心并行执行。拿语义分割里最常见的3x3卷积举例一个卷积层本质上是一堆乘加运算CPU版本按顺序在少数几个核心上跑GPU版本把几千个CUDA核心同时拉起来算这个并行度差距在特征图分辨率大的时候会被放大得非常夸张。语义分割模型的特征图动辄是224x224甚至512x512上采样层更多算起来比普通分类模型重好几倍。我之前在一台普通的Intel CPU笔记本上跑过一个轻量分割模型的单次前向传播一张512x512的图要将近20秒换成一张主流的中端显卡同样的输入分辨率只要几十毫秒。这个量级的差距决定了GPU版本根本不是“锦上添花”而是“跑得动”和“跑不动”的区别。2.2 版本选型的核心约束驱动、CUDA Toolkit和PyTorch三者关系GPU版本的安装之所以让人觉得绕是因为牵涉到三个层次的东西NVIDIA显卡驱动、CUDA Toolkit、PyTorch自带的CUDA运行时。很多人把这三者搞混导致装完之后明明驱动是好的PyTorch却报CUDA不可用。先理清这三层的关系。显卡驱动是操作系统层面的东西负责让系统和显卡通信它决定了你的显卡最高能用哪个CUDA版本。CUDA Toolkit是一整套开发工具包里面包含编译器、调试工具和运行时库假如你要自己编译CUDA代码就必须装它但如果只是使用PyTorch那完全可以不单独装Toolkit。原因是PyTorch的官方预编译包里已经捆绑了对应版本的CUDA运行时库也就是PyTorch自己带了一套“迷你版”的CUDA运行环境。用生活化的方式理解驱动相当于高速公路的路政决定这条路最多能承受多少吨的车CUDA Toolkit相当于全套修车工具和配件仓库PyTorch自带的CUDA运行时则是一辆已经加好油、装好配件的成型车。你只要确定“公路能承受这辆车”就能直接把车开上去不一定非得把整个配件仓库搬到现场。那么“路政”怎么判断在命令行执行nvidia-smi右上角显示的CUDA Version就是当前驱动支持的最高CUDA版本。只要这个数字不低于PyTorch构建时要求的版本就可以用。PyTorch官方预编译包对驱动版本有最低要求通常是450左右起步绝大多数近几年的驱动都满足条件所以实际安装时驱动检查反而是最省心的一步。2.3 语义分割场景下怎么选结合语义分割的具体需求我给一个很直接的选型建议目标是先跑通流程、验证代码逻辑、学习模型结构且显卡不确定或没独显直接装CPU版本省事。目标是训练真实数据集、跑推理、做结果可视化显存不低于4G果断上GPU版本。机器显存只有2G甚至更小建议先装CPU版本跑小分辨率验证同时考虑云GPU或网上免费的算力平台。需要提醒的是显存大小直接决定了你在语义分割里能用多大的输入图像和batch size。同样的DeepLabV3结构512x512输入加一个适中batch size可能就要吃掉6到8G显存。显存不够时不要硬调大输入优先降低输入分辨率或减小batch size属于后文要专门展开的话题。3. 环境准备统一用虚拟环境隔离别把PyTorch装进系统Python3.1 为什么一定要用虚拟环境很多初学者图省事直接在系统Python里pip install torch就开跑。短时间看确实快但后续很容易踩坑最典型的是Python版本和PyTorch版本不兼容的问题。PyTorch对Python版本有明确支持范围比如最新的PyTorch 2.x版本一般支持Python 3.8到3.11如果你系统里只有老旧的Python 3.6装出来的PyTorch根本没法import或用起来错误百出。更关键的是隔离需求。语义分割项目的依赖往往不止PyTorch一个还可能涉及图像处理库、可视化库、数据增强库等不同项目对同一种库的版本要求可能冲突。虚拟环境的意义就是把每个项目的依赖打包在独立空间里互不干扰。这套习惯在团队协作和换机器复现环境时尤其重要——环境本身也是项目的一部分。我用过Anaconda和纯Python的venv方案混合体验下来深度学习方向我推荐Anaconda。原因有二一是conda能管理Python版本一条命令就能创建一个指定Python版本的环境venv则必须预先装好对应版本的Python二是conda在解析一些底层库依赖时比pip更稳妥尤其涉及和CUDA相关的包时不容易出奇怪的翻译错误。3.2 创建环境的推荐操作采用Anaconda时安装完Anaconda后在终端里执行conda create -n seg python3.10 -y conda activate seg以此创建并进入一个名为seg的虚拟环境指定Python版本为3.10。这个版本是我实测下来和PyTorch兼容性最稳的版本区间既不是太老导致部分新库不支持也不是太新导致个别底层库还没有预编译包。注意如果你用的是Windows系统后面的命令要在Anaconda Prompt里执行不是系统自带的命令提示符。这是新手最容易忽略的细节弄错的话conda会提示找不到命令。创建好环境后顺便装两个后面语义分割会高频用到的依赖库pip install numpy pillow matplotlibnumpy处理数组运算pillow负责图像读写matplotlib做可视化。这三个库不属于PyTorch但属于必备配套先装好避免后面临时补。3.3 安装源的坑位提醒在国内网络环境下不配置镜像源直接pip装PyTorch下载速度堪比等快递。但你也不能直接简单地把pip的全局源改成清华源然后装PyTorch因为PyTorch的CPU和GPU版本在官方PyPI源里是同一个包名你很难只通过pip install torch精确安装到带CUDA支持的那个版本。这里的关键动作是用PyTorch官方给出的--index-url参数指定安装源而不是依赖全局pip配置。这样既可以走更快的下载路径又能精确锁定CPU或对应CUDA版本的wheel包。实际安装时直接使用官方源在部分网络环境下也可能不稳定但比混用清华源导致装错版本的代价小得多。这一点在后文CPU和GPU安装部分都会反复强调。4. CPU版本PyTorch的安装步骤与验证4.1 安装命令与版本选择逻辑进入虚拟环境后执行pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cputorch是主库torchvision是计算机视觉配套库语义分割的数据集处理、预训练权重转换经常用到torchaudio原本是音频方向用的但在PyTorch安装时通常一并装上以确保版本对齐。三个包必须保持版本一致否则会报错提示vision和audio找不到匹配的torch版本。当前最新稳定版为PyTorch 2.x系列。安装完成后可以用以下命令确认版本并检查是否真的是CPU版本python -c import torch, torchvision; print(torch.__version__, torchvision.__version__)这时候输出的版本号末尾会带cpu后缀比如2.1.2cpu。看到这个后缀说明你安装的确实是CPU版本没有误装成CUDA版。4.2 验证CPU环境可用于语义分割光能import torch还不够还要验证张量计算真的能在CPU上跑起来。执行import torch x torch.randn(10, 3, 512, 512) print(x.size()) y x.conv2d # 这里只是为了演示实际不会这么用 # 正确的验证方式执行一次真实卷积 import torch.nn as nn conv nn.Conv2d(3, 16, kernel_size3, padding1) out conv(x) print(out.size())这个验证的意图是确保卷积层在CPU上能正常前向传播。语义分割模型里最基础的单元就是卷积层如果这一步能跑通说明环境的基本计算能力没问题。接着验证更贴近语义分割场景的操作加载预训练模型并跑一次前向。以轻量分割模型为例import torch import torchvision.models.segmentation as segmentation model segmentation.fcn_resnet50(pretrainedTrue) model.eval() dummy_input torch.randn(1, 3, 512, 512) with torch.no_grad(): output model(dummy_input) print(output[out].size())在纯CPU环境下这个过程可能会比较慢但能完整跑完。这一步的意义在于它验证了“PyTorch torchvision 预训练权重”整条链路的可用性后续如果换成GPU版本这段代码一字不改就能直接提速。4.3 CPU版本的两个天然限制装好CPU版本后要心里有数它能让你跑通流程但不适合做真实训练。限制一在速度哪怕是一个很小的分割模型在CPU上训练一个epoch也要耗费比GPU多几十倍的时间限制二在内存CPU版本把中间特征图全部放在系统内存里大分辨率输入容易直接挤爆内存。所以我的建议是CPU版本作为学习阶段的环境完全够用但不要在没有GPU的情况下尝试训练一个像样的分割模型。那既浪费时间也容易让人误判模型本身的问题。先把环境跑通、把代码逻辑理清楚再上GPU做真实训练这是性价比最高的路径。5. GPU版本PyTorch的安装步骤与验证5.1 第一步先确认驱动状态安装GPU版本之前先在终端执行nvidia-smi能看到显卡信息列表说明驱动已正确安装。输出里的CUDA Version就是驱动支持的最高CUDA版本。如果提示找不到命令说明显卡驱动没装或没装好需要先解决驱动问题再继续安装PyTorch。驱动安装这块Windows用户一般到NVIDIA官网下载对应显卡型号和系统版本的最新驱动即可Linux用户则要根据发行版选择对应驱动包。这里有个很多人忽略的点驱动不一定越新越好重点是和后续选择的CUDA版本匹配。与其强行追求驱动版本最大值不如选一个稳定、满足PyTorch构建要求的版本。5.2 选定CUDA版本的核心逻辑看PyTorch官方支持列表打开PyTorch官网的安装页你会看到官方提供了几个CUDA版本的安装命令常见的有CUDA 11.8、CUDA 12.1等。这里有个容易踩的坑不要看到自己驱动支持的最高CUDA版本是12.0就去装CUDA 12.1的PyTorch包。PyTorch的预编译包是在特定CUDA版本下构建的你要做的是选一个“PyTorch官方支持且不高于你驱动支持最高版本”的CUDA版本。举例来说如果你的nvidia-smi显示驱动支持CUDA 12.0那安装PyTorch的CUDA 11.8版本就稳妥如果驱动支持CUDA 12.1或更高那么装CUDA 11.8或12.1都可以选哪个更多取决于你的其他依赖库是否和特定CUDA版本绑定。从稳的角度说CUDA 11.8是目前生态兼容性最广的版本之一很多第三方扩展库和预编译包都优先支持它。用一张表总结常见的组合驱动支持的最高CUDA版本推荐安装的PyTorch CUDA版本适用场景11.7以下不建议上GPU版先考虑换驱动或CPU版老显卡或驱动太旧11.8CUDA 11.8生态兼容最佳推荐12.0CUDA 11.8兼容性优先12.1及以上CUDA 11.8 或 12.1新驱动、新显卡可尝试12.1注意这个表只是通用参考具体以PyTorch官网安装页当时支持的版本为准。版本选择的原则不变选“PyTorch官方支持”和“驱动支持”两个集合的交集。5.3 安装命令与常见安装方式对比选定CUDA版本后执行# 以CUDA 11.8版本为例 pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118注意这里cu118是CUDA 11.8的标识。如果你用CUDA 12.1版本就把cu118换成cu121。命令逻辑很清楚--index-url指定了包含CUDA构建版wheel包的官方源确保你下载的是带CUDA支持的PyTorch而不是CPU版本。有些教程会推荐用conda直接安装GPU版PyTorchconda install pytorch torchvision torchaudio pytorch-cuda11.8 -c pytorch -c nvidia这种方式也能用但我个人在实操中更推荐pip方案原因是conda在解析PyTorch和CUDA相关依赖时经常陷入漫长的solving environment过程而且conda装出来的PyTorch有时候在版本细节上和官方wheel包有细微差异排查起来反而麻烦。pip方案直接、透明下载什么版本的包、从哪里下载都一目了然。5.4 安装后的核心验证torch.cuda.is_available()安装完GPU版本后第一件事是验证CUDA到底能不能用import torch print(torch.__version__) print(torch.cuda.is_available()) print(torch.cuda.get_device_name(0))如果torch.cuda.is_available()返回True说明PyTorch识别到了你的显卡get_device_name(0)会打印出显卡型号。如果返回False你的环境安装有问题需要到第6节的排查表里对号入座。这一步通过之后再验证一次语义分割场景下的真实计算。把之前CPU版本里的验证代码稍作修改import torch import torchvision.models.segmentation as segmentation model segmentation.fcn_resnet50(pretrainedTrue) device torch.device(cuda if torch.cuda.is_available() else cpu) model model.to(device) model.eval() dummy_input torch.randn(1, 3, 512, 512).to(device) with torch.no_grad(): output model(dummy_input) print(output[out].size())这里最关键的一行是.to(device)和.to(device)它们把模型和输入张量都搬到了显存里。很多人GPU环境装好了但代码里把模型留在CPU上跑结果速度没提升还误以为GPU版本没生效。这个坑几乎每隔一段时间都会出现一次代码层面一定不要漏。5.5 显存占用与语义分割的计算强度GPU环境验证通过后还有一个跟语义分割强相关的细节显存占用。在执行分割模型前向时可以通过一行命令实时查看显存使用情况nvidia-smi如果你同时开着训练任务会看到显存占用不断攀升这是正常的。但要注意区分两个概念nvidia-smi显示的“显存占用”不完全是PyTorch实际计算的张量占用还包括CUDA上下文本身的缓存。PyTorch为了性能会缓存显存空间所以即便你只跑了一个小模型显存占用也可能显示好几个G。这不代表你的模型真的需要这么多显存而是PyTorch预先分配了一部分缓存池。当你遇到CUDA out of memory时要区分是模型真的超了显存还是缓存池导致的问题前者需要调整模型或分辨率后者可以通过释放缓存或减小batch size解决。6. 常见安装问题速查与排查实录6.1 问题排查速查表根据我在不同类型机器上反复装环境踩过的坑整理了一份高发问题排查表现象可能原因排查与解决torch.cuda.is_available()返回False安装了CPU版本或CUDA相关库缺失先确认torch.__version__是否带cu后缀再确认驱动满足最低版本要求import torch时报DLL或so文件错误系统缺少对应运行库或CUDA与PyTorch版本不匹配Linux检查ldd输出Windows检查系统更新和显卡驱动是否最新下载速度极慢或超时网络问题官方源访问不稳定用--index-url配合国内镜像源但注意PyTorch CPU/GPU wheel需要匹配正确的源路径模型跑到一半报CUDA out of memory显存被模型或输入分辨率占满降低输入分辨率、减小batch size或在推理时用with torch.no_grad():RuntimeError: CUDA error: no kernel image is available驱动版本太低不满足PyTorch的CUDA要求升级显卡驱动或降级安装对应更低CUDA版本的PyTorchConda resolving environment卡死conda依赖解析太慢换用pip方式安装或者给conda配国内镜像源训练速度没有提升模型没有放到GPU上仍在CPU执行检查模型和输入是否有.to(device)并用torch.cuda.is_available()确认环境生效6.2 “安装了GPU版却没有实际使用GPU”的典型情况这个场景几乎每个深度学习新手都遇到过。最典型的一种装好了GPU版本的PyTorchtorch.cuda.is_available()也返回True但跑模型时速度还是很慢。一查发现问题出在代码里根本没有把模型和数据搬到GPU上。PyTorch的设计是默认在CPU上创建张量和模型你要显式调用.to(cuda)或.to(device)才能迁移到GPU执行。迁移后所有中间计算都在GPU上完成但如果你在某个环节把张量转成了numpy或通过.cpu()移回CPU后续的计算又会回到CPU上。这种情况在数据预处理阶段尤其常见很多人习惯把图像读进来、做numpy操作然后再转成tensor这个链路里只要中间落回过CPU就会导致处理速度整体上不去。解决办法是养成一个习惯模型、输入张量、标注张量统一走device变量不要写死成cuda这样代码在CPU和GPU环境之间切换时不用改动。我在代码里通常这样写device torch.device(cuda if torch.cuda.is_available() else cpu)然后在模型和数据上统一.to(device)。这套写法在CPU和GPU环境切换时非常干净也方便代码在不同机器上复用。6.3 镜像源使用的避坑经验国内网络环境下载PyTorch时很多人第一时间想到配清华源。但这里有个容易被忽略的细节PyTorch官方源和通用PyPI镜像源的包内容不完全一致。通用PyPI源里的torch包实际上是从官方源同步过来的但在某些镜像节点上同步有延迟可能导致你无论怎么指定--index-url都装不到想要的CPU或CUDA版本。我的实操习惯是保持本地pip的全局源用国内镜像加速普通包下载但安装PyTorch时用官方URL显式覆盖。命令末尾直接指定官方源不走全局源这样可以精确拿到对应版本的wheel包。如果你对下载速度实在不满意也可以在这种混合模式下尝试找支持PyTorch专类的国内镜像节点但务必看清路径里是否区分了cpu和cu版本否则很容易装错。7. 从环境安装到正式训练的衔接准备7.1 环境装好了下一步跑什么最合适环境安装顺利通过后很多人的第一反应是“赶紧找个分割数据集开始训练”。这个做法我不太推荐。第一次接触语义分割时建议先用一个很轻量的流程把全链路跑通加载预训练分割模型对一张输入图片做推理输出分割结果并可视化。这个流程只占几分钟时间但能把环境、模型加载、数据预处理、推理、结果可视化这五个环节全部验证一遍。之后再进入数据集准备、训练脚本编写等更复杂的环节时至少你已经能确定环境没问题后续出错可以专心排查模型或数据处理逻辑。推理可视化这一步用一句代码就能把模型输出的通道图转换成可视化分割结果。分割模型的输出是[batch, num_classes, H, W]的张量取每个像素最大响应的类别索引再映射成彩色图就能直观看到语义分割的效果。这部分我会在下一期详细展开本篇先铺好环境基础。7.2 环境的一致性和可复现性我们在团队协作或换机器复现项目时经常遇到环境不一致导致结果对不上的情况。因此我强烈建议环境装好后立刻把依赖导出保存执行pip freeze requirements.txt这样其他人在新环境里用pip install -r requirements.txt就能快速复现你的依赖环境。有一点要提pip freeze会导出所有包包括间接依赖这个文件会很长且包含一些无关紧要的包。更精确的做法是用pip freeze过滤出和深度学习直接相关的关键包或者配合虚拟环境里新建的环境做干净导出。另一个好习惯是记录PyTorch的版本和CUDA标识。比如在项目说明里写清楚“PyTorch 2.1.2cu118”比笼统写“PyTorch”对后来的人有指导意义。环境信息本身就是项目元数据的重要部分尤其深度学习项目对运行环境的敏感度极高细节能省去后面大量的排查时间。7.3 CPU环境和GPU环境的代码兼容策略前面我反复提到代码里用device变量的写法这里再展开讲讲为什么这个习惯很重要。用同样的代码在CPU和GPU之间切换对语义分割学习阶段尤其有用——完整训练前你可以在CPU上用小数据集做一次极小规模的验证确认模型能收敛、代码没有逻辑错误再切到GPU上跑全量数据。具体来说可以在脚本开头统一设置一个device变量后面所有.to()调用都用它。这样你在CPU环境排查问题时只需把device改成cpu其余代码不动就能在慢速环境下调试到了GPU环境再改回cuda或继续让代码自动检测。这套兼容策略帮我省下的时间远远超过刚开始多写的几行代码。8. 写在最后的安装体会先把驱动、CUDA、PyTorch的关系理清楚再动手装环境看起来绕路实际上是最快的路径。我自己早期装GPU版PyTorch时就是直接抄了官网一条命令装完发现torch.cuda.is_available()返回False然后开始茫茫然排查驱动、排查环境变量、重装了好几次最后才意识到问题出在install命令的CUDA版本和驱动支持范围不匹配。那次折腾之后我养成了一个习惯动手安装前先把几个关键版本的对应关系列出来确认无误再执行。你在安装过程中如果遇到任何报错先别急着全网搜答案停下来对照一下“驱动支持的CUDA版本”和“PyTorch构建所用的CUDA版本”是不是匹配八成的问题都出在这。这个判断方法比盲搜有效得多也是环境类问题里最通用的排查思路。下一篇我会顺着现在的环境基础写如何用PyTorch加载预训练分割模型、做推理并可视化结果把语义分割从“环境就绪”推进到“看得见结果”的阶段。到时候再见。