说实话在conda虚拟环境里配置cuda、cudnn和pytorch这套深度学习环境我已经被同一块石头绊倒过无数次了。每次帮别人排查环境问题十有八九都是卡在版本对不上、装错位置、或者压根没搞清楚cuda和pytorch之间的对应关系上。这东西真不是靠死记硬背命令就能配好的你得先明白它们之间是怎么协同工作的再动手就不会慌。这篇文章就是写给准备从零配置深度学习环境的新手也适合被各种报错搞到心态爆炸的老哥。我会把这套流程拆开揉碎讲清为什么这么做再把每一步命令和验证方法都给你安排上。按照这个流程走在conda虚拟环境里装好cuda、cudnn和pytorch基本一次能过。1. 为什么非要用conda虚拟环境来装深度学习环境先说你可能会遇到的场景你打开一个开源项目它的依赖是pytorch 1.13 cuda 11.7另一个项目要pytorch 2.1 cuda 12.1。如果你全装进系统环境这两个项目大概率会互相打架——不是torch版本冲突就是numpy、protobuf这些底层库被另一个项目覆盖最后只能靠不停重装环境来续命。1.1 系统环境里直接装库的三大痛点第一个痛点是依赖冲突。深度学习生态里的库之间依赖关系极其脆弱torch版本升级可能导致numpy API不兼容tensorflow和pytorch共存时protobuf版本经常互踩。第二个痛点是权限问题。直接在系统Python里pip install往往需要sudo权限装完系统Python目录里一片混乱想卸载又怕误删别的包。第三个痛点是环境隔离缺失。你没法按项目精确锁定版本今天调通的项目明天装个新库可能就崩了。1.2 conda虚拟环境到底是怎么“隔离”的conda虚拟环境本质上就是在你硬盘上创建一个独立的目录里面装着属于这个环境的一套Python解释器、库文件和可执行程序。当你执行conda activate时conda只是修改了当前终端的PATH环境变量把环境目录的bin文件夹放到最前面。这样你在终端敲python、pip时系统优先找的就是这个环境目录里的版本而不是全局的那个。这个机制的关键优势在于环境之间完全独立删掉某个环境只需要删掉对应目录不碰其他任何东西。相比Python自带的virtualenvconda还能管理Python解释器本身甚至可以指定任意Python版本。比如conda create -n pytorch python3.9会自动下载一个3.9的Python解释器到环境目录里完全不依赖系统自带的Python版本。1.3 conda对cuda/cudnn这类底层库的特殊意义这一点很多人没意识到conda不仅能管理Python包还能管理非Python的底层二进制库。cudatoolkit和cudnn在conda里就是以库文件形式出现的它们会被安装到环境的lib/目录里。这意味着你可以在不同conda环境里各装一套不同版本的cuda库这个环境用cuda 11.7那个环境用cuda 12.1互不干扰。这在传统做法里是不可思议的。以前你要在系统层面装cuda装完就全局生效想切换版本得改一堆PATH和软链接。conda把这一切变成了环境内的文件依赖这也是为什么它能大幅降低深度学习的入门门槛。2. 动手前先看清三件事显卡、驱动和conda本身的准备2.1 先用nvidia-smi确认显卡驱动状态在开始配环境之前第一件事是确认你的NVIDIA显卡驱动正常。终端敲这一行命令nvidia-smi输出内容里你会看到两块关键信息右上角的Driver Version是驱动版本右上角CUDA Version是当前驱动支持的最高CUDA版本。注意这个CUDA Version不是说你已经装好了cuda它只表示驱动能支持到哪个版本。比如显示CUDA Version: 12.4说明你的驱动可以搭配任何≤12.4的cuda版本使用。如果你的PyTorch要求cuda 11.8那完全没问题。如果你的驱动版本太老顶多支持到cuda 11.0那就得先更新驱动否则后面可能识别不到GPU。2.2 驱动CUDA和运行时CUDA的区别新手最容易搞混的点这是新手最常踩的坑。nvidia-smi显示的CUDA Version是驱动层面的最大支持版本而实际你编译、运行程序时用的是运行时CUDA也就是你安装的CUDA Toolkit或者在conda里装的cudatoolkit。举个例子你的驱动显示CUDA Version: 12.4但你在conda环境里装的PyTorch对应的是cuda 11.8这时nvidia-smi照样显示12.4你的PyTorch也能正常用。驱动是向下兼容的cuda 11.8的运行时在12.4的驱动上没问题。所以别被nvidia-smi的显示迷惑了。判断你这个环境到底用的哪个cuda版本要在conda环境里看nvcc --version或者python -c import torch; print(torch.version.cuda)这些反映的才是实际运行时版本。2.3 安装Miniconda与换源如果你还没装conda我建议装Miniconda而不是Anaconda。Anaconda预装了一堆你用不到的包体积巨大启动还慢。Miniconda只带conda本身和Python其他包你按需自己装。安装流程很简单去官网下载对应系统的安装脚本或者用命令行下载。装完以后有一步很重要换源。不换源的话conda和pip下载包的速度会让人崩溃。所谓换源就是把包下载地址从官方服务器换成国内镜像服务器这样可以显著提升下载速度。conda换源是在用户目录下创建或修改~/.condarc文件channels: - defaults show_channel_urls: true default_channels: - https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main - https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/r - https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/msys2 custom_channels: conda-forge: https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud pytorch: https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud保存后执行conda clean -i清除索引缓存再conda create -n test python3.9试试看速度。pip也要设置镜像通常执行这两条命令即可pip config set global.index-url https://pypi.tuna.tsinghua.edu.cn/simple设置好之后后续所有安装过程都会顺畅很多。3. 创建conda虚拟环境并选对PyTorch安装命令3.1 创建虚拟环境并确定Python版本假设我们要建一个名为dl的深度学习环境Python版本先选3.9。为什么不用最新的3.12因为pytorch等深度学习库对最新Python版本的支持往往滞后几个月很多第三方扩展库甚至在新版本Python上直接无法编译。3.9或者3.10是目前兼容性最稳的选择。conda create -n dl python3.9 -y conda activate dl激活成功后你会在终端看到(dl)前缀这就是进入虚拟环境的标志。之后所有操作都在这个环境里不会污染其他环境。在Pycharm里面使用该环境时需要在解释器设置里找到对应conda环境的Python路径。一般点开Pycharm的设置 - Project - Python Interpreter选择Conda Environment然后在Conda executable处填Miniconda安装目录下的conda命令路径它会自动识别已存在的环境供你选择。3.2 看懂PyTorch官网的安装选择器进入PyTorch官网首页往下拉就能看到Install PyTorch的选项区。你需要选择你的系统、包管理器pip还是conda、以及CUDA版本。官网会给你生成对应的安装命令比如pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118这里的cu118代表CUDA 11.8对应的PyTorch预编译版本。同理cu121代表CUDA 12.1。你要做的事很简单先看你的显卡驱动最高支持到什么CUDA版本用nvidia-smi查看然后选择不超过这个版本的那个cu版本。注意现在官方主推pip安装方式因为PyTorch官方优先发布pip包conda渠道的包可能会有延迟而且版本更新慢。但这不是说你不能从conda装。后面我会讲这两种方式的关键区别。3.3 conda装和pip装PyTorch到底有什么区别这里需要重点讲清楚因为选错了方向你可能在后面浪费大量时间。用pip安装PyTorch时装的是官方预编译好的wheel包里面只包含torch、torchvision、torchaudio这三个Python库。它不包含cuda运行时库和cudnn。所以用pip方式前你需要确认系统里或conda环境里有对应的cuda和cudnn库否则虽然能import torch但torch.cuda.is_available()会返回False等于装了个CPU版。而用conda安装PyTorch时例如conda install pytorch torchvision torchaudio cudatoolkit11.8 -c pytorchconda会自动把cudatoolkit和cudnn作为依赖一起装进当前环境里。你不需要手动去NVIDIA官网下载任何东西。这对于新手来说是最省事的方式。我的建议是如果你不想折腾直接用conda方式安装。如果你想要最新的PyTorch版本或者需要特定cu版本就用pip方式同时另装一个cudatoolkit来满足依赖。4. CUDA和cuDNN到底要不要单独装4.1 大部分PyTorch场景不需要单独装有一种流传很广的说法装PyTorch前必须去NVIDIA官网装好CUDA Toolkit和cuDNN。这个说法在很大一部分场景下是过时的。如果你只是用PyTorch训练模型、推理不搞源码级扩展那通过conda安装时自动带上的cudatoolkit和cudnn完全够用。PyTorch项目底层是自己编译过的CUDA代码片段它只依赖libcudart和libcudnn这两个运行时库并不依赖完整的CUDA Toolkit开发套件。只要相关库文件存在它就能正常工作。4.2 必须单独装完整版CUDA的场景但有一类场景必须在系统层面安装完整版CUDA Toolkit你需要编译CUDA扩展代码。比如你在搞自定义的C/CUDA算子或者编译一些需要nvcc编译器的第三方库。我之前就栽过一次跑一个光流估计的项目仓库要求必须本地编译一个CUDA extension结果编译时报错找不到nvcc。一查才发现我只有conda环境里的运行时cudatoolkit并没有开发版的CUDA Toolkit里面不包含编译器。这种情况就只能去NVIDIA官网下载对应版本的CUDA Toolkit安装了。另外如果你的工作流涉及TensorFlow、JAX等同样依赖CUDA的框架或者需要多个CUDA版本共存测试那单独安装较为合理。4.3 单独安装cuda和cudnn的标准流程如果你需要先说多版本共存怎么处理。NVIDIA官网下载的CUDA Toolkit安装包默认安装到/usr/local/cuda-11.8这种带版本号的目录然后软链接/usr/local/cuda指向其中一个。这样你想切换版本时只要改下环境变量即可。举个例子先用nvcc --version查看当前cuda版本如果是11.8但你还需要12.1就再装一个到不同目录然后通过修改PATH和LD_LIBRARY_PATH来切换。安装比较常用的方式是采用.run文件安装wget https://developer.download.nvidia.com/compute/cuda/11.8.0/local_installers/cuda_11.8.0_520.61.05_linux.run sudo sh cuda_11.8.0_520.61.05_linux.run安装过程中有一步会问你是否要安装驱动这里务必取消只保留CUDA Toolkit部分避免把现有驱动搞挂。装完之后设置环境变量在你自己的~/.bashrc里追加export PATH/usr/local/cuda-11.8/bin:$PATH export LD_LIBRARY_PATH/usr/local/cuda-11.8/lib64:$LD_LIBRARY_PATHcuDNN的安装也简单先去官网下载对应cuda版本的cuDNN压缩包解压后把内容复制到CUDA目录下即可tar -xzvf cudnn-linux-x86_64-8.9.7.29_cuda11-archive.tar.xz sudo cp cudnn-linux-x86_64-8.9.7.29_cuda11-archive/lib/* /usr/local/cuda-11.8/lib64/ sudo cp cudnn-linux-x86_64-8.9.7.29_cuda11-archive/include/* /usr/local/cuda-11.8/include/4.4 gzip: stdin: invalid compressed># 查看当前环境中的cuda运行时版本 nvcc --version # 如果conda环境里没有nvcc显示的是系统cuda这就是很多人被误导的地方 python -c import torch; print(torch.__version__) python -c import torch; print(torch.version.cuda) python -c import torch; print(torch.backends.cudnn.version())这里有个技巧到底该以哪个为准当你用conda装了cudatoolkit环境里会有$CONDA_PREFIX/bin/nvcc执行which nvcc看看结果路径在哪里。如果指向/usr/local/cuda/bin/nvcc而不是conda环境目录说明你当前用的不是conda环境里的cuda编译器。但实际上PyTorch运行时用的库是import torch; print(torch.version.cuda)这个值它以PyTorch内置的库为准。查看cuDNN版本通常用Python方式查最准torch.backends.cudnn.version()会返回一个数字比如8907代表cuDNN 8.9.7。5.3 用一段代码验证GPU真的参与计算打开Python交互式终端执行如下代码import torch print(PyTorch版本:, torch.__version__) print(CUDA是否可用:, torch.cuda.is_available()) print(GPU名称:, torch.cuda.get_device_name(0)) # 构造两个GPU上的随机张量并做矩阵乘法 a torch.randn(1000, 1000).cuda() b torch.randn(1000, 1000).cuda() c torch.matmul(a, b) print(GPU矩阵乘法结果:, c.sum().item())如果在最后一步结果正常输出了一个数字说明数据确实在GPU上计算了。同时开另一个窗口运行nvidia-smi会看到你的Python进程占用了显存那就彻底放心了。6. 新手高频报错的排查思路与处理方法6.1 conda error: run conda init before conda activate这个报错几乎每个新手都会碰到一次。根源在于你的shell会话没有加载conda的初始化配置。安装Miniconda后安装程序会提示是否帮你执行conda init很多人这时候手滑跳过去了。解决方案很直接执行一次conda init bash然后重新打开一个终端。如果执行后仍然无效检查~/.bashrc里是否有conda的初始化代码块没有就手动在文件末尾加入source /path/to/miniconda3/etc/profile.d/conda.sh注意把/path/to/miniconda3替换成你的实际安装路径。另外提醒一下如果你用的是zsh而不是bash执行conda init zsh即可原理相同。6.2 装完PyTorch后发现还是CPU版本这个坑的典型表现是torch.cuda.is_available()返回False但nvidia-smi明明能看到显卡。原因通常有两个。第一个是你pip安装的包是cpu版本。打开pip安装记录看看操作说明如果安装命令里带cpu字样的索引源装的就是CPU版。解决方式很简单卸载重装去PyTorch官网复制正确版本的命令确保索引url里的cu开头且带数字。第二个是conda环境里自带的cuda库和torch里的cuda库版本不匹配。常见于你混用了pip和conda安装方式。举例来说用pip装了cu118的torch然后又用conda装了个cudatoolkit12.1导致torch加载时找不到兼容的cuda库。解决方式是把环境里所有torch相关的包卸载干净统一用同一个源重新安装。6.3 想卸载重装但环境已经烂了怎么办环境有时候会越改越烂依赖关系一团乱麻。如果实在查不出问题最干净利落的办法是直接删除环境重建耗时不多还能彻底甩掉包袱。conda deactivate conda remove -n dl --all conda create -n dl python3.9 -y然后重新按照第3章流程安装即可。这个操作我不建议在一开始就做但当你试了各种修复都没用的时候它是性价比最高的方案。6.4 环境导出与迁移下次重装不用再手动踩坑环境配置好后把依赖清单导出来存着是个好习惯。这能让你在换机器或环境崩了之后快速恢复conda env export dl_env.yaml以后恢复环境时执行conda env create -f dl_env.yaml如果你不换机器只换了目录或者想用uv这类新工具管理Python环境也可以先把pip freeze导出的requirements.txt留一份里面记录了所有pip包的精确版本号pip freeze requirements.txt pip install -r requirements.txt我从第一次配置深度学习环境到现在被各种版本不匹配的问题反复折磨过。后来养成了一个习惯每次配置环境时先想清楚“我最终要跑什么项目这个项目的PyTorch版本要求是什么我的显卡驱动支持哪个CUDA版本”然后再动手。这个过程梳理清楚之后配置环境就不再是一团乱麻而是有章可循的流水线操作。最后分享一个小技巧不要把conda的默认环境base拿来装深度学习库。哪怕只在base里装了一个torch将来你创建其他环境时base环境的依赖变动很容易引发各种莫名问题。始终坚持“每个项目建独立conda环境”这个原则你会少踩一大堆坑。