GPU镜像怎么选？PyTorch、CUDA环境配置需要注意什么
选 GPU 镜像的关键是确认宿主机驱动满足镜像内 CUDA 运行时或框架二进制包的最低要求，并确认框架、Python 版本和所需扩展兼容；能用预装好的官方镜像就不自己配环境，需要定制时再做自定义镜像。
一、GPU镜像是什么？为什么选错会跑不起来
GPU 镜像是一种打包好的容器运行环境，里面通常包含操作系统、CUDA Toolkit、Python、深度学习框架（如 PyTorch、TensorFlow）、cuDNN 以及相关依赖。在云平台上创建 GPU 实例时，镜像决定了容器启动后你拿到的是一个"空系统"还是"装好 PyTorch 就能跑"的环境。
选镜像之所以重要，是因为深度学习任务对版本组合很敏感：镜像中的框架二进制包或实际运行的 CUDA Runtime 需要满足宿主机驱动的兼容要求；同时还要确认 Python、PyTorch、cuDNN 和所需扩展的版本组合可用。一旦版本对不上，常见的表现是 import torch 报错、框架调用不了 GPU，或者某些算子跑不起来。不同镜像和安装方式的依赖关系并不完全相同。
二、PyTorch、CUDA、cuDNN、驱动之间是什么关系
可以把 NVIDIA 驱动理解为宿主机与 GPU 交互的基础；CUDA Runtime/Toolkit、cuDNN 与 PyTorch 等框架则构成应用侧的软件组合。具体依赖方式取决于镜像和安装方式，并不总是严格的单向分层——例如通过 pip 安装的 PyTorch 二进制包，可能自带或拉取所需的 CUDA 运行时组件，未必直接使用镜像或宿主机里完整安装的 CUDA Toolkit。
NVIDIA 驱动与 CUDA Toolkit 之间有明确的兼容规则。根据 NVIDIA 官方 CUDA 兼容性文档，较新的驱动可以运行用较旧 CUDA Toolkit 编译的应用程序（向后兼容）；从 CUDA 11 开始，同一主版本族内较新的 CUDA Toolkit 可以在满足最低驱动要求的旧驱动上运行，但部分功能可能受限。每个 CUDA 版本都有最低驱动要求，例如 CUDA 12.x 在 Linux x86_64 上至少需要 525.60.13 版本的驱动。跨主版本（比如系统驱动支持的 CUDA 驱动版本为 12.x，却要运行用 CUDA 13 Toolkit 编译的应用）通常需要前向兼容包，而且前向兼容主要用于数据中心 GPU。
cuDNN 是 NVIDIA 提供的深度学习加速库，负责卷积、矩阵乘法、注意力等计算密集型操作的加速，PyTorch、TensorFlow 等框架都依赖它。cuDNN 与 CUDA Toolkit 有绑定关系：根据 cuDNN 官方支持矩阵，cuDNN 9.16.0 的 CUDA 12.x 版本兼容 CUDA 12.x 系列的子版本，包括其发布后的后续 CUDA 12.x 版本（具体以 NVIDIA 官方支持矩阵为准）。
PyTorch 与 CUDA、cuDNN 的对应关系 在 PyTorch 官方的发布说明中逐版本列出。以已发布的 PyTorch 2.12 为例，官方提供 CUDA 12.6、13.0 和 13.2 对应构建，其中 CUDA 13.0 为稳定构建，CUDA 13.2 为实验性构建，CUDA 12.6 为保留的 legacy 构建；具体可用组合应以 PyTorch 当前发布页为准。也就是说，选镜像时要先确认你要用的 PyTorch 版本支持哪个 CUDA，再倒推镜像里的 CUDA 版本。
三、选GPU镜像看哪几点
第一，看 CUDA 版本是否匹配你的框架和模型。先确定任务用哪个 PyTorch 版本，再查这个版本官方支持哪些 CUDA，选镜像时让镜像里的 CUDA 落在支持范围内。如果模型依赖特定算子（比如较新架构上的 FlashAttention），还要确认 CUDA 版本是否够新。
第二，看驱动和 cuDNN 是否满足。需要实际运行的 CUDA Runtime 或框架二进制包，不能超出宿主机驱动支持范围。在云平台上，驱动由平台提供，你无法自行升级，因此要选与平台驱动兼容的镜像；不确定时以平台实际驱动版本为准。注意，nvidia-smi 显示的是驱动支持的最高 CUDA 版本，并不等同于镜像内已安装的 CUDA Toolkit 版本。cuDNN 一般跟着镜像走，确认它是与该 CUDA 配套的版本即可。
第三，看是否预装你要的框架和版本。官方镜像通常会标注 CUDA、PyTorch、TensorFlow 的版本；如果任务对框架小版本敏感（比如某个库要求 PyTorch 2.x 以上），要核对镜像里的版本号，而不是只看"带 PyTorch"。
第四，看是否带 SSH 和 Jupyter。SSH 和 Jupyter 是否可用，还取决于镜像内服务、平台的端口暴露与访问方式。若希望通过 SSH 或 Jupyter 直接使用容器，应确认镜像和平台均支持相应服务。优先选已内置 SSH、Jupyter 的镜像，可以省去自己配置的麻烦。
四、官方镜像和自定义镜像怎么选
官方镜像（如 PyTorch 官方镜像、NVIDIA NGC 容器）的优势是版本组合明确、可复现：NGC 的 PyTorch 容器发布说明里会列出 CUDA、PyTorch、TensorRT 等组件的具体版本。它适合快速验证环境、跑通训练流程，以及需要官方推荐组合的场景。
自定义镜像适合在官方镜像基础上加装业务依赖、特定模型或私有工具链。代价是你需要自己维护版本兼容，并且要保留对底层 CUDA、cuDNN、框架版本的记录，否则后续排查兼容问题会很麻烦。一个常见误区是：在自定义镜像里随手升级某个库，导致它与现有 PyTorch、Python 版本，或已编译的 C++/CUDA 扩展不兼容，进而出现导入或运行错误。
简单判断：第一次跑、验证可行性，用官方镜像；环境稳定后需要固化业务依赖，再做自定义镜像。
五、在立方云上怎么选镜像
立方云在创建 GPU 容器时，可在"实例镜像"区域选择官方镜像或我的镜像。根据立方云官方文档，建议优先选择已包含 CUDA、Python、深度学习框架、SSH 和 Jupyter 环境的镜像；如果要用 Jupyter，就要选带 Jupyter 的镜像。具体可选的镜像清单和版本以控制台实际展示为准。
如果官方镜像满足不了需求，立方云镜像管理支持把本地或第三方仓库的镜像推送到平台仓库，后续创建容器时选用。根据立方云镜像管理文档，自定义镜像里必须包含 sshd 服务并配置开机自启，否则创建后可能因 SSH 初始化失败而连不上。镜像存储按容量计费（文档示例单价为 0.000600 元/GB/小时，不足 1GB 按 1GB 计，实际以控制台和账单为准），不再使用的镜像建议及时删除以释放空间。
本文首发于立方云技术博客。立方云是网鼎科技旗下专注 GPU 算力租赁的边缘算力服务平台，提供裸金属与容器实例服务。如需了解当前可用镜像与创建流程，可前往 lifangyun.com 查看。
六、常见问题
1. 镜像里的CUDA版本和宿主机驱动不匹配会怎样？
轻则部分功能不可用，重则容器启动后报 CUDA 错误、框架无法调用 GPU。根据 NVIDIA 兼容性文档，较新驱动通常能兼容较旧 CUDA Toolkit，但反过来（旧驱动跑新 CUDA）一般不行，跨主版本还需要前向兼容包。在云平台选镜像时，应确认实际运行的 CUDA Runtime 或框架二进制包不超出平台驱动支持范围；nvidia-smi 显示的是驱动支持的最高 CUDA 版本，不等同于镜像内安装的 Toolkit 版本。
2. PyTorch官方镜像和NVIDIA NGC镜像有什么区别？
PyTorch 官方 Docker 镜像会在镜像标签中标注 PyTorch、CUDA、cuDNN 等版本；如果是在现有环境中通过 pip 安装 PyTorch，则可通过 --index-url 选择 cu126、cu130 等对应的 wheel 构建。NGC 的 PyTorch 容器会提供经 NVIDIA 验证的组件组合，部分版本还会包含 TensorRT、DALI 等组件，具体内容应以对应版本的 Release Notes 为准，适合需要完整 NVIDIA 软件栈的场景。两者都以官方发布说明为准。
3. 自己做的镜像能直接传到云平台用吗？
立方云支持通过镜像管理把本地镜像推送到平台仓库，创建容器时选用。推送前需确认镜像内已安装并启动 sshd 服务（开机自启），否则创建后可能连不上。具体命令和限制以立方云镜像管理文档和控制台为准。
4. 镜像选错了，创建后能换吗？
立方云容器文档未提供创建后更换镜像的操作，通常需要删除原实例重新创建。重新创建前请将数据备份到已确认会保留的数据盘或外部存储；不要仅因文件位于 /workspace 就假定重建实例后一定保留。以控制台实际功能为准。
5. 怎么查看镜像里的CUDA和PyTorch版本？
进入容器后运行 nvidia-smi 可查看驱动版本和驱动支持的最高 CUDA 版本（不代表镜像内已安装 CUDA Toolkit）；运行 python -c "import torch; print(torch.__version__, torch.version.cuda)" 可查看 PyTorch 版本及其编译时对应的 CUDA 版本。如需查看镜像内 CUDA Toolkit（若已安装）的版本，可运行 nvcc --version；若未安装 nvcc，则说明该镜像未必包含完整 Toolkit。