显卡、CUDA、cuDNN及PyTorch-GPU安装使用全指南

---

前言

在深度学习中，图像数据的处理和计算任务繁重，CPU因需处理的事务众多，难以满足图像处理和计算的速度要求。而GPU特别擅长处理图像数据，可协助CPU解决这一问题。

CUDA（Compute Unified Device Architecture）是显卡厂商NVIDIA推出的运算平台，它是一种通用并行计算架构，包含CUDA指令集架构（ISA）以及GPU内部的并行计算引擎。安装CUDA后，能够加快GPU的运算和处理速度，进而更高效地解决复杂的计算问题。

---

一、显卡相关概念

1. 显卡定义
   • 显卡（Video card，Graphics card）全称显示接口卡，又称显示适配器，是计算机最基本配置、最重要的配件之一。
   • 作为电脑主机里重要组成部分，是进行数模信号转换的设备，承担输出显示图形的任务。它接在电脑主板上，将电脑数字信号转换成模拟信号让显示器显示出来。
   • 具有图像处理能力，可协助 CPU 工作，提高整体运行速度，对于专业图形设计人员很重要。
2. 显卡供应商
   • 民用和军用显卡图形芯片供应商主要包括 AMD（超微半导体）和 Nvidia（英伟达）两家。
3. 显卡在特殊领域的称呼
   • 在 top500 计算机中都包含显卡计算核心，在科学计算中，显卡被称为显示加速卡。

---

二、显存概念

显存也叫帧缓存，作用是存储显卡芯片处理过或者即将提取的渲染数据，如同计算机的内存，用来存储要处理的图形信息。

---

三、显卡、显卡驱动、CUDA 及其相互关系

1. 显卡（GPU）
   • 主流是 NVIDIA 的 GPU，因深度学习需要大量计算，其并行计算能力能满足深度学习需求，AMD 的 GPU 基本无支持，可忽略。
2. 显卡驱动
   • 没有显卡驱动，就不能识别 GPU 硬件，无法调用其计算资源，Windows 系统一般已安装驱动。
3. CUDA
   • 是显卡厂商 NVIDIA 推出的只能用于自家 GPU 的并行计算框架，安装该框架才能进行复杂的并行计算。
   • 主流深度学习框架几乎都基于 CUDA 进行 GPU 并行加速。此外，还有针对深度卷积神经网络的加速库 cudnn。
4. 显卡驱动与 CUDA 的关系
   • NVIDIA 的显卡驱动器与 CUDA 并非一一对应，CUDA 本质是工具包，可在同一设备上安装多个不同版本的 CUDA 工具包，如同时安装 CUDA 9.0、CUDA 9.2、CUDA 10.0 。一般安装适合当前电脑的 CUDA 即可。

---

四、GPU 擅长处理图像数据的原因

图像上每个像素点都需处理，且处理过程和方式相似，GPU 利用很多简单计算单元完成大量计算任务，类似人海战术。

---

五、查看自己电脑是否可以使用 GPU 加速

若要使用 GPU 加速，需安装 CUDA，而安装 CUDA 要求电脑有 NVIDIA 独立显卡，AMD 显卡不支持通过安装 CUDA 进行加速。以下是具体查看步骤：

5.1 查看电脑显卡型号

在开始菜单输入框输入“设备管理器”并打开，找到“显示适配器”并点击，从而查看电脑显卡型号，确认是否为 NVIDIA 独立显卡。

5.2 查看 GPU 显卡所支持的 CUDA 版本

1. 桌面右键打开 NVIDIA 控制面板，通过“开始菜单 -》NVIDIA 控制面板 -》帮助 -》系统信息 -》组件”
   

2. 查看 nvidia.dll 后面的 cuda 参数，此参数即为显卡支持的 CUDA 版本。例如，若显示显卡支持版本为 12.9，则可下载安装小于等于 12.9 版本的 CUDA。
   

3. 也可通过命令行查看，右键打开 cmd 命令窗口，输入“nvidia - smi”。这里显示的 CUDA Version 是当前驱动的最高支持版本，由于 CUDA 是向下兼容的，所以该最高支持版本及以下的 CUDA 版本电脑均支持。
   

---

六、下载与安装CUDA

6.1 第一步：下载CUDA安装包

• 前往官网CUDA安装包
• 前面已查看电脑GPU显卡支持的CUDA版本为 <= 12.9，点击官网红框圈起来的版本。
• 选择安装程序的版本信息。
  

6.2 第二步：运行安装包

下载完成后，双击安装包。

---

七、查看CUDA是否安装成功的步骤

7.1 第一步：查看安装版本与环境变量设置情况

• 查看安装版本：配置完系统环境变量后，按 Win + R 打开 cmd 窗口，输入命令 nvcc --version。
  

• 查看环境变量设置情况：在 cmd 窗口输入命令 set cuda。
  

7.2 第二步：验证 deviceQuery 和 bandwidthTest

• 在命令窗口运行测试文件，定位到 CUDA 安装目录下的 C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.9\extras\demo_suite 文件夹，右键选择在终端中打开或者cd文件路径打开。
  

• 分别输入 deviceQuery 和 bandwidthTest 并运行。若两个测试的结果均显示 Result=PASS，则说明验证通过；若出现 Result=Fail，则需要重新安装 CUDA。
  
  

若上述操作均无问题，则表明 CUDA 安装成功。

---

八、cuDNN 介绍

在完成 CUDA 安装后，若要学习深度学习中的神经网络，需下载安装 cuDNN（正常情况下载安装cuda之后已经自带安装好了cudnn）。它是一个常见的神经网络层加速库文件，可显著加快神经网络的运算速度。cuDNN 能对加载到显卡上的网络层数据进行优化计算，而 CUDA 是一个较为基础的加速库，主要依赖显卡运行。cuDNN 需在 CUDA 的基础上使用，可使运算在 CUDA 基础上加速 2 倍以上。

8.1 CUDA 和 cuDNN 的关系

• 形象比喻：可将 CUDA 看作一个配有多种工具（如锤子、螺丝刀等）的工作台，而 cuDNN 是基于 CUDA 的深度学习 GPU 加速库，如同工作所需的工具（如扳手）。但 CUDA 这个“工作台”在购买时并不附带“扳手”。
• 实际作用：若要在 CUDA 上运行深度神经网络，就必须安装 cuDNN，这就像拧螺帽需要购买扳手一样。安装 cuDNN 后，GPU 才能进行深度神经网络工作，且工作速度相比 CPU 快很多。
• 版本对应：cuDNN 是一个 SDK（软件开发工具包），专门用于神经网络加速。它与 CUDA 并非一一对应关系，每个版本的 CUDA 可能对应多个版本的 cuDNN，但通常有一个最新版本的 cuDNN 与 CUDA 配合使用效果更佳。

8.2 CuDNN 支持的算法

• 卷积操作：支持卷积操作的前向和后向过程。
• 相关操作：相关操作的前向和后向过程也得到支持。
• pooling 操作：支持 pooling 的前向和后向过程。
• softmax 操作：涵盖 softmax 的前向和后向过程。
• 激活函数操作：支持激活函数（如 Relu、Sigmoid、Tanh 等）的前向和后向过程。

8.3 cuDNN 下载与安装

请注意下载cuda之后自带，如无意外无需自己下载

安装步骤

1. 下载安装包

   • 访问官网 https://developer.nvidia.com/cudnn 下载 cuDNN 安装包。
     

   • 选择与已安装的 CUDA 版本对应的 cuDNN 安装包
     

2. 安装安装包
   打开安装

安装完成
完成上述步骤后，cuDNN 即安装成功。

---

九、cuda和cuDNN结合后环境变量设置

检查是否有这两条，安装完成之后默认会有，没有的话自己添加。

---

十、下载安装Pytorch-GPU-pycharm

官网下载 GPU 版本的 PyTorch

10.1 访问官网

访问 PyTorch 官方网站：https://pytorch.org/ ，并选择你电脑安装的 CUDA 版本号(低于你的版本号的最新版)。

10.2 安装命令

使用以下命令安装包含核心功能、图像处理和语言处理相关的三个包：

pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu128

• torch：PyTorch 的核心包，集成了 PyTorch 的核心功能。
• torchvision：用于图像处理的包。
• torchaudio：用于语言处理的包。

10.3 安装验证

安装完成后，在 PyCharm 中查看安装情况，应该显示带有 cu129 标识，表示安装的是 CUDA 12.9 版本的 PyTorch。

10.4 测试代码

在 PyCharm 中输入以下代码进行测试，如果输出结果为 True，则表示 GPU 版本的 PyTorch 安装成功：

import torch
print(torch.cuda.is_available())

通过以上步骤，你可以顺利安装并验证 GPU 版本的 PyTorch。

---

总结

本文围绕显卡、显存、CUDA、cuDNN及PyTorch-GPU展开全面介绍。首先阐述显卡的定义、供应商及特殊领域称呼，以及显存概念。接着说明显卡、显卡驱动、CUDA的相互关系，解释GPU擅长处理图像数据的原因。详细给出查看电脑是否可使用GPU加速的步骤，包含查看显卡型号和支持的CUDA版本。随后介绍CUDA的下载、安装及安装成功的查看方法，还介绍了cuDNN的相关信息，如与CUDA的关系、支持的算法、下载安装步骤及环境变量设置。最后讲解了下载安装Pytorch-GPU-pycharm的具体过程及验证方法。