【ubuntu24.04】 nvidia-smi监控GPU 利用率
查看 GPU 利用率最常用的工具是 nvidia-smi。
使用 nvidia-smi
在终端中，只需输入以下命令：
nvidia-smi
运行后，你会看到一个表格，其中包含了你的 NVIDIA GPU 的实时状态信息。
你需要关注以下几列：
- GPU-Util：这是 GPU 核心的利用率，表示 GPU 正在进行计算的繁忙程度。这个值是百分比形式，通常用于评估 GPU 在运行任务时的性能负载。
- Memory-Usage：显示显存（GPU 内存）的使用情况，格式为
已用 / 总量。这对于判断任务是否因显存不足而失败非常关键。
示例输出：
+-----------------------------------------------------------------------------+
| NVIDIA-SMI 535.183.01 Driver Version: 535.183.01 CUDA Version: 12.2 |
|-------------------------------+----------------------+----------------------+
| GPU Name Persisten