【ubuntu】安装NVIDIA Container Toolkit
目录
安装NVIDIA Container Toolkit
安装依赖
添加密钥和仓库
配置中国科技大学(USTC) 镜像 APT 源
更新 APT 包列表
安装 NVIDIA Container Toolkit
验证安装
重启docker
起容器示例命令
【问题】如何在docker中正确使用GPU?
安装NVIDIA Container Toolkit
安装依赖
sudo apt-get updatesudo apt-get install -y curl
添加密钥和仓库
curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey | sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg
配置中国科技大学(USTC) 镜像 APT 源
curl -s -L https://mirrors.ustc.edu.cn/libnvidia-container/stable/deb/nvidia-container-toolkit.list | \sed 's#deb https://nvidia.github.io#deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg] https://mirrors.ustc.edu.cn#g' | \sudo tee /etc/apt/sources.list.d/nvidia-container-toolkit.list
更新 APT 包列表
sudo apt-get update
安装 NVIDIA Container Toolkit
sudo apt-get install -y nvidia-container-toolkit
验证安装
nvidia-container-cli --version
重启docker
sudo systemctl restart docker
起容器示例命令
#创建docker网络docker network create rag-networkdocker run -it --network rag-network -e CUDA_VISIBLE_DEVICES=0 --gpus all --name test test_img:1.0.0 /bin/bash
【问题】如何在docker中正确使用GPU?
【问题】如何在docker中正确使用GPU?-CSDN博客
至此,本文的内容就结束了。