上海市虹口市容建设公司网站文件外链生成网站

---

前言

深度学习和大语言模型的部署不免会用到Linux系统，在本章中将详细介绍配置英伟达驱动、Cuda、cudnn、Conda、Pytorch、Pycharm等Python深度学习环境，为支持深度学习和大语言模型运行提供支持。

安装驱动

查看是否已经安装了驱动
通过以下命令查看是否安装好了驱动

nvidia-smi

如果没有安装驱动，会显示类似信息，我们可以看到不同的ubuntu版本有不同的驱动版本

查看系统版本

lsb_release -a

安装驱动
根据对应的版本，执行安装命令即可

sudo apt install nvidia-utils-550-server

然后重新查看一下显卡信息

nvidia-smi

显示以下信息说明驱动安装成功

下载安装Cuda

首先从官网选取合适的系统
官网地址：https://developer.nvidia.com/cuda-downloads

选好后往下拉依次执行以下命令

wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2404/x86_64/cuda-keyring_1.1-1_all.deb
sudo dpkg -i cuda-keyring_1.1-1_all.deb
sudo apt-get update
sudo apt-get -y install cuda-toolkit-12-8
sudo apt-get install -y nvidia-open
sudo apt-get install -y cuda-drivers

编辑环境变量

用以下命令打开环境变量

sudo vim ~/.bashrc

在后面添加以下信息

export PATH=/usr/local/cuda-12.8/bin${PATH:+:${PATH}}
export LD_LIBRARY_PATH=/usr/local/cuda-12.8/lib64${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}

然后用以下命令更新环境变量

source ~/.bashrc

随后执行以下命令

nvcc -V

如果执行效果如下，说明Cuda安装成功

安装Cudnn

打开官网连接选择合适的版本
官网地址：https://developer.nvidia.com/cudnn


选好后依次执行命令即可

wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2404/x86_64/cuda-keyring_1.1-1_all.deb
sudo dpkg -i cuda-keyring_1.1-1_all.deb
sudo apt-get update
sudo apt-get -y install cudnn
sudo apt-get -y install cudnn-cuda-12

如果有以下提示，可以不用管也可以执行一下，测试下来不影响使用

安装conda

从官网查看符合版本的conda
官网：https://repo.anaconda.com/archive/

下载后来到下载目录，执行以下命令（注意这里需要替换为笔者要安装的版本）

bash Anaconda3-2024.10-1-Linux-x86_64.sh

验证安装成功

执行以下命令

conda --help

如果结果如下图说明安装成功

配置conda镜像

配置官网的channel地址

conda config --add channels r 
conda config --add channels conda-forge 
conda config --add channels bioconda

查看配置镜像结果

ls -a

cat ~/.condarc

退出conda环境

由于默认会进入base环境，所以需要先脱出环境才能新创建环境，命令行左侧的（base）就是说明目前所在的环境就是base环境

conda deactivate

如果希望默认不自动进入conda环境

conda config --set auto_activate_base false

创建python环境

用以下命令创建python环境，其中llm是笔者的环境名称，python版本是3.10

conda create -y -n  llm  python=3.10

查看当前conda环境

conda info -e

可以看到除了base环境外还有新建的llm环境

激活环境

当希望使用新创建的环境时，可以用以下命令激活环境

conda activate llm

如果在命令行前出现（llm）说明激活成功

安装python包

常规的安装直接将pip install改为conda install即可，但尤其注意的是在安装时需要进入到对应的虚拟环境中。如果有些包不支持conda安装，也可以在虚拟环境下使用pip安装。

安装pytorch

pytorch就是属于不支持conda安装的情况
官网：https://pytorch.org/get-started/locally/
同样的在官网选择相对应的版本，可以看到，当选择conda时显示不支持

所以应当换成pip方式安装

通过以下代码激活虚拟环境

conda activate llm

然后安装符合版本的pytorch

pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu126

验证是否安装成功可以在命令行输入python3，然后导入torch

import torch
torch.__version__

torch.cuda.is_available()

安装pycharm

进到官网并下载软件
官网链接：https://www.jetbrains.com.cn/pycharm/download/download-thanks.html?platform=linux&code=PCC

切换到文件保存路径解压

tar -zxvf pycharm-community-2024.3.3.tar.gz

然后进入到解压出的文件下

cd pycharm-community-2024.3.3

进入到bin目录下执行pycharm.sh文件

cd bin
./pycharm.sh

根据提示安装即可

可以点击这个图标

然后选择将软件放到桌面上

安装jupyter notebook

conda install jupyter notebook

选好代码所在的路径后，可以使用命令

jupyter notebook

启动jupyter notebook