使用llama-factory进行qwen3模型微调
运行环境
- Linux 系统(ubuntu)
- Gpu (NVIDIA)
安装部署 llama factory
CUDA 安装
首先,在 https://developer.nvidia.com/cuda-gpus 查看您的 GPU 是否支持CUDA
- 保证当前 Linux 版本支持CUDA. 在命令行中输入
uname -m && cat /etc/*release
,应当看到类似的输出
x86_64
DISTRIB_ID=Ubuntu
DISTRIB_RELEASE=22.04
- 检查是否安装了
gcc
. 在命令行中输入gcc --version
,应当看到类似的输出
gcc (Ubuntu 11.4.0-1ubuntu1~22.04) 11.4.0
- 在以下网址下载所需的 CUDA,这里推荐12.2版本。