ubuntu24.04安装CUDA、VLLM、Pytorch等并部署Qwen3-8B-AWQ【50系显卡通用】

1. 系统更新与依赖安装

sudo apt update && sudo apt upgrade -y
sudo apt install -y python3-pip python3-venv build-essential git nvidia-driver-575

注：RTX 5070 Ti 推荐驱动 ≥550 版本

我是直接官网安装最新的驱动了，反正向上兼容，驱动安装教程可以参考我以往文章：
Linux安装nvidia驱动【详细版】

2. 安装CUDA 12.8（Blackwell架构必需）