实用指南:ubuntu24.04安装CUDA、VLLM、Pytorch等并部署Qwen3-8B-AWQ【50系显卡通用】
1. 系统更新与依赖安装
sudo apt update &&
sudo apt upgrade -y
sudo apt install -y python3-pip python3-venv build-essential git nvidia-driver-575
注:RTX 5070 Ti 推荐驱动 ≥550 版本
我是直接官网安装最新的驱动了,反正向上兼容,驱动安装教程可以参考我以往文章:
Linux安装nvidia驱动【详细版】
2. 安装CUDA 12.8(Blackwell架构必需)

浙公网安备 33010602011771号