安装vllm环境及pc1适用的torch版本

pc1安装torch

pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu121

vllm(未经确认是pc几）

必须确认是否使用了自己安装的环境：

source ~/miniconda3/bin/activate 

create

安装环境,python=3.12，并which pip，确认使用了miniconda环境下的pip

conda create -n env_vllm python=
pip install torch==2.6.0 torchvision==0.21.0 torchaudio==2.6.0 --index-url https://download.pytorch.org/whl/cu124 # nvcc --version: 12.3，使用之后的软件都兼容，选择12.4
pip install vllm

clone

conda create -n toolrl --clone /home/zhangzai/miniconda3/envs/env_vllm

Qwen25_VL+flash_attention_2最新适配环境：

2.7.0+cu126

pip install torch==2.7.0 torchvision==0.22.0 torchaudio==2.7.0 --index-url https://download.pytorch.org/whl/cu126
pip install flash-attn --no-build-isolation