深度学习 —— 人工智能 —— 大语言模型（LLM） —— flash-attn 安装卡死

python 版本：

python 3.9

pytorch安装版本及命令：

pip install torch==2.4.0 --index-url https://download.pytorch.org/whl/cu120

CUDA的安装：

NVIDIA官方驱动安装CUDA，版本如下：

需要注意的是这里的CUDA版本为12.1， flash_attn的安装与cuda版本需要匹配，否则会报错。

参考： https://blog.csdn.net/weixin_60074434/article/details/155666402

成功安装版本：

flash-attn 2.7.3

安装命令：

pip install flash-attn==2.7.3 --no-build-isolation

安装失败版本：

flash-attn 2.8.3

安装命令：

pip install flash-attn==2.7.3 --no-build-isolation