CUDA安装

①硬件上有英伟达显卡。

②装对应的nvidia显卡驱动（www.nvidia.cn）,设置系统变量（C:\Program Files\NVIDIA Corporation\NVIDIA NvDLISR），然后nvidia-smi可以使用了

③装CUDA（www.developer.nvidia.com/cuda-tookit-archive），设置系统变量CUDA_HOME(C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.2)，然后nvcc -V可以使用了

2006年之前，GPU只用来渲染游戏图形界面。2006年，GeForce 8800 GTX产生，第一个支持深度学习和数据分析（通用计算）的GPU，引入“CUDA核心”（GPU的工作线程（RTX4090有16384个），可以大规模并行，可以通过C、C++、Python调用（通过CUDA Tookit））

卸载：应用和功能-驱动器搜索，卸载四个带CUDA的；删除C:\Program Files\NVIDIA GPU Computing Toolkit文件夹

多版本共存和自定义安装位置：自定义安装时只安装CUDA(消掉后三个)并CUDA-Development下面消掉Nsight开头的两个（用不到而且版本不对就安装失败）；目录结构一样

#PyTorch 的 GPU 版本包含了预编译的 CUDA 运行时库，但这些库依赖于系统级的 CUDA 驱动程序，每个conda创建的虚拟环境cuda相互隔离
#pip install torch==2.4.1 torchvision==0.19.1 torchaudio==2.4.1 --index-url https://download.pytorch.org/whl/cu121
#CUDA 运行时库是 CUDA Toolkit 的一部分，但它们也可以作为独立的库被包含在PyTorch软件包中，这些预编译库是 PyTorch 的wheel文件的一部分，它们是二进制文件，包含了运行 PyTorch 所需的 CUDA 运行时库。
#所以不安装CUDA也能用pytorch。有的文件包（比如mmcv）会强制要求你在系统里下载CUDA，并设置环境变量CUDA_HOME（而且mmcv版本取决于cuda和torch版本"pip install mmcv==2.2.0 -f https://download.openmmlab.com/mmcv/dist/cu121/torch2.3/index.html"，cuda版本不对会安装失败，且mmcv1.X和mmcv2.X的包函数大不相同）
import torch 
print("CUDA Version:", torch.version.cuda)
print("cuDNN Version:", torch.backends.cudnn.version())

④装cudnn（CUDA的深度学习API接口），体积小，下载需要注册nvidia账号，下载完解压到C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.2，替换里面的bin、include和lib文件夹