解决安装 ollama 在 wsl2 中报 WARNING: No NVIDIA/AMD GPU detected. Ollama will run in CPU-only mode.问题

  • 首先要确保wsl2 版的 cuda 环境已经安装

  • [非必须]如果已安装了环境但是 nvidia-smi 找不到,可能是未加入环境变量,请将它的路径/usr/lib/wsl/lib加入 PATH

  • ollama 在 /usr/bin/ 找不到 nvidia-smi 位置,所以会有如上警告,所以需要创个链接指向:

    • 方法一:sudo ln -s $(which nvidia-smi) /usr/bin/
    • 方法二:sudo ln -s /usr/lib/wsl/lib/nvidia-smi /usr/bin/

    参考:https://github.com/ollama/ollama/issues/1460#issuecomment-1862181745

  • 然后卸载重装就可以了(我是这样解决的)

posted @ 2024-04-24 13:52  假不了  阅读(3090)  评论(0)    收藏  举报