ollama使用显卡mx250

GPU 选择
如果你的系统中有多个 NVIDIA GPU 并且希望限制 Ollama 使用其中的一部分,可以将 CUDA_VISIBLE_DEVICES 设置为 GPU 的逗号分隔列表。可以使用数字 ID,但顺序可能会变化,因此使用 UUID 更可靠。你可以通过运行 nvidia-smi -L 来发现 GPU 的 UUID。如果你希望忽略 GPU 并强制使用 CPU,可以使用无效的 GPU ID(例如,"-1")。

配置环境变量 CUDA_VISIBLE_DEVICES
值为:显卡的 uuid

posted on 2025-01-20 17:24  耀扬  阅读(1587)  评论(0)    收藏  举报

导航