linux下ollama更换模型路径

Linux下更换Ollama模型下载路径指南
  在使用Ollama进行AI模型管理时,有时需要根据实际需求更改模型文件的存储路径。本文将详细介绍如何在Linux系统中更改Ollama模型的下载路径。
在这里插入图片描述

一、关闭Ollama服务
  在更改模型路径之前,需要先停止Ollama服务。可以通过以下命令停止服务:
  1. 使用systemctl命令:
    sudo systemctl stop ollama

    sudo systemctl disable ollama.service
  2. 或者在运行Ollama的终端中按Ctrl+C手动停止服务。

二、默认模型路径
  在Linux系统中,Ollama默认的模型存储路径为:
    /usr/share/ollama/.ollama/models

三、更改模型路径
  1. 创建新的模型存储目录:
    首先,创建一个新的目录作为模型存储路径。例如,创建/data/ollama/models目录:
    sudo mkdir -p /data/ollama/models
  2. 更改目录权限:
    确保新目录的权限设置正确,允许Ollama访问和写入:
    sudo chown -R root:root /data/ollama/models

    sudo chmod -R 775 /data/ollama/models

四、修改Ollama服务配置文件
  1. 编辑服务配置文件:
    使用文本编辑器(如vim)编辑Ollama服务的配置文件:
    sudo gedit /etc/systemd/system/ollama.service
  2. 修改配置内容:
    在[Service]部分的Environment字段后,添加新的Environment字段,指定新的模型路径:
    Environment="OLLAMA_MODELS=/data/ollama/models"
    完整的配置示例如下:

[Unit]
Description=Ollama Service
After=network-online.target
[Service]
ExecStart=/usr/local/bin/ollama serve
User=root
Group=root
Restart=always
RestartSec=3
Environment="PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin"
Environment="OLLAMA_MODELS=/data/ollama/models"
[Install]
WantedBy=default.target</font>

五、重载配置并重启Ollama服务
  1. 重载系统服务配置:

sudo systemctl daemon-reload

  2. 重启Ollama服务:

sudo systemctl restart ollama.service

  3. 查看服务状态:

sudo systemctl status ollama

六、验证更改
  1. 检查默认路径:
    进入默认的模型路径/usr/share/ollama/.ollama/models,会发现models文件夹已经消失。
  2. 检查新路径:
    在新的路径/data/ollama/models下,会看到生成了blobs和manifests文件夹,这表明模型路径已经成功更改。

posted @ 2025-02-02 12:22  白云千载尽  阅读(2818)  评论(0)    收藏  举报  来源