M87星云

导航

Red Hat Enterprise Linux安装ollama+deepseek

一、先看自己服务器cpu是什么版本

lscpu

 

二、找到相应的ollama压缩包

下载地址: https://github.com/ollama/ollama/releases

 

三、安装ollama

1.在服务器创建ollama目录

2.把下载好的ollama-linux-amd64.tgz上传到指定目录

3.解压tgz包,解压后会出现bin,lib包

tar -xzf ollama-linux-amd64.tgz

 

 

4. 设置软连接

sudo ln -s /home/root/ollama/bin/ollama /usr/local/bin/ollama

5. 测试下是否生效

ls -l /usr/local/bin/ollama

 

四、设置全局

1.编辑全局变量

vim ~/.bashrc

在尾部添加内如:

export PATH=$PATH:/usr/local/bin

 

2.刷新全局变量

 source ~/.bashrc

 

3. 随便找个地方,输入ollama,发现可用即可

 

五、配置systemctl启动服务

1. 编辑ollama.service文件

vim /etc/systemd/system/ollama.service

 

添加内容:

[Unit]
Description=Ollama Service
After=network-online.target

[Service]
ExecStart=/home/root/ollama/bin/ollama serve
User=root
Group=root
Restart=always
RestartSec=3
Environment="OLLAMA_HOST=0.0.0.0:11434"
Environment="OLLAMA_ORIGINS=*"

[Install]
WantedBy=default.target

 

3.授权

#给用户root授权
chown root:root /home/root/ollama/bin/ollama

chmod +x  /etc/systemd/system/ollama.service

#将SELinux切换到宽容模式
sudo setenforce 0

 

3.重新加载服务

sudo systemctl daemon-reload

 

4. 启动服务

systemctl start ollama

 

5. 查看状态

systemctl status ollama

 

五、测试ollama效果

在浏览器访问 http://127.0.0.1:11434

 

posted on 2025-03-18 18:59  挽留匆匆的美丽  阅读(165)  评论(0)    收藏  举报