deepin 20.9本地部署deepseek
部署ollama
部署ollama
# 创建目录
mkdir ollama
# 下载安装包
curl -L https://ollama.com/download/ollama-linux-amd64.tgz -o ollama-linux-amd64.tgz
# 解压
tar -C ollama -xzf ollama-linux-amd64.tgz
启动服务
Start Ollama:
# 切换目录
cd ollama/bin
# 启动服务
ollama serve
查看版本
另外打开个终端
# ollama -v
> ollama version is 0.5.7
部署deepseek r1模型
# 拉取模型
ollama pull deepseek-r1:1.5b
如果需要更多,可以检索模型
https://ollama.com/search
运行模型deepseek
ollama run deepseek-r1:1.5b
创建为系统服务
# 创建服务文件
touch /etc/systemd/system/ollama.service
服务文件
[Unit]
Description=Ollama Service
After=network-online.target
[Service]
ExecStart=/home/john/ollama/bin/ollama serve
User=john
Group=john
Restart=always
RestartSec=3
Environment="PATH=$PATH"
[Install]
WantedBy=default.target
启动服务
sudo systemctl daemon-reload
sudo systemctl start ollama.service && sudo systemctl status ollama.service