linux私有化部署deepseek

  • 在线安装
# 安装ollama
curl -fsSL https://ollama.com/install.sh | sh
#下载模型
#ollama pull deepseek-r1:7b
# 运行deepseek模型,没有模型则自动下载
ollama run deepseek-r1:7b

ollama默认安装的模型路径为：

/usr/share/ollama/.ollama/models

  • 离线安装

 

# 互联网环境下载，下载完成后上穿到目标服务器
curl -L https://ollama.com/download/ollama-linux-amd64.tgz -o ollama-linux-amd64.tgz
# 解压
tar -C /usr -xzf ollama-linux-amd64.tgz
# 运行
systemctl start ollama
#将在线安装下载的deepseek模型数据上传到模型存放路径（/usr/share/ollama/.ollama/models）
ollama run deepseek-r1:7b

 

  • 图形化客户端
  1. Chatbox
  2. Open WebUI
  3. Cherry Studio

 

 

so easy

posted @ 2025-02-21 00:07  柴米油盐哈哈  阅读(146)  评论(0)    收藏  举报