【Ollama】CentOS 8.5 Ollama部署

• 下载 Ollama 文件

https://github.com/ollama/ollama/releases/download/v0.21.2/ollama-linux-amd64.tar.zst

• 安装 Ollama

# 上传 tar.zst 到 Linux 服务器
ls ollama-linux-amd64.tar.zst

# 解压 离线包
zstd -d ollama-linux-amd64.tar.zst
mkdir /usr/local/ollama -p
tar -xvf ollama-linux-amd64.tar -C /usr/local/ollama

# 复制二进制文件
cp /usr/local/ollama/bin/ollama /usr/bin/

# 验证 ollama是否安装成功
ollama -v

# 验证 ollama启动
ollama serve

• ollama 服务启动

# 创建 ollama 服务启动脚本
cat > /etc/systemd/system/ollama.service <<EOF
[Unit]
Description=Ollama Service
After=network.target

[Service]
ExecStart=/usr/local/bin/ollama serve
Restart=always
RestartSec=3
Environment="HOME=/root"
Environment="OLLAMA_HOST=0.0.0.0:11434"
Environment="OLLAMA_MODELS=/root/.ollama/models"

[Install]
WantedBy=multi-user.target
EOF

# 启动 ollama 服务 & 开机自启动
systemctl daemon-reload
systemctl start ollama
systemctl status ollama
systemctl enable ollama

• 安装 ollama 模型

# ollama model 下载地址：https://ollama.com/search

# 当前下载 qwen3.6:35b
ollama run qwen3.6:35b