Linux安装Ollama

1 下载并解压缩包

curl -L https://ollama.com/download/ollama-linux-amd64.tgz -o ollama-linux-amd64.tgz
tar -C /usr -xzf ollama-linux-amd64.tgz

2 启动 Ollama

ollama serve

在另一个终端中，验证 Ollama 是否正在运行

ollama -v

3 创建用户和组

useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama
usermod -a -G ollama $(whoami)

4 创建模型目录

mkdir -p /data/ollama/models
chown -R ollama:ollama /data/ollama

5 创建服务

OLLAMA_HOST 允许外部访问
OLLAMA_ORIGINS 允许的来源
OLLAMA_MODELS 模型目录

6 启动 ollama

systemctl start ollama
systemctl enable ollama

启动失败查看日志

journalctl -e -u ollama

7 拉取模型

ollama pull nomic-embed-text