linux服务器离线安装ollama

一、前言

公司服务器在线安装ollama总是超时连接不上，想着本质就是个安装包，离线安装也可以。固有了这样的一篇博客记录一下。

二、流程

1、查看服务器cpu架构

执行指令

lscpu

# x86_64 CPU选择下载ollama-linux-amd64
# aarch64|arm64 CPU选择下载ollama-linux-arm64

2、下载对应压缩包，并移动至服务器端

然后进入ollama的GitHubrelease界面，根据cpu架构下载tgz压缩包：

https://github.com/ollama/ollama/releases/

下载可以使用迅雷代理，对于没有魔法的网络环境比较友好。

3、解压压缩包

走到tgz文件夹路径，然后运行解压指令即可

sudo tar -C /usr -xzf ollama-linux-amd64.tgz

4、运行ollama

新开终端执行指令：

ollama serve

再新开终端，键入

ollama -v

验证服务是否在运行。

三、enjoy yourself~~

之后就可以正常拉取模型，启动ollama服务、关闭ollama服务了。