openharmony部署ollama

需要的文件

通过网盘分享的文件：dot_ollama.tgz
链接: https://pan.baidu.com/s/1MW-RgojiF7_R_xiswkMUBg?pwd=ug56 提取码: ug56
--来自百度网盘超级会员v7的分享

 

通过网盘分享的文件：a.tgz
链接: https://pan.baidu.com/s/1tz3f3ReVdWOe2orJT5aD4Q?pwd=n24z 提取码: n24z
--来自百度网盘超级会员v7的分享

 

 

1.将a.tgz 解压。里面是ollama的全部内容。

2.将/dot_ollama.tgz 解压至根目录

3.将lib目录拷贝到/lib。

4. 需要建一个目录：/data/models

运行：

OLLAMA_MODELS="/data/models" LD_LIBRARY_PATH=/lib ollama serve

 

 

查询模型路径:ollama show | grep "Model Path"

模型位置：

/var/lib/ollama/models

指定 下载路径：export OLLAMA_MODELS="/mnt/large_disk/ollama_models"