Ollama部署与使用

Ollama 降低了使用大型语言模型的技术门槛,通过本地化部署打破了对云服务的依赖。它不仅提供了灵活性和隐私保护,还为用户带来了高效的 AI 体验。

下载地址:https://ollama.com/download

源码地址:https://github.com/ollama/ollama/

中文文档:https://ollama.cadn.net.cn/api.html

使用下面命令安装到指定路径

  OllamaSetup.exe /DIR=E:\Ollama 

环境变量配置:

 来源:https://deepseek.blog.csdn.net/article/details/145275600

注意:修改存放目录后需要重新运行Ollma,包含服务端和客户端。

模型启动

此处查找Ollama模型,找到后运行命令拉取或者运行

拉取:ollama pull 模型名称

运行:ollama run 模型名称

删除:ollama rm 模型名称

查看已下载模型列表:ollama list

查看运行的模型信息:ollama ps

OllamaSharp 是Ollama API的.NET类库,简化了本地和远程与Ollama的交互。

 

posted @ 2025-03-25 11:59  若梦浮华  阅读(178)  评论(0)    收藏  举报