Ollama部署与使用
Ollama 降低了使用大型语言模型的技术门槛,通过本地化部署打破了对云服务的依赖。它不仅提供了灵活性和隐私保护,还为用户带来了高效的 AI 体验。
下载地址:https://ollama.com/download
源码地址:https://github.com/ollama/ollama/
中文文档:https://ollama.cadn.net.cn/api.html
使用下面命令安装到指定路径
OllamaSetup.exe /DIR=E:\Ollama
环境变量配置:

来源:https://deepseek.blog.csdn.net/article/details/145275600
注意:修改存放目录后需要重新运行Ollma,包含服务端和客户端。
模型启动
此处查找Ollama模型,找到后运行命令拉取或者运行
拉取:ollama pull 模型名称
运行:ollama run 模型名称
删除:ollama rm 模型名称
查看已下载模型列表:ollama list
查看运行的模型信息:ollama ps
OllamaSharp 是Ollama API的.NET类库,简化了本地和远程与Ollama的交互。

浙公网安备 33010602011771号