windows系统Ollama私有化模型部署

windows系统Ollama私有化模型部署

一.安装Ollama

(1)在官网下载https://ollama.com/download

image

(2)

步骤 2:检查 Windows 系统环境变量(关键!)

如果安装后仍报错,需手动配置环境变量:
 
  1. 右键点击此电脑 → 选择属性 → 点击高级系统设置 → 切换到高级选项卡 → 点击环境变量
  2. 系统变量中找到Path变量,点击编辑 → 新建,添加 Ollama 的安装路径(默认路径为 C:\Users\[你的用户名]\.ollama\bin,例如 C:\Users\lenovo\.ollama\bin)。
  3. 点击确定保存所有窗口,重启命令提示符(CMD)或终端后,再次执行 ollama -v 即可验证

image

image

image

image

(3)验证安装成功

cmd里查看

image


二.导入模型

在ollama官网下modles找

image

例如:导入deepseek

image

671是完整deepseek,其余是蒸馏模型,一般个人电脑用7b

image

复制要导入的模型语句(ollama run deepseek-r1:7b 是使用 Ollama 工具运行 DeepSeek-R1-7B 大语言模型的命令)

image


三.调用大模型

image


四.导入的模型存放的位置

因为c盘不足,更改位置到d盘

image

image

posted @ 2025-11-03 00:16  Annaprincess  阅读(72)  评论(0)    收藏  举报