Deepseek在本地部署--Windows 11
deepseek最近比较火,咱也凑个热闹。
1 先下载一个大模型运行平台Ollama,地址:https://ollama.com/download,目前支持Windows、Linux、Mac三种平台。
2 下载完直接双击安装

安装后在通知栏会弹出一个消息,点击打开cmd窗口:

3 配置大模型存储位置
Ollama默认直接安装在系统盘,但系统盘咱一般分配比较少只有200GB空间,所以尝试修改一下大模型存储的位置到大容量磁盘里。
方法:在系统环境变量中配置OLLAMA_MODELS变量,值为文件夹路径地址

配置完下一个模型试试,我这里下载个7B模型。

在cmd终端运行如下命令:
ollama run deepseek-r1:7B

。。。卡住了待续
------友情分割线-------
历时5个小时终于下载完成,我直接提问了,貌似可以了,下次再补充一下对话框。

要退出对话,输入“/exit” 即可。

浙公网安备 33010602011771号