Deepseek在本地部署--Windows 11

deepseek最近比较火,咱也凑个热闹。

1 先下载一个大模型运行平台Ollama,地址:https://ollama.com/download,目前支持Windows、Linux、Mac三种平台。

2 下载完直接双击安装

 

 安装后在通知栏会弹出一个消息,点击打开cmd窗口:

 3 配置大模型存储位置

Ollama默认直接安装在系统盘,但系统盘咱一般分配比较少只有200GB空间,所以尝试修改一下大模型存储的位置到大容量磁盘里。

方法:在系统环境变量中配置OLLAMA_MODELS变量,值为文件夹路径地址

 配置完下一个模型试试,我这里下载个7B模型。

 在cmd终端运行如下命令:

ollama run deepseek-r1:7B

 。。。卡住了待续

 ------友情分割线-------

历时5个小时终于下载完成,我直接提问了,貌似可以了,下次再补充一下对话框。

 

要退出对话,输入“/exit” 即可。

posted @ 2025-02-18 17:02  游荡的沙  阅读(201)  评论(0)    收藏  举报