DeepSeek本地部署实践

1.下载ollama : https://ollama.com/

  安装ollama.

2.选择DeepSeek-R1大语音模型:  https://ollama.com/library/deepseek-r1

   复制如下命令,在Windows命令行cmd输入:

ollama run deepseek-r1:7b

  安装deepseek-r1:7b版本。安装完毕,电脑托盘会有一只羊驼。

 


  拓展阅读:AnythingLLM、Dify 与 Open-WebUI:如何接入 Ollama,它们有何不同?

3. 安装AnythingLLM  

  下载:https://anythingllm.com/desktop  ,双击安装包傻瓜式安装。

4.配置大模型来源,采用本地的ollama。

 5.下载Embedder首选项采用如下的,

   通过如下命令安装:

ollama pull nomic-embed-text

  安装之后配置Embedder首选项:

 


ollama命令大全:

  ollama rm qwen2.5-3bnsfw:latest

posted @ 2025-03-14 17:42  太一吾鱼水  阅读(81)  评论(0)    收藏  举报