DeepSeek本地部署实践
1.下载ollama : https://ollama.com/

安装ollama.
2.选择DeepSeek-R1大语音模型: https://ollama.com/library/deepseek-r1

复制如下命令,在Windows命令行cmd输入:
ollama run deepseek-r1:7b
安装deepseek-r1:7b版本。安装完毕,电脑托盘会有一只羊驼。

拓展阅读:AnythingLLM、Dify 与 Open-WebUI:如何接入 Ollama,它们有何不同?
3. 安装AnythingLLM
下载:https://anythingllm.com/desktop ,双击安装包傻瓜式安装。
4.配置大模型来源,采用本地的ollama。

5.下载Embedder首选项采用如下的,

通过如下命令安装:
ollama pull nomic-embed-text
安装之后配置Embedder首选项:

ollama命令大全:
ollama rm qwen2.5-3bnsfw:latest
作者:太一吾鱼水
文章未经说明均属原创,学习笔记可能有大段的引用,一般会注明参考文献。
欢迎大家留言交流,转载请注明出处。
浙公网安备 33010602011771号