基于Ollama+DeepSeek+AnythingLLM轻松投喂打造本地大模型知识库.250212

第一步,下载开源的[AI]应用程序AnythingLLM

去官网Download AnythingLLM for Desktop下载并安装即可。

第二步,下载Ollama并获取DeepSeek LLM)

为了使用DeepSeek我们需要先下载Ollama并获取DeepSeek。

1、打开 Ollama 的官网http://ollama.com,在官网找到 “Download”,点击下载并安装。

2、安装完成后cmd运行下面的命令看是否安装正确。

ollama list

assets/基于Ollama+DeepSeek+AnythingLLM轻松投喂打造本地大模型知识库.250212/file-20250212171936153.png

3、cmd命令行输入如下命令下载DeepSeek大模型并运行。

ollama run deepseek-r1:7b

需要等待一些时间(耗时长短和你机器的配置有关)。
assets/基于Ollama+DeepSeek+AnythingLLM轻松投喂打造本地大模型知识库.250212/file-20250213085000213.png

第三步,配置新工作区

1、接下来就可以创建新工作区,我这里想搭建一个自己的数字化助手。

创建完之后,将LLM提供者改为刚下载的deepseek-r1:7b。
assets/基于Ollama+DeepSeek+AnythingLLM轻松投喂打造本地大模型知识库.250212/file-20250213085038475.png

2、上传各种知识。

3、选中需要的文档,然后点击Move to Workspace,在右边区域点击Save and Embed进行向量化处理。

4、新建工作区,设置对话模型为deepseek
assets/基于Ollama+DeepSeek+AnythingLLM轻松投喂打造本地大模型知识库.250212/file-20250213090130266.png

5、点击New Thread开始对话。
assets/基于Ollama+DeepSeek+AnythingLLM轻松投喂打造本地大模型知识库.250212/file-20250213090047527.png

当然,如果想单纯使用deepseek,直接cmd也可以
assets/基于Ollama+DeepSeek+AnythingLLM轻松投喂打造本地大模型知识库.250212/file-20250213090907847.png

posted @ 2025-02-12 17:35  中国的Amadeus  阅读(490)  评论(0)    收藏  举报