打造本地化RAG知识库

打造本地化RAG知识库,还需要安装其他的组件,按照RAG的原理和机制,还需要在本地部署一个嵌入模型,可以选择bge-m3或者nomic-embed-text。

1.下载嵌入模型

回到PowerShell,执行命令

ollama pull nomic-embded-text

或者

ollama pull bge-m3

然后等待安装完成。

 2.dify关联嵌入模型

选择dify的“设置”

 选择“模型供应商”

添加模型

模型名称:bge-m3:latest

url:http://host.docker.internal:11434

 点击“保存”。

 在“系统模型设置”中的嵌入模型选择bge-m3:latest。注意:如果没有显示下拉则刷新流量器在来一次就显示了。

3.打造本地知识库

在dify中点击“知识库”。

3.1 创建知识库

 选择本地文件

 选择“下一步”。

 默认设置即可,选择“保存并处理”。

 3.2 使用知识库

回到应用,选择“上下文”的“添加”

 选择知识库,并点击“添加”。

 测试:

 

 

posted @ 2025-03-13 14:31  创客未来  阅读(813)  评论(0)    收藏  举报