最新RAGflow+Ollama+Docker Desktop部署本地知识库

目的：

DockerDesktop的安装使用

Ollama的安装使用

　　 Ollama的环境配置

　　Ollama下载模型到本地

RAGflow的安装使用

RAGflow搭建知识库

　　设置Ollama管理模型

　　构建RAGflow知识库

　　测试RAGflow聊天室

---

DockerDesktop的安装使用

官网（根据你的系统版本下载）：Docker Desktop: The #1 Containerization Tool for Developers | Docker

下载后傻瓜式安装即可（之所以下载docker是因为ragflow的源码中没有在本地运行的依赖环境）

ps：docker默认是安装到C盘，避免C盘爆红，需要改一下镜像存放的地址

 

PowerShell或者命令符验证版本号：

 

---

Ollama的安装使用

一个管理大语言模型的工具，可以理解为一个LLM模型的集合，哪里需要哪里搬

官网（根据你的系统下载对应版本）：Download Ollama on Windows

傻瓜式安装

PowerShell或者命令符验证版本号：

 Ollama的环境配置

打开环境变量新建

OLLAMA_HOST（访问的本地端口）：0.0.0.0

OLLAMA_MODELS（你自己存放大语言模型的地址）：D:\OllamaModels

配置好后在本地浏览器输入端口好测试启动

Ollama下载模型到本地

想下载什么模型可以在ollama官网中选择：Ollama

ps：ollama提供chat模型，embedding模型等等，我们搭建知识库需要embedding模型解析文本和chat模型问答

 

PowerShell或者命令符都可以下载：ollama run 模型名称

PowerShell或者命令符都可以查看自己有多少模型：ollama list

---

RAGflow的安装使用

RAGflow源码（Github）：GitHub - infiniflow/ragflow: RAGFlow is a leading open-source Retrieval-Augmented Generation (RAG) engine that fuses cutting-edge RAG with Agent capabilities to create a superior context layer for LLMs · GitHub

 

 我是在本地D盘建了一个文件夹，直接解压缩到本地

ps：如果是初次部署工作流RAGflow就不用去动docker文件夹下的.vue

如果不是初次部署工作流RAGflow就去改一下docker文件夹下.vue中的端口

 ps：首次启动的时候一定要在压缩包中的docker文件夹中用cmd启动！！！

docker-compose up -d

 

启动成功后在浏览器中运行本地80端口

http://localhost/8080

随便输入账号密码，只有第一次运行进去的时候才会有注册登录界面

---

RAGflow搭建知识库

设置ollama管理模型

• 将本地部署的模型通过ollama在RAGflow中部署

• 选好解析文件的embedding模型，知识库是问答系统的底层核心！

• 要选好解析器，可以参考RAGflow官网（解析器组件 | RAGFlow 引擎）

构建RAGflow知识库

• 点击新建知识库，导入企业级金融文档

　　ps：一定要解析，否则问答中会出现幻觉问题

测试RAGflow聊天室（chat聊天室）

  问答测试

 

谢谢观看~！