RAGFlow本地部署
前提条件
CPU >= 4 核 RAM >= 16 GB Disk >= 50 GB Docker >= 24.0.0 & Docker Compose >= v2.26.1
启动服务器
# 1.确保vm.max_map_count不小于262144 sysctl vm.max_map_count # 查看变量vm.max_map_count的值 # 临时重置变量vm.max_map_count的值 sudo sysctl -w vm.max_map_count=262144 # 永久重置变量vm.max_map_count的值 修改/etc/sysctl.conf文件中vm.max_map_count的值 # 克隆仓库 git clone https://github.com/infiniflow/ragflow.git # 进入 docker 文件夹,利用提前编译好的 Docker 镜像启动服务器 cd ragflow/docker # Use CPU for embedding and DeepDoc tasks: docker compose -f docker-compose.yml up -d # To use GPU to accelerate embedding and DeepDoc tasks: docker compose -f docker-compose-gpu.yml up -d 如果你遇到 Docker 镜像拉不下来的问题,可以在 docker/.env 文件内根据变量 RAGFLOW_IMAGE 的注 释提示选择华为云或者阿里云的相应镜像。 华为云镜像名: swr.cn-north-4.myhuaweicloud.com/infiniflow/ragflow 阿里云镜像名: registry.cn-hangzhou.aliyuncs.com/infiniflow/ragflow
服务器启动成功后再次确认服务器状态
docker logs -f ragflow-server
RAGFlow模型配置
RAGFlow里面的聊天是一个单独RAG应用(模型、embedding、知识库是绑定在一起的)
RAGFlow创建知识库
RAGFlow API调用
浙公网安备 33010602011771号