本地搭建ollama+deepseek-r1模型

所需工具

ollama：https://ollama.com、                                                                             #通过ollama安装deepseek

ragflow：https://github.com/infiniflow/ragflow/blob/main/README_zh.md             #ragflow程序调用ollama通过页面形式展示

docker：https://www.docker.com/                                                                            #跑ragflow程序

git命令：https://git-scm.com/downloads/win                                                           #拉取ragflow代码

 

一、工具下载  

git 下载地址打开，点击下载即可 。安装步骤跳过

 docker 下载地址打开，点击下载即可。安装步骤跳过

 ollama下载  下载地址打开，点击下载即可。安装步骤跳过

 

 

 

二、工具验证

win+R  输入cmd 。打开终端窗口

验证git+docker+ollama 。 输入git、docker、ollama命令。 命令有提示即可

 

三、配置工具

3.1 配置docker 加速器。由于国内限制docker hub拉取镜像 目前2025.02.18可用。过期自己百度找新的地址替换即可

{
  "builder": {
    "gc": {
      "defaultKeepStorage": "20GB",
      "enabled": true
    }
  },
  "experimental": false,
  "registry-mirrors": [
    "https://docker.1panel.live",
    "https://hub.rat.dev",
    "https://docker.actima.top",
    "https://atomhub.openatom.cn",
    "https://docker.m.daocloud.io",
    "https://docker.nastool.de",
    "https://dockerpull.org",
    "https://registry.dockermirror.com",
    "https://docker.m.daocloud.io",
    "https://docker.1ms.run",
    "https://docker.aityp.com",
    "https://dockerhub.xisoul.cn",
    "https://docker.imgdb.de",
    "https://hub.littlediary.cn",
    "https://docker.unsee.tech",
    "https://hub.crdz.gq",
    "https://hub.firefly.store",
    "https://docker.kejilion.pro",
    "https://dhub.kubesre.xyz",
    "https://hub.xdark.top",
    "https://docker.udayun.com"
  ]
}

 

 3.2配置ollama 环境变量

目前win10  。 我的电脑右键属性 =》 高级系统设置 =》 环境变量

允许所有地址访问ollama
变量：OLLAMA_HOST 
值：0.0.0.0:11434

下载的模型地址
变量：OLLAMA_MODELS
值：E:\ollama\ollamaModels

 

3.3 配置好后重启ollama和docker。 windows重启方式 退出重新打开即可 

注意：本地会有一个11434端口。 是ollama端口。 用工具调用ollama是通过这个端口

 

四、ollama下载模型

4.1 选择相关模型。在终端执行命令 

ollama run deepseek-r1:1.5b

 

 

 4.2启动模型测试

 

五、安装ragflow ：ragflow/README_zh.md at main · infiniflow/ragflow · GitHub

5.1通过git 拉取代码 。先新建个文件夹，在文件夹内右键 =》终端打开

 5.2 执行git拉取代码。 下不下来 网络问题

$ git clone https://github.com/infiniflow/ragflow.git

5.3修改.env文件  先别急着启动  代码ragflow/docker/.env  目录结构。 注释-slim 

5.4启动程序。并拉取镜像

 5.5 查看日志  看是否启动成果

docker logs -f ragflow-server

 

六、设置ragflow

6.1上面启动完后本地会有80端口。 直接浏览器打开

http://localhost:80

创建账号并登录。 此处跳过

 

6.2设置模型  找到ollama模型并添加

 

6.3设置ollama模型

模型类型：chat

模型名称：根据自己下载的写

基础url：自己电脑ip + ollama的端口 

最大token数：32768

 

6.4 创建知识库 .配置好，最下方保存

 

 

上传知识库文件。 相关知识的pdf上传  然后解析即可

 

 

 

6.5 选择聊天