部署dify+docker

1. dify的作用

方向 作用说明
本地/自有模型管理 可以把 Ollama 或本地 LLM 模型接入 Dify,通过统一界面管理模型、调参和调用。
多模型接入 支持 OpenAI、Ollama、LLM Hub 等多种模型接口,方便组合使用。
低代码应用 提供可视化工作流,可以拖拽创建问答、聊天机器人、数据查询等应用。
快速部署 通过 Docker 一键部署,不用自己写后端、Nginx、数据库。
接口统一化 内置 OpenAI API 兼容接口,让应用可以直接调用各种模型而不用改代码。
多用户管理 支持团队协作、账号管理、日志和权限控制。

2. 首先尝试在Windows系统安装docker+dify的部署
参考文章如下:

在Windows系统中不能直接从C盘通过cd指令到D盘,需要通过D:切换盘符。
安装doker,为了将docker放在D盘,使用以下命令

start /w "" "Docker Desktop Installer.exe" install -accept-license --installation-dir="D:\Docker" --wsl-default-data-root="D:\Docker\data" --windows-containers-default-data-root="D:\Docker"

以上,第1个D:\Docker 是Docker DeskTop的安装目录;D:\data是Docker用于存储镜像、容器等数据的目录。最后1个D:\Docker,表示在Windows操作系统中,Docker程序将被安装在D盘一个名为Docker文件夹中。
注意:运行代码之前,提前创建好对应文件夹D:\Docker、D:\Docker\data
直接使用dify中的docker容器,创建dify服务,docker安装确实比源码安装方便很多
直接使用人家自带的虚拟环境,加载并下载一下,也不会报错。

3. 然后尝试在linux系统安装docker+dify的部署
docker安装
参考文章:

服务器使用的是centos8
使用yum命令,yum 命令是 Linux 系统中的一个软件包管理器,用于自动下载、安装、更新、删除软件包以及管理软件包的依赖关系。
先卸载之前版本,以免冲突
yum remove docker \docker-client \docker-client-latest \docker-common \docker-latest \docker-latest-logrotate \docker-logrotate \docker-selinux \docker-engine-selinux \docker-engine \docker-ce
使用阿里云
yum-config-manager --add-repo http://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo
安装时,出现冲突docker-ce-cli或containerd.io或docker-buildx-plugin 或 docker-compose-plugin执行如下命令:
yum install docker-ce docker-ce-cli containerd.io docker-buildx-plugin docker-compose-plugin
执行安装最新社区版docker
yum install docker-ce
给Linux添加镜像源
vi /etc/docker/daemon.json
文件复制以下代码

{
  "registry-mirrors": [
    "http://mirrors.aliyun.com/pypi/simple/",
    "https://docker.m.daocloud.io",
    "https://docker.mirrors.tuna.tsinghua.edu.cn",
    "http://hub-mirror.c.163.com",
    "https://mirror.ccs.tencentyun.com"
  ]
}

修改Docker用于存储镜像、容器等数据的目录
依然是修改daemon配置文件
vi /etc/docker/daemon.json
添加一下代码
"data-root": "/data/docker",
使用以下代码验证
docker info | grep "Docker Root Dir"

4. (未完成)linux环境下部署dify并管理ollama大模型
公司服务器部署在内网,我使用IP地址加dify的端口无法访问,时间不够,需要研究新模型,暂时搁置。

5. 服务器的root存储空间不足
经过排查发现是pip、conda和yum在下载时,会在/tmp中进行缓存,占用root存储空间
清理 conda 缓存:
conda clean --all
清理 pip 缓存:
pip cache purge
清理 yum 缓存:
sudo yum clean all

posted @ 2026-01-23 12:02  asphyxiasea  阅读(1)  评论(0)    收藏  举报