初探大模型-1-Dify部署

此Blog仅作为日常学习工作中记录使用，Blog中有不足之处欢迎指出

何为Dify

‌Dify‌是一个开源的大语言模型（LLM）应用开发平台，旨在简化和加速生成式AI应用的创建和部署。它结合了后端即服务（Backend as Service, BaaS）和LLMOps的理念，为开发者提供了一个用户友好的界面和一系列强大的工具，使他们能够快速搭建生产级的AI应用‌。

功能：

1. ‌模块化设计‌：Dify采用模块化的设计，每个模块都有清晰的功能和接口，开发者可以根据需求选择性地使用这些模块来构建自己的AI应用‌。
2. ‌低代码/无代码开发‌：通过可视化的方式允许开发者轻松定义Prompt、上下文和插件等，无需深入底层技术细节‌。
3. ‌支持多种大语言模型‌：Dify已支持主流的模型，如Claude3、OpenAI等，开发者能够根据自己的需求选择最适合的模型来构建AI应用‌。
4. ‌强大的数据集管理功能‌：提供强大的数据集管理功能，帮助开发者更好地管理和使用数据‌。
5. ‌可视化的Prompt编排‌：Dify的Prompt IDE为提示词工程师精心设计，友好易用的提示词开发工具，支持无缝切换多种大型语言模型‌。
6. ‌应用运营工具‌：提供应用运营工具，帮助开发者观测推理过程、记录日志、标注数据、训练并微调模型，使应用效果脱离黑盒，持续迭代优化‌。

简而言之，Dify大大降低了大模型的应用门槛，能够让对大模型了解不多的人，也可以快速应用、落地自己的想法。但是，对于大模型应用核心的——LLM、Text Embedding、TTS、Speech2text等，以及应用编排过程中用到的工具，Dify并不提供，Dify专注于大模型的落地。至于如何获取到LLM以及各种Embedding模型需要获取到模型商的API Key或者自己部署大模型等。

如何部署Dify

一、准备工作

需要准备一台Linux服务器（本文使用 Ubuntu 22.04，CPU = 4，RAM = 8GB）

在服务器上安装Docker和Docker-compose（本文使用docker 27.4.0，docker-compose 2.31.0）

具体教程自己搜索

二、安装Dify

以此执行以下命令

1. 新建目录，并拉去dify代码

cd /home
mkdir dify
cd /home/dify
git clone https://github.com/langgenius/dify.git

2. 复制环境配置文件

cd ./dify/docker
cp .env.example .env

3. 启动docker容器

sudo docker compose up -d

4. 根据自己网络环境和Linux部署位置，进行公网映射，使用$公网IP:80$ 访问Dify，之后就可以开始进行大模型之旅了