dify架构
一、分层架构设计
-
数据层
- 包含 Dataset(数据集) 和 Prompts(提示词) 两类输入源,通过 ETL 流程进行数据清洗与结构化处理,并借助 RAG Pipeline 实现知识检索增强,提升模型输出的准确性。
-
开发层
- 提供 Prompts IDE(可视化提示词编排工具)和 Agent DSL(智能代理开发语言),支持开发者以低代码方式定义 AI 应用逻辑,例如构建多步骤任务链或集成自定义工具。
-
编排层
- Orchestration Studio 为核心组件,负责协调模型调用、工具链执行和流程控制,同时通过 Moderation System(审核系统)和 Cache System(缓存系统)保障应用稳定性和响应效率。
-
基础层
- Storage:支持结构化数据存储(如 PostgreSQL)和非结构化数据存储(如 OSS);
- LLMs:集成多厂商大语言模型(如 OpenAI、Claude3),支持动态模型路由和统一接口调用。
二、模块化设计
- 前端架构:基于 Web 目录实现用户界面,包含可视化编排工具和运营监控面板;
- 后端架构:通过 API 目录封装核心业务逻辑,包括数据集管理、模型调度、权限控制等模块,SDKs 目录提供多语言开发工具包;
- 扩展性:支持插件化扩展工具链(如代码解释器、数据爬虫),并通过 Function Calling 模式实现自动化操作。
三、核心技术栈
- RAG 引擎:结合向量数据库实现高效语义检索,支持多模态数据处理;
- Agent 框架:支持任务分解与多代理协同,需手动配置工具调用顺序和 Prompt 逻辑(如金融分析场景中的数据处理→可视化→报告生成流程);
- LLMOps 工具:内置模型监控、版本管理和 A/B 测试能力,支持应用持续优化。


浙公网安备 33010602011771号