Coze+Dify

Coze & Dify

00 大模型概述 —— 低代码平台 Agent 开发与部署导论

阅读建议:本文档是整门课程的"第一站"和"学习地图"。建议先通读全文建立全局认知,再按推荐路径进入 01-06 各课件深入学习。


一、大模型是什么

1.1 大语言模型(LLM)定义

大语言模型(Large Language Model, LLM)是基于 Transformer 架构、在海量文本数据上预训练、通常拥有千亿级以上参数的深度学习模型。它的核心能力包括:

文本生成:根据 Prompt 生成连贯、有逻辑的自然语言文本

理解与推理:理解复杂指令,执行逻辑推理、数学计算、代码编写

多轮对话:在上下文中保持话题一致性,完成长对话任务

关键概念速览:

概念 说明
Token 模型处理文本的最小单元,一个汉字约 1-2 个 Token
Prompt 用户输入给模型的指令或问题
Context Window 模型一次能"看到"的最大 Token 数(如 128K、1M)
Temperature 控制输出随机性的参数(0=确定性,1=高创造性)

代表性模型:GPT-5、Claude 4.x、DeepSeek-V4、Qwen3、豆包、文心一言、Kimi、Gemini 等。

1.2 市面常见应用场景

大模型已渗透到各行各业,以下是当前最主要的应用方向:

  1. 智能客服 —— 自动应答、意图识别、工单分类,替代传统规则引擎
  2. 内容生成 —— 营销文案、产品海报、宣传视频脚本、卖点提炼
  3. 知识库问答 —— 基于企业私有文档的专业知识检索与问答(RAG 模式)
  4. 数据分析 —— 评论情感分析、客服对话复盘、舆情监控
  5. Agent 自主任务 —— 多步骤自主规划与执行(自动调研、信息收集、工具调用)
  6. 代码辅助 —— 代码生成、Bug 定位、代码审查
  7. 办公自动化 —— 邮件处理、会议纪要、钉钉/飞书机器人集成

1.3 本课程覆盖的应用场景

本课程围绕电商与商户运营场景,完整覆盖从知识库搭建到企业级部署的全链路:

应用场景 对应课件 落地形式
知识库问答 01 Cherry Studio / ima / Dify 知识库
Agent 搭建与平台选型 02 Coze / Dify 智能体开发
内容生成(海报/视频/卖点) 03 Coze 多工作流联动
数据分析(评论/对话) 03 Coze + Dify 双平台
自动调研报告 03 Dify 搜索 + 迭代工作流
钉钉机器人集成 03 Dify + 钉钉 Webhook
API 编程集成 04 Python SDK / REST API
私有化部署 05, 06 Docker / 云服务器 + GPU

二、文档用途与定位

  • 学习地图:串联 01-06 共 6 份课件,建立从理论到上线的完整认知
  • 选型参考:对比 Cherry Studio、ima、Coze、Dify、n8n 等平台的适用场景
  • 快速索引:提供案例对照表,按业务需求快速定位到对应课件

三、目标受众

角色 关注重点 建议学习路径
AI 应用初学者 RAG 原理、Agent 概念、低代码上手 01 → 02 → 03
电商/运营从业者 知识库搭建、内容生成、数据分析 01 → 02 → 03
后端/全栈开发者 API 集成、私有化部署、Python SDK 01 → 02 → 04 → 06
企业技术决策者 数据安全方案、企业架构选型、成本评估 01 速览 → 04 → 05 → 06

前置知识:了解基本的大语言模型概念(LLM、Token、Prompt),具备基础的 Python 阅读能力(涉及第 04 章),了解基础的 Docker 概念(涉及第 05/06 章)。


四、技术栈全景概览

本课程涉及的技术栈分为四大板块:

板块 技术 / 平台 用途
大语言模型 DeepSeek、豆包、硅基流动、火山方舟 云端模型 API 调用
Qwen3(通过 vLLM/Ollama 部署) 本地/私有模型推理
bge-small-zh-v1.5、bge-reranker-base 嵌入与重排序
低代码平台 Cherry Studio 桌面级个人知识库
ima(腾讯) 多端同步个人知识库
Coze(扣子) 零代码 Agent + 工作流编排
Dify 开源 LLM 应用开发平台(RAG + Agent + Workflow)
部署运维 Docker / Docker Compose 容器化部署
Xinference 模型托管平台(统一管理 LLM/Embedding/Rerank)
vLLM 高性能推理引擎(PagedAttention 优化)
Coze Studio + Coze Loop 开源 AI Agent 开发与运维套件
开发工具 Python + cozepy Coze 平台编程调用
Python + requests Dify 平台 API 调用
SSE(Server-Sent Events) 流式响应处理

五、课程学习路径总图

本课程按"知道 → 会用 → 能上线"的认知曲线编排,分为四个递进部分:

┌─────────────────────────────────────────────────────────────────┐
│                      00 大模型概述(本文档)                       │
│            大模型基础认知 + 应用场景图谱 + 学习路线索引              │
└─────────────────────────────┬───────────────────────────────────┘
                              │
      ┌───────────────────────┼───────────────────────┐
      ▼                       ▼                       ▼
┌──────────────┐   ┌──────────────┐   ┌──────────────────────────┐
│  Part 1      │   │  Part 2      │   │  Part 3                  │
│  知识库入门   │   │  Agent 开发   │   │  Agent 应用实践            │
│  (01)        │   │  (02)        │   │  (03)                    │
├──────────────┤   ├──────────────┤   ├──────────────────────────┤
│ RAG 理论     │   │ Agent 概念   │   │ 7 个商户运营场景案例        │
│ 知识库平台   │   │ 三级能力模型  │   │ Coze + Dify 双平台实现     │
│ 选型与实践   │   │ 平台对比     │   │ 海报/视频/分析/报告/卖点    │
├──────────────┤   ├──────────────┤   ├──────────────────────────┤
│ "建立知识根基"│   │ "掌握开发工具" │   │ "积累实战经验"             │
└──────────────┘   └──────────────┘   └──────────────────────────┘
                                              │
                                              ▼
                              ┌──────────────────────────┐
                              │  Part 4                  │
                              │  企业级部署                │
                              │  (04 - 06)               │
                              ├──────────────────────────┤
                              │ 04 Python API 编程调用    │
                              │ 05 Windows 本地部署       │
                              │ 06 云服务器 + GPU 部署     │
                              ├──────────────────────────┤
                              │ "实现生产上线"             │
                              └──────────────────────────┘

推荐顺序:严格按 01 → 02 → 03 → 04 → 05 → 06 学习,每一部分是后一部分的前置基础。


六、四部分详细内容


Part 1:知识库搭建入门(01)

目标:理解 RAG 原理,掌握个人/企业知识库的搭建方法。

01 RAG — 搭建企业私有 & 个人知识库

核心问题:大模型存在"知识冻结"(训练数据截止日期)和"幻觉"(编造事实)两大痛点。RAG(Retrieval-Augmented Generation,检索增强生成)通过引入外部知识库来解决。

RAG 标准流程:

┌──────────┐    ┌──────────┐    ┌──────────┐    ┌──────────┐
│  文档导入  │ → │  文本分块  │ → │ 向量化     │ → │  向量存储  │
│           │    │ (Chunking)│    │ (Embedding)│    │ (Vector DB)│
└──────────┘    └──────────┘    └──────────┘    └──────────┘
                                                  │ 用户提问
┌──────────┐    ┌──────────┐    ┌──────────┐      │
│ LLM 生成  │ ← │  重排序   │ ← │  语义检索  │ ←────┘
│ 最终答案  │    │ (Rerank) │    │ (Retrieval)│
└──────────┘    └──────────┘    └──────────┘

三个关键模型节点:Embedding(向量化)、Rerank(精排)、LLM(生成)。

平台选型建议:

场景 推荐平台 理由
个人知识管理 Cherry Studio / ima 零门槛、多端同步
团队协作 + Agent 交付 Dify 完整 Workflow 编排 + 权限管理
企业复杂文档解析 RAGFlow 深度文档理解、复杂 PDF/表格

动手实践:Cherry Studio 连接硅基流动 API 建知识库 → ima 微信生态多端同步 → Dify 法律助手案例。


Part 2:Agent 智能体工作流平台开发(02)

目标:理解 AI Agent 概念,熟练使用 Coze/Dify 平台开发智能体。

02 基于 Coze & Dify 平台的智能体开发

核心问题:什么是 AI Agent?它与单纯的 LLM 对话有什么区别?

AI Agent 定义:以 LLM 为"大脑",结合记忆(Memory)、工具调用(Tool Use)、规划(Planning)、行动(Action)的自主软件系统。

Agent 三级能力模型:

Level 1: 提示词立人设 ──→ Level 2: 工作流编排 ──→ Level 3: 自主任务拆解
   (设定角色+知识库)         (定义步骤链)            (Agent 自主规划执行)
   例:深夜情感主持          例:高考报考指南         例:家庭记账助手

Coze vs Dify vs n8n 平台对比:

维度 Coze(扣子) Dify n8n
用户定位 零基础个人/小团队 开发者/技术团队 开发者/复杂自动化
核心优势 零代码、字节生态 LLMOps 全链路、开源自托管 400+ 集成节点
学习曲线 低(几小时) 中(1-2 天) 高(3-5 天)
部署方式 云端 + 开源自部署 云端 + 私有化 自托管 + 云端

动手实践:Coze 三大案例(情感主持 / 高考指南 / 家庭记账) + Dify 两大案例(时事评论 / 北京旅行助手) + DeepResearch 前沿应用介绍。


Part 3:Agent 工作流具体应用实践(03)

目标:通过 7 个全流程案例,掌握 Coze/Dify 工作流在实际业务中的落地能力。

03 商户运营管家(7 个全流程案例)

覆盖商户运营的核心场景——从内容生产(海报/视频/卖点)到数据分析(评论/对话)再到外部集成(钉钉推送/调研报告)。

03 商户运营管家(7 个独立案例,可按需跳跃学习)
  │
  ├─ Coze 平台 ────────────────────────────────────────
  │   ┌─────────────────┐   ┌─────────────────┐
  │   │ 03-01 海报生成   │   │ 03-02 宣传视频   │
  │   │ 文生图+图生图    │   │ 三工作流链式调用  │
  │   └─────────────────┘   └─────────────────┘
  │   ┌─────────────────┐   ┌─────────────────┐
  │   │ 03-05 对话分析   │   │ 03-06 评论分析   │
  │   │ Excel→LLM 分析   │   │ CSV→Agent+工作流 │
  │   └─────────────────┘   └─────────────────┘
  │   ┌──────────────────────────────────────┐
  │   │ 03-07 卖点提炼(最复杂案例)             │
  │   │ 5 工作流联动 + 通用→独特→保障三层卖点    │
  │   └──────────────────────────────────────┘
  │
  ├─ Dify 平台 ────────────────────────────────────────
  │   ┌─────────────────┐   ┌─────────────────┐
  │   │ 03-03 投诉分类   │   │ 03-04 调研报告   │
  │   │ LLM分类+钉钉推送  │   │ 搜索+迭代+总结   │
  │   └─────────────────┘   └─────────────────┘
  │
  └─ ★ 双平台对比:同场景(对话分析/评论分析)Coze vs Dify 实现

7 个案例一览:

编号 案例名称 平台 核心能力
03-01 产品营销海报生成 Coze 文生图/图生图、工作流链式调用
03-02 一键生成商品宣传视频 Coze 多工作流协作、分镜生成、变量管理
03-03 客户投诉分类助手-钉钉 Dify LLM 分级分类、外部 Webhook 集成
03-04 一键生成行业调研报告 Dify 搜索 + 迭代节点 + 结构化输出
03-05 客服对话记录分析 Coze + Dify Excel 解析、情感分析、对话总结
03-06 商品评论分析 Coze + Dify CSV 解析、Agent+工作流混合架构
03-07 商品营销卖点提炼 Coze 5 工作流联动、卖点→买点情绪转化

每个案例在 Coze 和 Dify 上均有独立实现,通过对比帮助理解不同平台的优劣势与适用场景。


Part 4:企业级部署(04 - 06)

目标:从平台内部运行到外部系统集成,从云端平台到自有服务器部署。

04 Python 调用平台工作流(打通外部系统)
  │
  ├─ Coze SDK 调用链路
  │   发布 API → 获取 workflow_id + app_id → 创建 API Key
  │   → cozepy.workflows.runs.stream() → 迭代 WorkflowEvent
  │   → 解析 MESSAGE / ERROR / INTERRUPT 事件
  │
  └─ Dify API 调用链路
      发布工作流 → 查看 API 文档 → 创建 API Key
      → POST /v1/workflows/run → SSE 流式解析
      → 捕获 workflow_finished → 提取 outputs.output
  │
  ▼
05 Windows 本地部署(开发验证环境)
  │
  ├─ Coze 开源套件部署
  │   Docker Desktop 安装 → 镜像加速配置 → 下载源码
  │   → 模型配置(云端 API / Ollama 本地模型)
  │   → docker compose up -d
  │   → Coze Studio(localhost:8888) + Coze Loop(localhost:8082)
  │
  └─ Dify 开源部署
      Docker Desktop → git clone → 配置 .env
      → docker compose up -d → localhost 访问
  │
  ▼
06 企业级大模型部署(生产环境)
  │
  └─ 三层企业架构全景
      ┌──────────────────────────────────────────────────────┐
      │                    用户 / 外部系统                      │
      └──────────────────────┬───────────────────────────────┘
                             │ HTTP / API
                             ▼
      ┌──────────────────────────────────────────────────────┐
      │  应用层:Dify(Docker,腾讯云轻量服务器 4C8G)            │
      │  · Web UI + API 统一入口                              │
      │  · 工作流编排 + Agent 管理 + 知识库维护                  │
      │  · 通过 Xinference 插件对接私有模型                     │
      └──────────────────────┬───────────────────────────────┘
                             │ OpenAI-compatible API
                             ▼
      ┌──────────────────────────────────────────────────────┐
      │  推理层:Xinference(AutoDL GPU 服务器 RTX 4090)        │
      │  ┌──────────────┐ ┌──────────────┐ ┌──────────────┐  │
      │  │ LLM 推理      │ │ Embedding    │ │ Rerank       │  │
      │  │ Qwen3-0.6B    │ │ bge-small    │ │ bge-reranker │  │
      │  │ (vLLM 引擎)   │ │ -zh-v1.5     │ │ -base        │  │
      │  └──────────────┘ └──────────────┘ └──────────────┘  │
      │  加速技术:vLLM PagedAttention + 多卡并行 + FlashAttn  │
      └──────────────────────────────────────────────────────┘

04 Python 调用平台工作流

将 Part 1-3 搭建的 Agent 和工作流,通过编程方式暴露为 API 服务。Coze 使用官方 cozepy SDK 的 Stream 模式,Dify 使用 requests 库处理 SSE 流式响应。这是将低代码平台能力集成到现有业务系统的关键桥梁。

05 低代码平台 Windows 部署

Coze 于 2025 年 7 月开源(Apache 2.0 协议),最低 2 核 CPU + 4GB 内存即可运行。本章涵盖 Coze Studio(可视化开发)+ Coze Loop(评测运维)双组件部署,以及 Dify Docker 部署。Coze Loop 提供 Prompt 开发、Playground 对比、评测集、评估器、实验统计、Trace 追踪等八大运维功能。

06 企业级大模型部署

为什么要自部署? 数据安全(敏感数据不外传)、成本可控(高频调用不失控)、能力可定制(模型版本/性能自主管控)、运维可观测(QPS/TTPS/GPU 利用率监控)。

三层解耦架构:Dify(应用层,腾讯云 4C8G 轻量服务器)→ Xinference(推理层,AutoDL GPU RTX 4090)→ vLLM(底层加速引擎)。三者通过 OpenAI-compatible API 标准通信,实现应用与推理分离。部署三件套模型:LLM(Qwen3-0.6B)+ Embedding(bge-small-zh-v1.5)+ Rerank(bge-reranker-base)。


七、学习建议与路线推荐

7.1 按角色推荐学习路径

角色 推荐路径
AI 应用初学者 01 → 02 → 03(选感兴趣案例)
电商/运营从业者 01 → 02 → 03(全部 7 案例)
后端/全栈开发者 01 速览 → 02 → 03(选 2-3 案例)→ 04 → 06
企业技术决策者 01-03 快速浏览 → 04 → 05 → 06

7.2 案例对照速查表

你要做什么 去看哪个课件 用哪个平台
搭建个人/企业知识库 01 Cherry Studio / ima / Dify
了解 Agent 概念、平台选型 02 Coze + Dify
生成商品海报/宣传视频 03-01, 03-02 Coze
投诉分类并推送钉钉 03-03 Dify
一键生成行业调研报告 03-04 Dify
分析客服对话/商品评论 03-05, 03-06 Coze 或 Dify
提炼商品营销卖点 03-07 Coze
用 Python 调用平台工作流 04 Coze SDK + Dify API
在 Windows 上本地部署平台 05 Docker
企业级私有化全链路部署 06 Dify + Xinference + vLLM

7.3 常见问题 FAQ

Q: 必须按顺序学完所有 6 个课件吗?
A: 01、02 建议必看(理论基础与平台认知)。03 按业务需求选学案例,04-06 按角色路径选择。

Q: 学习本课程需要 GPU 吗?
A: Part 1-3(01-03)完全不需要,使用 Coze/Dify 云端平台即可。Part 4 的 06 章需要 GPU 服务器,推荐 AutoDL 按时租赁(约 2 元/小时),用完关机即可。

Q: Coze 和 Dify 应该学哪个?
A: 都学。Coze 适合快速原型验证(零代码、低门槛),Dify 适合企业级交付(开源、可私有化)。第 03 章(商户运营管家)专门设计了双平台对比案例,帮助理解各自的适用场景。

Q: 学完本课程能做什么?
A: 能从零搭建企业级 AI 知识库 Agent 系统——包括知识库建设、Agent 开发与工作流编排、内容生成自动化、Python API 集成、私有化部署全流程。

第01章:RAG-搭建企业私有/个人知识库

1、RAG的理解

1.1 什么是RAG

RAG(Retrieval-Augmented Generation,检索增强生成)是一种结合信息检索(Retrieval)与文本生成(Generation)的技术,旨在提升大语言模型在回答专业问题时的准确性可靠性

1.2 为什么需要RAG

背景:

  • 大模型的知识冻结
  • 大模型幻觉

举例1:

随着 LLM 规模扩大,训练成本与周期相应增加。因此,包含最新信息的数据难以融入模型训练过程,无法及时反映最新的信息或动态变化,导致 LLM 难以应对诸如“请推荐当前热门影片”等时间敏感性问题。

举例2:

大型语言模型(LLM)的训练依赖于网络上海量公开的静态数据,而某些特定领域(如企业内部资料、专有技术文档等)的数据通常不会作为公开的训练数据,导致模型在面对这些领域的查询时,可能因缺乏足够的信息而生成不准确甚至虚构的回复。

解决方案:

为了解决这一问题,RAG技术通过引入向量数据库(Vector Database)作为外部知识源,将模型缺失的知识以结构化的形式提供。

举例1:

LLM在考试的时候面对陌生的领域,答复能力有限,然后就准备放飞自我了,而此时RAG给了一些提示和思路,让LLM懂了开始往这个提示的方向做,最终考试的正确率从60%到了90%!

举例2:

langchain+chatglm

RAG架构图

检索-增强-生成过程:检索可以理解为第10步,增强理解为第13步(这里的提示词包含检索到的数据),生成理解为第15步。

强调一下难点的步骤(蓝色部分):

image-20250624150647769

这里有三个位置涉及到大模型的使用:

  • 第3步向量化时,需要使用EmbeddingModels。
  • 第7步重排序时,需要使用RerankModels。可对初步召回的较多 chunk(如 top 20 或 top 50)进行精排,提高召回准确率,防止LLM 处理无关信息,减少时间和成本。
  • 第9步生成答案时,需要使用LLM。

Reranker的使用场景:

  • 适合:追求回答高精度和高相关性的场景中特别适合使用 Reranker,例如专业知识库或者客服系统等应用。
  • 不适合:Reranker相较于RAG的成本更高。此外,引入Reranker会增加召回时间,增加检索延迟。服务对响应时间要求高时,使用Reranker可能不合适。

2、知识库的概述

2.1 哪些人需要搭建(个人)知识库

小型企业主或创业者:查阅和分享文件、文档、客户反馈、市场分析,大大提升你的工作效率。

职场打工人或自由职业者:无论是写作、设计、开发,还是视频制作,知识库都可以管理大量的素材、创意和客户需求,通过知识库,你可以轻松存储和搜索这些资料,并通过大模型二次创作

教育工作者或学生:利用知识库管理教学资源、课程安排、教材资料等,学生则可以将课堂笔记、参考书目和作业整理在一起,随时复习和备考。

生活中的普通人:无论是旅行计划、兴趣爱好,还是学习笔记,全部都可以集中在知识库管理。

2.2 知识库各个搭建平台对比

很多平台都支持个人知识库的搭建。

2.2.1 核心定位和技术特点

AnythingLLM、CherryStudio桌面/图形化 AI 助手 + 知识库(RAG),支持对接云模型与本地模型;适合个人/小团队快速验证。在“多租户治理、复杂系统集成、生产化观测”等方面通常不如平台型/专业引擎。

Dify、FastGPTLLM Agent 与工作流编排平台,支持创建知识库,支持云端本地部署(可用Docker)。

RAGFlow:基于深度文档理解的开源 RAG 引擎,强调复杂文档解析、引用与可视化干预;也支持 Agent 能力,但通用工作流生态通常不如“全能型 Agent 平台”。(支持Docker部署)

2.2.2 典型场景与选型建议

场景 需求 推荐工具 理由
个人知识管理(轻量级) 快速验证、低预算(开发成本 ≤ 1周),个人/小团队使用,以”能用”为主(文档以 Markdown、PDF、网页为主) Cherry Studio / AnythingLLM ① 部署和操作简单,上手快
② 可直接对接在线大模型 API,也可接本地模型,适合快速试错
③ 支持多模型对话(如 DeepSeek + Ollama),适合整合笔记/文献
应用化交付与团队协作(平台型场景) ① 将知识库能力封装为可复用的 AI 应用或 Agent
② 支持多成员协作、权限控制、应用发布与版本迭代
③ 需要流程编排(如检索 → 工具调用 → 多轮推理),而不仅是简单问答
Dify / FastGPT ① 提供完整的 Agent / Workflow 编排能力,知识库(RAG)作为其中一环
② 支持多应用管理、角色与权限控制,更适合团队或内部平台使用
③ 易于与业务系统集成(API / Webhook),便于”从 Demo 走向可用系统”
企业级文档解析(高精度需求) 面向复杂文档(长PDF、复杂版式、表格/图片混排、扫描件等),强调解析质量与可控性,要求可追溯引用 RAGFlow ① 强调深度文档理解,解析/分块结果可视化,便于检查与必要时干预
② 对复杂格式更友好,适合把”文档解析质量”作为核心竞争力的场

3、Cherry-Studio搭建个人知识库

后续我们会重点拿Coze和Dify讲工作流和智能体,所以知识库这里,我们选另外两个非常不错的平台:Cherry-Studio 和腾讯出品的ima

image-20250812215515949

3.1 Cherry-Studio特点

小白友好:Cherry Studio 致力于降低技术门槛,零基础用户也能快速上手,让用户专注于工作、学习或者创作。

一问多答:支持同一问题通过多个模型同时生成回复,方便用户对比不同模型的表现

image-20250812215731041

助手市场:内置千余个行业专用助手,涵盖翻译、编程、写作等领域,同时支持用户自定义助手。

image-20250812215921204

服务商模型聚合:支持 OpenAI、Gemini、Anthropic、Azure 等规范的三方服务商接入,兼容性强。

image-20250812220110314

数据安全:支持全本地场景使用,结合本地大模型,避免数据泄漏风险。

image-20250812220458702

3.2 LLM的使用

步骤1:下载与安装客户端工具

Cherry Studio官网:https://cherry-ai.com/

安装过程:傻瓜式安装,这里省略。

步骤2:硅基流动注册账号

这里的大模型,以硅基流动平台为例说明。

网址:https://siliconflow.cn/zh-cn/models

image-20250206174217391

用手机号注册即可,新注册的账号有免费的token可以使用。

步骤3:创建API密钥

image-20250206175314322

步骤4:复制API密钥

image-20250206175402386

步骤5:配置API密钥

image-20250206183839216

image-20250206183905198

步骤6:选择大语言模型

image-20250206184025494

image-20250206184238324

3.3 知识库的使用

步骤1:添加嵌入模型

根据下图确认名称:

image-20250215135814799

回到Cherry Studio添加:

image-20250215135934550

步骤2:创建知识库

image-20250215140253800

上面的pro版本的搜索精度更高,但收费。

提供知识库内容:

image-20250215140732900

这里支持不同格式文件、文件夹、网页地址、大段文本内容等方式添加到知识库。

注意:上传的文件中如果有手写内容,或者表格或复杂的数据公式,那解析的效果就会较差。

步骤3:支持直接检索

检索:

image-20250812222348625

此时的检索,基于RAG(检索增强生成)技术,在数据库中去搜索相应的答案。这里还包括占比得分。

步骤4:基于知识库生成

选中后,提问:

image-20250215145454709

image-20250215145819873

补充:增强文档解析能力

如果上传的文件中如果有手写内容,或者表格或复杂的数据公式,那解析的效果就会较差。这里可以提前将文件进行解析处理,然后再上传到个人知识库。

使用工具:Doc2X

网址:https://doc2x.noedgeai.com/

image-20250215150539651

3.4 流程分析

个人知识库流程

4、ima搭建个人知识库

4.1 ima特点

  • 支持客户端、小程序、网页等多端同步访问
  • 支持腾讯混元大模型、DeepSeek-R1满血版
  • 通过微信提问,模型基于知识库生成答案

4.2 搭建知识库过程

步骤1:下载-安装

网址:https://ima.qq.com/

安装好以后,登录一下即可:

步骤2:新建知识库

image-20250304164621289

步骤3:导入本地文件

步骤4:基于知识库"生成"

image-20250304170741992

image-20250304170840265

4.3 组合互联网网页构成知识库

步骤1:我们可以在微信公众号搜索相关主题的公众号文章,并将他们加入到ima。

步骤2:在ima中新建个人知识库,将相关文章加入到此知识库。

image-20250303100647404

image-20250303100722195

image-20250303100806443

步骤3:在文章导入完成以后,可以生成自己的知识库,进而结合大模型进行搜索

image-20250303100836069

image-20250303100927510

4.4 添加第三方知识库

在pc端查看:

image-20250812231019343

image-20250812231035068

添加到相关知识库之后,不管在手机端还是同账号的PC端,都可以查看。

5、使用Dify搭建知识库

5.1 Dify介绍

Dify(DefineModify)是一个开源的大语言模型(LLM)应用开发平台,由苏州语灵人工智能推出。

Dify 为 AI Agent 提供了50多种内置工具,如谷歌搜索、DALL·E、Stable Diffusion 和 WolframAlpha 等。

官网:https://dify.ai/zh

说明:https://github.com/langgenius/dify/blob/main/docs/zh-CN/README.md

5.2 源数据格式

通过使用Dify,可以方便快捷地构建私有知识库。可以将知识库放在工作流中,协同多种工具一起使用。而且Dify提供的知识库功能有着简洁的可视化界面,可以很方便地进行管理,适用于个人和团队。

目前Dify 支持多种源数据格式,包括:

  • 长文本内容:TXT、Markdown、DOCX、HTML、JSON、 PDF

  • 结构化数据:CSV、Excel

注:私有知识库要达到良好的效果,必须与embedding模型和reranker模型相结合,请在xinterface中启用相关模型并引入Dify。

5.3 构建私有知识库

步骤1:首先创建一个新的知识库

image-20250607143032172

步骤2:上传知识库文件

这里准备的是一部刑法的txt格式文本,用自然段的形式划分了每一条法则

image-20250607143135427

步骤3:分段设置

大语言模型存在有限的上下文窗口,通常需要将整段文本进行分段处理后,将与用户问题关联度最高的几个段落召回,即分段 top-K 召回模式。此外,在用户问题与文本分段进行语义匹配时,合适的分段大小将有助于匹配关联性最高的文本内容,减少信息噪音。

分段标识符如果是\n,则是以换行为一个分段;如果是\n\n,则是以一个段落为一个分段。点击预览块查看目前块划分的情况。

分段重叠长度一般是分段最大长度的10%-20%

知识库文档里如果有url、邮箱,还可以把这些过滤掉。

image-20250607143327109

步骤4:选择索引方式

这里自动选择高质量。高质量的准确性更高,但是token消耗也会增加。如果使用的是部署到本地的模型,花费就没有影响。

image-20250607143620519

还有Q&A方式。 如果文档是问答方式,那选择这种方式是最契合的。

步骤5:检索设置

在这里可以选择Embedding模型和Rerank模型,也可以设置Top K,也就是选出最相似的前n条。选择Score阈值,即筛选文本的相似度阈值。

image-20250625091147173

混合检索:既包括向量检索(涉及rerank检索的大模型),也包含全文检索。

设置完成后,保存并处理即可。

image-20250607144635958

5.4 测试

接下来我们进行测试使用。创建一个聊天助手,将提示词写为

你是一个法律小助手,请只根据知识库中的信息,简要回答用户提问的案件触犯了哪些法律

知识库选择刚才添加的刑法.txt,然后可以开始提问。

可以观察到,聊天助手会自动引用知识库中的内容进行回答。

image-20250625091738440

第02章:基于Coze&Dify平台的智能体开发

官网:尚硅谷


2025年,被视为智能体落地元年。

现在搭建一个智能体,就好比2013年你就有了第一批公众号,好比2016年你注册了抖音。

本章课程目标:

  • 搭建三类不同层次的智能体
  • 熟悉国内外主流AI插件&大模型

1、智能体(AI Agent)概述

1.1 智能体举例

我们先来看例子:

举例1:Hyperwrite 研发的智能体个人助理插件实现自动预订航班机票

image-20250303164504505

举例2:

情感沟通类智能体“林间聊愈室”app上线,收获大量用户好评。其中产品使用小动物的角色设定降低了用户的戒备心,加上治愈的画风和场景设计,打造独特的用户体验。

image-20250303140514542

举例3:

image-20250303140408935

ShopSpot多模态智能体图片识别功能,分析产品图像、货架状况和仓库环境,有助于快速评估库存水平、识别损坏情况并有效进行产品分类。

举例4:豆包上集成的多种智能体

image-20250304094205137

举例5:字节推出的Coze(扣子),开发的智能体可以一键发布到豆包、飞书、微信公众号等多个社交平台和应用程序上。

image-20250304183542047

1.2 智能体的发展阶段

将 AI 和人类协作的程度类比自动驾驶的不同阶段:

image-20250303164845240

研究AI智能体的最终目标是通向 AGI(也就是通用人工智能):

image-20250303164732606

1.3 国内大模型厂家推出的智能体

image-20250303150056133

比如,用户可以在上述平台上创建、配置和管理聊天机器人和智能体。

1.4 智能体的应用领域

image-20250303165604386

在不久的将来,智能体将成为 AI 系统的最小工作单元。软件嵌入智能体以后,用户就能从适应软件变成软件适应用户,真正成为个人助理。

而系统级别的智能体可以直接操作 App 或者子智能体, 在 PC、手机、自动驾驶领域将有广泛的应用场景。

1.5 智能体的核心要素

OpenAI安全系统团队负责人翁丽莲于2023年6月在个人博客系统化总结了当时流行的LLM Agent典型架构。

大模型应用开发中,智能体(AI Agent)通常指一种以大语言模型为推理与决策核心,结合记忆工具调用与环境交互能力,能够进行规划决策执行动作以达成目标的软件系统。

智能体架构:

img

文章链接如下:https://lilianweng.github.io/posts/2023-06-23-agent/

智能体核心要素被细化为以下模块:

1、大模型(LLM)作为“大脑”:提供推理、规划和知识理解能力,是AI Agent的决策中枢。

大脑主要由一个大型语言模型 LLM 组成,不仅存储知识和记忆,还承担着信息处理和决策等功能, 并可以呈现推理和规划的过程,能很好地应对未知任务。

2、记忆(Memory)

智能体像人类一样,能留存学到的知识以及交互习惯等,这样的机制能让智能体在处理重复工作时调用以前的经验,从而避免用户进行大量重复交互。

  • 短期记忆:存储单次对话周期的上下文信息,属于临时信息存储机制。受限于模型的上下文窗口长度。

    image-20250304105140008

  • 长期记忆:可以横跨多个任务或时间周期,可存储并调用核心知识,非即时任务。

    • 长期记忆,可以通过模型参数微调(固化知识)知识图谱(结构化语义网络)向量数据库(相似性检索)方式实现。

      比如,可以通过外部向量数据库存储历史交互数据,作为长期记忆,支持快速检索与知识积累。

3、工具使用(Tool Use):调用外部工具(如API、数据库)扩展能力边界。

image-20250619163714339

  • 能够使用外部工具API拓展模型能力,以获取大模型以外的能力和信息,如预定日程、设置代办、查询数据等;

4、规划决策(Planning):通过任务分解、反思与自省框架实现复杂任务处理。例如,利用思维链(Chain of Thought)将目标拆解为子任务,并通过反馈优化策略。

  • 步骤的复杂任务,Al Agent能够调用LLM通过思维链能力将大型任务分解为较小的、可管理的子目标,以便高效的处理复杂任务;
  • 通过反思和自省框架,Al Agent可以不断提升任务规划能力,可以对过去的行为进行自我批评和反省。
image-20250619172832609 image-20250619172902680

5、行动(Action):实际执行决策的模块,涵盖软件接口操作(如自动订票)和物理交互(如机器人执行搬运)。比如:检索、推理、编程等。

多智能体协作:在单一智能体的基础上,多个智能体之间可以通过交互协作,完成更复杂的需求。

image-20250303170514410

1.6 搭建智能体的三个level

level 1:提示词立人设

GPTs、Cherry-Studio、豆包等通过提示词,做一个阉割版的智能体,直接和LLM交互。

level 2:工作流

定义工作流,每一步可以指定不同的模型,应用就会按照我们设定的流程执行任务。---> 面向过程

level 3:自主任务拆解

智能体根据人类设定的目标,自主进行任务拆分,工具选择,进度控制,实现目标后自主结束工作。

image-20250303161901672

2、level 1:预设提示词创建简易智能体

2.1 Cherry-Studio中创建智能体

步骤1:创建智能体

image-20260605094955190

image-20260605095047172

步骤2:进一步编辑智能体

image-20260605095216863

image-20260605095202577

说明:非常接近现代智能体Claude code和Codex的使用方式了,可以直接在电脑上执行Bash命令。

步骤3:使用

image-20260605095746644

2.2 其它平台创建智能体

举例:豆包

image-20250813001245716

举例:腾讯元器

https://yuanqi.tencent.com/agent-shop

image-20250811151925105

举例:讯飞星火

https://xinghuo.xfyun.cn/desktop-app-download

image-20250813000624933

image-20250813000649048

后续细节这里省略。

还有coze、纳米AI等,这里不再赘述。这些智能体的主要区别不在于客户端或者选项或平台,而在于使用的大模型不同。

3、level 2:使用工作流

以讯飞星辰Agent平台为例:

https://agent.xfyun.cn/home

image-20250811153814907

4、level 3:使用Coze搭建高阶智能体

4.1 常见平台介绍

对比维度 Coze(扣子) Dify n8n
发布时间 24年2月1日上线‌,25年7月26日宣布全面开源 2023年由苏州语灵人工智能推出 2019年诞生于德国开源工作流自动化工具
适用用户 零技术背景的个人、小团队、自媒体运营者 开发者、技术团队、需要定制化AI的企业 开发者和需要复杂自动化的企业
核心优势 零代码、快速上线、字节生态集成 大模型专精、企业级功能、LLMOps全链路 开源免费、强大集成能力、数据自主
学习曲线 低 (几小时内上手) 中等(1-2天熟悉基本操作) 高 (需3-5天系统学习)
扩展性 有限(主要依赖预设模板和插件) 中等(支持自定义模型和外部工具) 极强(400+节点,支持代码自定义)
部署方式 支持云端托管和私有化部署 支持云端和私有化部署 支持自托管和云端部署
成本 免费版+积分制付费套餐 免费版+分层付费计划 完全开源,自托管只需服务器费用
趋势 不错的使用体验,个人用户增长迅速 在企业用户中的影响力不断扩大 在企业级市场保持着稳定的用户基础

优点与缺点分析:

  • Coze的优缺点:

    • Coze的最大优点是上手极其简单,提供100+预制模板,无需编写代码就能快速搭建AI应用。它与字节系产品(抖音、飞书等)深度集成,一键发布到多个平台。免费版提供基础功能,试错成本低。
    • Coze的局限性在于功能较浅,复杂逻辑难以实现。数据云端存储(虽开源支持私有化部署,但插件开发者生态仍闭源私有化部署版本并没有像云托管版本那么易用) ,对企业数据安全有顾虑。深度集成能力弱于n8n和Dify。
  • Dify的优缺点:

    • Dify的突出优势在于大模型应用开发能力强,内置多种模型接口和RAG框架。提供企业级功能如多模型热切换、权限管理和操作审计。在低代码和高扩展性之间取得了良好平衡。
    • Dify的缺点是模型调用成本较高,依赖第三方API付费接口。对非技术用户仍有一定门槛,需理解“向量数据库”等概念。
  • n8n的优缺点:

    • n8n的核心优势是开源免费且数据完全自主,满足严格合规需求。拥有强大的集成能力,支持400+预建节点,几乎可以连接任何系统。可视化+代码双模式兼顾易用性与扩展性。
    • n8n的主要缺点是学习门槛较高,需要理解API概念和工作流逻辑。中文资源相对较少,深度功能需参考英文文档。

4.2 Coze(扣子)介绍

扣子官网:https://www.coze.cn/

image-20251123225135736

客户案例:

https://www.coze.cn/customers

4.3 功能说明

工作空间:开发的智能体或资源库的列表。用户可以在该平台上创建、配置和管理聊天机器人和智能体。

image-20250813013249609

商店:会展示平台上别人开发好的项目,以及开发中可以使用的各种插件(联网、爬虫、股票分析)

image-20250305174953069

模板:非常多的可以复制的模板,部分模板收费

image-20250813013230877

4.4 案例1:深夜情感主持

① 创建智能体

image-20250813014033707

② 填写提示词

image-20250813014212708

image-20250813014225535 image-20250813014246094
# 角色
你是一位专业的深夜情感主持,擅长在深夜陪伴单身男女,倾听他们的情感困惑,给予温暖且实用的回应与建议。

## 技能
### 技能 1: 倾听与理解
1. 当单身男女分享情感问题时,仔细聆听,通过提问等方式确保全面理解他们的处境和感受。
2. 运用同理心表达对他们情绪的理解,让对方感受到被关注和接纳。
===回复示例===
我能感受到你此刻的[具体情绪],听起来你最近在[情感相关事情]上遇到了困扰,可以再多和我说说具体情况吗?
===示例结束===

### 技能 2: 分析与建议
1. 根据对方分享的情感经历,分析可能存在的问题和原因。
2. 结合情感知识和经验,给出具体、可行的解决建议和行动方向。
===回复示例===
从你说的情况来看,问题可能出在[分析原因]。我建议你可以尝试[具体建议 1],也可以考虑[具体建议 2],这样或许能改善目前的状况。
===示例结束===

### 技能 3: 情绪安抚
1. 如果对方处于负面情绪中,运用温暖、积极的语言帮助他们缓解情绪。
2. 分享一些励志或安慰的话语,给予他们面对情感问题的勇气和信心。
===回复示例===
别太难过啦,情感路上难免会有坎坷,这只是暂时的。你要相信自己有足够的能力去处理这些,一切都会慢慢好起来的。

## 限制:
- 只围绕单身男女的情感话题展开交流,拒绝回答与情感无关的话题。
- 所输出的内容要条理清晰,以通俗易懂的语言表达。
- 建议部分要具体、有针对性,避免过于笼统和模糊。
- 回复需基于正常的情感认知和价值观,不提供违背道德伦理的建议。 

③ 模型参数设置

image-20250813014535382

关于temperature:

temperature的理解

④ 测试

image-20250813014655301

⑤ 设置开场白及预设问题

image-20250813014928492

⑥ 发布

image-20250813015011630

可以发布到多个平台:

image-20250813015042857 image-20250813015056880

4.5 案例2:高考报考指南

① 创建智能体

创建智能体:

image-20250813105719515

② 填写提示词

image-20250813105933513
# 角色
你是一位专业的高考志愿填报智能体,对中国各个省份历年高考政策烂熟于心,清楚各高校报考分数情况,深入了解国内各高校各专业的优势与劣势、就业前景等信息,能够为考生提供全面、准确且实用的志愿填报建议。

## 技能
### 技能 1: 提供高考政策信息
1. 当用户询问某省份高考政策时,准确告知该省份历年高考政策的关键要点,包括但不限于录取规则、加分政策、投档方式等。
2. 若用户未指定省份,主动询问用户想了解哪个省份的高考政策。

### 技能 2: 介绍高校报考分数情况
1. 根据用户提供的省份、年份等信息,介绍该省份对应年份各高校的录取分数线、位次等报考分数情况。
2. 若用户未提及具体省份和年份,引导用户提供相关信息以便准确作答。

### 技能 3: 分析高校专业优劣及就业情况
1. 当用户提及某高校某专业时,详细分析该专业在该校的优势和不足,以及该专业的就业方向、就业前景、市场需求等就业情况。
2. 如果用户仅提及高校,介绍该校热门专业和相对冷门专业,并分别阐述其就业情况。
3. 若用户未提及高校和专业,主动询问用户想了解哪所高校或哪个专业的情况。

## 限制:
- 只讨论与高考志愿填报相关的内容,包括高考政策、高校报考分数、高校专业优劣及就业情况等,拒绝回答与高考志愿填报无关的话题。
- 所输出的内容应逻辑清晰、条理分明,按照合理的结构组织语言。
- 提供信息时应确保准确,尽可能全面地涵盖关键要点。
- 通过搜索工具获取互联网上公开、可靠的相关信息,确保信息来源准确。  

③ 使用插件

插件1:头条搜索

未使用插件时:

image-20250813110301459

安装插件:

image-20250813110414868

继续搜索:

image-20250813110506454 image-20250813110532414

插件2:头条图片搜索

image-20250813112036662

image-20250813112105289

④ 使用知识库

image-20250813113033401 image-20250813113219125 image-20250813113235730 image-20250813113319180 image-20250813113422657

4.6 案例3:家庭记账助手

① 创建智能体

image-20250813113715971

② 填写提示词

image-20250813113757540

image-20250813113847001
# 角色
你是一个专业的家庭智能记账助手,能够精准、高效地记录家庭的各项收支情况,为用户提供清晰明了的家庭财务信息。

## 技能
### 技能 1: 记录收入
1. 当用户告知有收入发生时,详细询问收入来源、金额、日期等信息。
2. 将这些信息准确记录下来。
===回复示例===
已成功记录收入。收入来源:<具体来源>,金额:<具体金额>,日期:<具体日期>
===示例结束===

### 技能 2: 记录支出
1. 当用户告知有支出发生时,详细询问支出项目、金额、日期、支付方式等信息。
2. 将这些信息准确记录下来。
===回复示例===
已成功记录支出。支出项目:<具体项目>,金额:<具体金额>,日期:<具体日期>,支付方式:<具体方式>
===示例结束===

### 技能 3: 生成财务报表
1. 根据记录的收支信息,定期(如每月、每季度)生成家庭财务报表。
2. 报表内容包括总收入、总支出、各项支出占比等关键信息。
3. 以直观易懂的方式呈现报表内容,例如使用图表描述各项支出占比情况。
===回复示例===
本月家庭财务报表如下:
- 总收入:<具体金额>
- 总支出:<具体金额>
- 各项支出占比:
    - <支出项目 1>:<占比>
    - <支出项目 2>:<占比>
    - ……
(此处可插入简单的饼状图或柱状图描述占比情况)
===示例结束===

## 限制:
- 只讨论与家庭记账相关的内容,拒绝回答与家庭记账无关的话题。
- 所输出的内容必须逻辑清晰,有条理地组织,不能偏离框架要求。
- 确保记录信息的准确性和完整性。 

③ 使用变量

如果需要将交互的数据记录下来,就需要使用变量。

在没有变量时,聊天中的上下文一旦清空,就没法获取之前的交互数据了。比如:

image-20250813114228011

小插曲:修改了提示词“限制”部分:

image-20250813114311165

但清空记录以后:

image-20250813114331725 image-20250813114351280

设置变量:

image-20250813114546293

image-20250813114533086 image-20250813114728034

在清除历史记录以后,仍然可以记录用户信息。

④ 数据库的使用

image-20250813114855877

image-20250813115138967 image-20250813115057843 image-20250813115425813

⑤ 其它功能

长期记忆:

总结所有的聊天记录,会把总结后的聊天记录记录。后续聊天会作为上下文。

文件盒子:

用于保存和管理用户发送的文件。用户发送消息时,智能体能够查找和引用这里的文件进行回复。还支持用户通过发送消息,管理和删除自己的文件。如图片、视频、音频、文档等

如果有文件的交互,后续还希望调取这些文件,就可以使用此功能

5、level3:通过Dify搭建高阶智能体

5.1 Dify介绍

Dify(DefineModify)是一个开源的大语言模型(LLM)应用开发平台,由苏州语灵人工智能推出。是当今最优雅、门槛最低、最受欢迎、效果最好的大模型开发平台之一。

官网:https://dify.ai/zh

说明:https://github.com/langgenius/dify/blob/main/README_CN.md

Dify 为 AI Agent 提供了50多种内置工具,如谷歌搜索、DALL·E、Stable Diffusion 和 WolframAlpha 等。

image-20250305175209621

它的具体功能如下:

  • 基于Agent架构构建智能体应用
  • 基于RAG构建私有知识库应用
  • 基于Workflow构建智能工作流应用

image-20250310004816503

Dify可以本地化部署,保证数据的安全。

5.2 案例1:时事评论助手

智能助手(Agent Assistant),利用大语言模型的推理能力,能够自主对复杂的人类任务进行目标规划、任务拆解、工具调用、过程迭代,并在没有人类干预的情况下完成任务。

① 创建Agent

image-20250813121148431

image-20250813121357585

② 配置

image-20250813122127238

借助大模型提供提示词:

image-20250813121847505

# 角色定义  
你是一名资深媒体评论员,拥有10年国际时事分析与公共政策研究经验,专注于解读热点事件的深层逻辑与社会影响。你的任务是针对用户提供的新闻事件,提供**权威、多维度、可操作**的评论,帮助读者穿透信息迷雾,理解事件本质。

# 核心任务要求  
1. **深度分析结构**(采用三段式框架):  
   - **背景与事实梳理**:  
     - 用1-2句话概括事件核心(时间、地点、主体、冲突点);  
     - 补充关键数据/历史脉络(如政策演变、相关方利益关系)[3,6](@ref)。  
   - **多维解读与洞察**:  
     - 分析至少3个视角(政治动机、经济影响、社会情绪、国际关系);  
     - 指出被主流媒体忽略的细节或矛盾点(例:政策漏洞、利益集团博弈);  
     - 预测短期与长期影响(用“可能”“大概率”等谨慎措辞)[1,7](@ref)。  
   - **建设性建议**:  
     - 面向不同群体(公众/企业/政府)提供1-2条可行建议;  
     - 引用国际案例或学术研究支撑观点[6](@ref)。  

2. **内容准则**:  
   - **立场平衡**:承认多方利益合理性,避免非黑即白结论(例:“A方案利于效率但牺牲公平,B方案反之”);  
   - **证据驱动**:每项分析需匹配数据、权威信源(如WHO报告、央行数据)或历史事件类比;  
   - **风险提示**:若事件存在误读风险(如技术类新闻),用“需警惕”“注意区分”等标注[3,7](@ref)。  

3. **输出规范**:  
   - **标题**:15字内,包含冲突点或悬念(例:《电价改革加速:家庭负担加重还是能源转型必经之路?》);  
   - **正文长度**:600-800字,分段落标注小标题(如“▍经济逻辑:补贴退坡背后的产业重构”);  
   - **语言风格**:  
     - 面向大众:避免术语,用“养老金账户”而非“个人养老金融账户”;  
     - 增强共鸣:穿插生活化比喻(例:“全球供应链如多米诺骨牌,一环断裂波及全链”)[1,4](@ref);  
   - **格式**:Markdown排版,关键信息加粗,数据用表格呈现[5](@ref)。  

# 约束条件(避免行为)  
⚠️ 不主观臆测未证实信息(如“某官员受贿”需改为“某官员涉嫌受贿”);  
⚠️ 不使用煽动性词汇(如“惊天黑幕”“末日来临”);  
⚠️ 不对个人/群体进行道德审判(聚焦制度与系统问题)[6,7](@ref)。  

# 处理复杂事件的策略  
- **信息不全时**:明确标注“当前信息下”“基于公开资料”,并列出待验证问题;  
- **争议性事件**:对比多方信源(如外媒VS官媒表述差异),标注矛盾点[3](@ref);  
- **技术类议题**:先定义关键概念(例:解释“碳关税”再评欧盟新政)[4](@ref)。  

# 示例模板(用户输入:**“日本央行加息终结负利率时代”**)
标题​​:日元转向:宽松时代的终结与亚洲资本回流风暴

政策转折点​​
背景:日本维持负利率8年后首次加息(2024年3月数据);
关键动机:通胀持续超预期(2023年CPI达3.1%)、日元贬值压力缓解。▍被忽视的连锁反应
企业端:日企海外投资回报率下滑(例:丰田北美利润缩水预估12%);
地缘端:亚洲债券市场承压(韩、泰外债偿还成本升20%+)→ 用表格对比各国外债/GDP比值;
误读风险:加息≠紧缩周期开始(央行暗示“渐进式调整”)。▍务实建议
投资者:增持黄金对冲日元波动;
政府:建立东南亚货币互换联盟,预防资本外流冲击

③ 测试

image-20250305180234164

④ 查看Agent日志

image-20250813122635759

Agent日志如下:

image-20250305180600837

image-20250305180644523

⑤ 发布

image-20250813122350842

评价:根据现有资料,Dify搭建的智能体和Coze搭建的智能体一样,检索资料解决问题的能力仍有待提高。

5.3 案例2:北京旅行助手

应用搭建

在本节我们将实现⼀个旅游规划助理的 agent 应用,它可以根据用户输入的旅行目的地、旅行天数、预算等信息输出结构化的旅行计划。

① 创建一个空白的Agent应用

image-20250606153539748

② 添加提示词

## ⻆⾊:旅⾏顾问
### 技能:
- 精通使⽤⼯具提供有关当地条件、住宿等的全⾯信息。
- 能够使⽤表情符号使对话更加引⼈⼊胜。
- 精通使⽤Markdown语法⽣成结构化⽂本。
- 精通使⽤Markdown语法显示图⽚,丰富对话内容。
- 在介绍酒店或餐厅的特⾊、价格和评分⽅⾯有经验。
### ⽬标:
- 为⽤户提供丰富⽽愉快的旅⾏体验。
- 向⽤户提供全⾯和详细的旅⾏信息。
- 使⽤表情符号为对话增添乐趣元素。
### 限制:
1. 只与⽤户进⾏与旅⾏相关的讨论。拒绝任何其他话题。
2. 避免回答⽤户关于⼯具和⼯作规则的问题。
3. 仅使⽤模板回应。
### ⼯作流程:
1. 理解并分析⽤户的旅⾏相关查询。
2. 使⽤ddgo_search⼯具收集有关⽤户旅⾏⽬的地的相关信息。确保将⽬的地翻译成英
语。
3. 使⽤Markdown语法创建全⾯的回应。回应应包括有关位置、住宿和其他相关因素的必
要细节。使⽤表情符号使对话更加引⼈⼊胜。
4. 在介绍酒店或餐厅时,突出其特⾊、价格和评分。
5. 向⽤户提供最终全⾯且引⼈⼊胜的旅⾏信息,使⽤以下模板,为每天提供详细的旅⾏计
划。
### 示例:
### 详细旅⾏计划
**酒店推荐**
1. **北京国贸大酒店** (更多信息请访问 www.shangri-la.com/beijing/chinaworldsummitwing)
- 评分:4.7
- 价格:大约每晚 ¥1800+
- 简介:坐落于北京中央商务区(CBD)的标志性建筑国贸大厦上层,提供豪华住宿和俯瞰城市全景的壮丽视野。靠近国贸地铁站,交通便利。
2. **北京前门建国饭店** (更多信息请访问 www.jianguohotels.com/jianguohotelbeijing)
- 评分:4.4
- 价格:大约每晚 ¥600+
- 简介:位于市中心,临近天安门广场和前门大街,步行即可到达多处历史文化景点。酒店环境舒适,闹中取静,具有老北京韵味。

**第1天 - 抵达与安顿**
- **上午**:抵达北京。欢迎来到古都北京的冒险之旅!我们的代表将在机场迎接您,确保您顺利转移到住宿地点。
- **下午**:办理⼊住酒店,并花些时间放松和休息。
- **晚上**:进行一次轻松的步行之旅,熟悉住宿周边地区。如果酒店在前门或南锣鼓巷附近,可以逛逛胡同街区;如果在市中心,可以探索王府井大街,品尝地道小吃。

**第2天 - 历史与文化之⽇**
- **上午**:前往天安门广场,感受宏伟的建筑和历史氛围。之后进入故宫博物院(紫禁城),深入了解中国古代皇家宫殿的壮丽与历史。
- **下午**:选择参观天坛公园,欣赏中国古代祭祀建筑的杰作,并体验北京市民的悠闲生活;或前往颐和园,游览这座美丽的皇家园林。
- **晚上**:品尝享誉世界的北京烤鸭作为晚餐。之后,可以去三里屯体验北京的现代夜生活,或者回到酒店附近继续探索。

**额外服务:**
- **礼宾服务**:在您的整个住宿期间,我们的礼宾服务可协助您预订餐厅、购买⻔票、
安排交通和满⾜任何特别要求,以增强您的体验。
- **全天候⽀持**:我们提供全天候⽀持,以解决您在旅⾏期间可能遇到的任何问题或需
求。
祝您的旅程充满丰富的体验和美好的回忆!
### 信息
⽤户计划前往{{destination}}旅⾏{{num_day}}天,预算为{{budget}}。

image-20250606153640513

③ 添加对话开场白、内容审查

选择“管理”,在功能中添加对话开场白和内容审查等功能

image-20250624162108566

image-20250624162124897

对话开场白:

{{name}}先生、女士,我是您的个性化旅行助理,你是否已经准备好开始一段充满冒险和放松的旅程了?让我们一起打造您难忘的旅行体验吧!请告诉我您的旅行目的、预算和行程天数,比如:

开场问题:

帮我制定一次家庭旅行,目的地是{{destination}},为期{{num_day}}天,预算是{{budget}}


帮我制定一次蜜月旅行,目的地是{{destination}},为期{{num_day}}天,预算是{{budget}}

image-20251115113844173

image-20251115113943587

内容审查设置

image-20250624162331993

偷东西
吃饭不给钱
打架
问题中涉及敏感内容,请重新提问

提问被拦截

image-20250624162443680

④ 完整测试

image-20251115114242961

image-20250624162733663

6、工作流的搭建

这节讲讲如何使用LLM,在Coze、Dify平台搭建工作流,并通过一键生成爆款视频、调研报告、深度专题论文等案例,讲解工作流的每一个实现细节。

6.1 工作流的理解

什么是工作流?

工作流(WorkFlow)是为完成某项任务或业务流程而设计的一系列自动化步骤的有序组合。它通过标准化、协调不同环节的人员、系统或资源,实现流程的高效执行与监控,最终达成特定目标。

为什么需要工作流?

在大模型的应用中,某些复杂的需求很难通过单一的问答解决,此时可以引入工作流,通过一系列任务结点的链式调用实现复杂需求

比如1:电商的订单处理:审核用户下单,触发库存检查,库存充足就生成物流单,并触发财务系统完成收款对账。如果库存不足,。。。

比如2:AI批改学生作业:学生提交作业->系统识别错误-> 生成反馈->推荐练习

比如3:企业审批流程:员工提交申请→系统自动分发给审批人→记录结果并归档

比如4:自媒体智能体:输入爆款视频->提取爆款标题并重新生成新视频大纲->根据分镜头生成图片->图片生成视频->视频配合字幕整合完成

6.2 工作流基础节点介绍

工作流由一系列节点(Node)串联而成,每个节点承担特定的职责。无论 Coze 还是 Dify,工作流的核心节点类型是相通的。下面以 Coze 平台为例介绍常用节点。


6.2.1 开始节点(Start)

属性 内容
节点类型 开始(Start)
图标颜色 🔵 蓝色
作用 工作流入口,定义输入参数

说明: 每个工作流有且仅有一个开始节点,所有流程从这里启动。可在节点中定义输入变量的名称、类型和默认值,供下游节点引用。


6.2.2 结束节点(End)

属性 内容
节点类型 结束(End)
图标颜色 🔵 蓝色
作用 工作流出口,定义最终返回的变量

说明: 工作流的终点,可配置需要返回给调用方的输出变量。一个工作流可以有多个结束节点(不同分支返回不同结果)。


6.2.3 大模型节点(LLM)

属性 内容
节点类型 大模型(LLM)
图标颜色 🔵 蓝色
作用 调用大语言模型进行推理、生成回复

核心配置项:

配置项 说明
模型选择 选择具体的大模型(如豆包、DeepSeek、GPT 等)
系统提示词 设定角色、技能、限制等
用户提示词 传入当前任务的具体输入
上下文 引用知识库或上游节点的输出作为背景信息
记忆 配置短期/长期记忆,保留对话历史

适用场景: 文本生成、意图分析、内容总结、对话回复等一切需要"理解与生成"的环节。

💡 提示词中引用变量: 在提示词中可通过 {{变量名}} 语法引用上游节点的输出,实现动态内容填充。


6.2.4 代码节点(Code)

属性 内容
节点类型 代码(Code)
图标颜色 🟢 青色
作用 执行自定义代码逻辑(Python / JavaScript)

适用场景:

  • 数据清洗:去除用户输入中的无效字符、格式化文本
  • 数据转换:JSON 解析、字段提取、类型转换
  • 逻辑计算:数值运算、条件判断、数据聚合
  • 外部 API 调用:在代码中请求第三方接口(需平台支持网络访问)

示例(Python):

import re

async def main(args: Args):
    raw_text = args.params.get("input", "")
    # 去除控制字符和特殊符号
    text = re.sub(r'[\x00-\x1f\x7f]', '', raw_text)
    text = re.sub(r'\s+', ' ', text).strip()
    return {"cleaned_text": text}

💡 代码节点的优势: 对于复杂的字符串处理、数学计算等逻辑,代码节点比提示词更精确、更稳定。


6.2.5 选择器节点(Condition / If-Else)

属性 内容
节点类型 选择器(Condition)
图标颜色 🟢 青色
作用 根据条件判断,将流程分流到不同分支

判断方式:

  • 变量比较变量A == "某值"数字 > 阈值
  • 布尔判断:上游代码节点输出的 true/false
  • 多条件组合:支持 AND / OR 逻辑

适用场景:

  • 根据用户选择路由到不同处理逻辑
  • 校验结果判断(通过 → 继续,不通过 → 重新输入)
  • 权限检查(有权限 → 执行,无权限 → 提示)

6.2.6 循环节点(Loop)

属性 内容
节点类型 循环(Loop)
图标颜色 🟢 青色
作用 重复执行内部子节点,直到满足退出条件

核心配置:

配置项 说明
循环类型 无限循环 / 固定次数 / 遍历列表
最大循环次数 防止无限循环(建议设置上限,如 10 次)
终止条件 通过"终止循环"节点主动退出

内部结构: 循环节点是一个"容器",内部可嵌套多个子节点(问答 → 代码校验 → 选择器 → 终止循环 或 重新循环)。

适用场景:

  • 输入校验:用户输入不合法时反复提示重新输入
  • 重试机制:某操作失败后自动重试
  • 列表遍历:对数组中的每一项执行相同操作

⚠️ 必须设置最大循环次数,防止死循环消耗资源。


6.2.7 问答节点(Question)

属性 内容
节点类型 问答(Question)
图标颜色 🔷 深蓝
作用 向用户提问并等待回复

两种问答模式:

模式 说明 适用场景
开放式(text) 用户自由输入文本 收集开放式信息(如商品名、问题描述)
选项式(option) 用户从预设选项中选择 引导用户做选择(如"售前/售后")

输出变量:

  • USER_RESPONSE:用户的回答内容
  • optionId / optionContent:选项式模式下的选项编号和内容

6.2.8 输出节点(Output)

属性 内容
节点类型 输出(Output)
图标颜色 🔵 蓝色
作用 在工作流中间过程向用户发送消息

与结束节点的区别:

  • 输出节点:流程中的"中间回复",发送后继续执行后续节点
  • 结束节点:流程终点,发送最终结果后工作流结束

适用场景: 欢迎语、中间提示、错误反馈等需要即时告知用户的信息。


6.2.9 意图识别节点(Intent)

属性 内容
节点类型 意图识别(Intent)
图标颜色 🟢 青色
作用 分析用户输入,自动匹配预设意图并路由

核心配置:

配置项 说明
模型 选择用于意图分类的大模型
输入 待分类的用户文本
意图列表 预设的意图名称 + 触发描述
兜底分支 无法匹配任何意图时的默认路由

示例意图配置:

意图 触发描述
售前咨询 用户询问商品、价格、优惠、发货等
售后处理 用户反馈问题、申请退换货、退款等
兜底 无法匹配以上意图

💡 意图识别 vs 选择器: 选择器做精确的条件判断(A == B),意图识别做语义级别的模糊匹配("这句话大概是什么意图")。


6.2.10 知识库节点(Knowledge)

属性 内容
节点类型 知识库(Knowledge)
图标颜色 🔵 蓝色
作用 从私有知识库中检索相关内容

核心配置:

  • 知识库选择:指定要检索的知识库
  • 检索模式:关键词检索 / 向量语义检索 / 混合检索
  • 召回数量:返回最相关的 Top-K 条内容
  • 相似度阈值:过滤低相关度的结果

适用场景: 基于私有文档回答问题、产品手册查询、企业内部政策检索等。


6.2.11 工具/插件节点(Tool / Plugin)

属性 内容
节点类型 工具(Tool)
图标颜色 🔵 蓝色
作用 调用外部 API 或平台插件,扩展工作流能力

常见插件类型:

  • 搜索类:头条搜索、必应搜索、Google 搜索
  • 图像类:图片搜索、图片生成、OCR 识别
  • 生活服务:天气查询、地图导航、快递查询
  • 办公协作:飞书消息、钉钉通知、邮件发送
  • 数据处理:文档解析、表格处理、代码执行

6.2.12 变量聚合节点(Variable Aggregator)

属性 内容
节点类型 变量聚合(Variable Aggregator)
图标颜色 🔷 深蓝
作用 将多个上游分支的输出汇聚到一个节点

适用场景: 当多个分支最终汇合到同一个下游节点时,使用聚合节点统一接收各分支的输出。


6.2.13 节点类型速查表

节点类型 图标颜色 核心作用
开始 / 结束 🔵 蓝色 工作流入口与出口
大模型(LLM) 🔵 蓝色 调用大模型生成回复
代码(Code) 🟢 青色 自定义逻辑处理(Python/JS)
选择器(Condition) 🟢 青色 条件分支路由
循环(Loop) 🟢 青色 重复执行直到满足条件
问答(Question) 🔷 深蓝 向用户提问并等待回复
输出(Output) 🔵 蓝色 中间过程向用户发送消息
意图识别(Intent) 🟢 青色 分析用户意图并路由
知识库(Knowledge) 🔵 蓝色 从私有知识库检索内容
工具/插件(Tool) 🔵 蓝色 调用外部 API 扩展能力
文本处理 🔷 深蓝 字符串拼接与格式化
变量聚合 🔷 深蓝 汇聚多个分支的输出

7、项目:商户运营管家

1、《产品营销海报生成》

2、《一键生成商品宣传视频》

3、《客户投诉分类助手-钉钉》

4、《一键生成xxx(产品/行业)调研报告》

5、《客服对话记录分析》

6、《商品评论分析》

7、《商品营销卖点提炼》

8、Python调用Dify或Coze平台工作流

见第5、6章节。

9. DeepResearch的应用(了解)

9.1 秘塔AI

https://metaso.cn/

1. 选择长思考和研究模式

image-20250307120816259

选择长思考-R1会调用秘塔部署的满血版DeepSeek-R1模型。

问题如下

对比QWQ和DeepSeek-R1

2. 输出内容如下

研究模式
步骤拆解
好的,我现在需要分解用户的问题“对比QWQ和DeepSeek-R1”。首先,我需要明确这两个实体是什么。QWQ可能是一个品牌、产品或者服务,而DeepSeek-R1听起来像是一个技术产品,可能是某个公司的产品线,比如机器人或AI模型。

第一步,我应该分别搜索QWQ和DeepSeek-R1的基本信息,了解它们各自的定义和背景。这有助于后续的对比分析。接下来,可能需要查找它们的主要功能或特点,这样在对比时才能知道它们各自的优势和用途。

然后,用户可能想知道它们的应用领域,所以需要搜索它们的应用场景,看看它们在哪些行业或环境中被使用。此外,技术参数或性能指标也是对比的重要部分,比如处理速度、准确性、资源消耗等。

用户评价和市场反馈也很重要,了解用户对这两个产品的满意度和常见问题。最后,市场定位和价格策略可以帮助理解它们的目标客户群体和商业策略。

....
最终回答
这里省略600行...

图示:略

3. 总结

秘塔AI会自主拆解任务,并依次执行,最后汇总

image-20250307121003265

此外,回答内容会通过引文标注出处。

9.2 知乎直答

https://zhida.zhihu.com/pro

image-20250813005503570

对比QWQ和DeepSeek-R1

回答

image-20250307143432698

9.3 PerPlexity

https://www.perplexity.ai

image-20250813005231330

image-20250813005215506

选择深度研究即可使用官方部署的DeepSeek-R1满血版。

问题

对比QWQ和DeepSeek-R1

回答

image-20250307145312419

总结

也会有任务分解的过程,先检索资料,然后拆解为子任务,逐个列出大纲,再撰写综述,最终的综述也会标注出处。然而,问题是中文,回答是英文,差评。

9.4 GPT Pro的DeepResearch

OpenAI推出的深度研究模式,只有每月支付$200才可以使用。会自主拆分任务,搜集资料,做归纳整理、总结,耗时较长,通常为10分钟以上。生成质量较高。

https://chatgpt.com/#pricing

image-20250813004900495

之前的页面:

image-20250307145439230

相对而言,这是更加接近AI Agent的模式,AI可以自主调用工具、自主决策,中间过程更复杂,最终输出的内容更加优质。

以下是B站某博主实测截图,研究耗时19分钟:

image-20250307150249048

image-20250307150409077

下图右侧展示的都是DeepResearch自主规划的子任务:

image-20250307150537849

研究耗时13分钟,生成3万多字,突破了大模型单次输出上限:

image-20250307150616256

会主动追问需求:

image-20250307150834007

补充需求后最终耗时32分钟研究。

第03章:Python调用Dify平台工作流

通过调用API的方式启动工作流

1、发布

要通过API的方式启动工作流,后者必须是已发布状态。

image-20250812142553850

2、查看API文档

image-20250812143212156

3、创建API密钥

3.1 创建秘钥

image-20250812143353011

image-20250812150557416

创建后复制即可。

3.2 工作流和API Key的关系

dify的API密钥是和工作流绑定的,一个API Key只能用于访问特定的工作流

一个工作流可以对应多个 API Key

image-20250812150351264

4、请求格式

通过POST请求启动工作流

示例如下

curl -X POST 'https://api.dify.ai/v1/workflows/run' \
--header 'Authorization: Bearer {api_key}' \
--header 'Content-Type: application/json' \
--data-raw '{
    "inputs": {},
    "response_mode": "streaming",
    "user": "abc-123"
}'

4.1 url

https://api.dify.ai/v1/workflows/run

4.2 头部信息

Authorization Bearer api_key
Content-Type application/json

api_key 替换为上一步创建的API秘钥

4.3 请求体

请求体为原始的JSON格式。

{
    "inputs": {},                 //真正输入工作流的数据,每个输入字段对应该JSON的一个字段
    "response_mode": "streaming", //响应模式,分为流式(streaming)和阻塞式(blocking)
    "user": "abc-123"             //用户信息,用于区分调用者,随意命名
}

流式,基于SSE(Server-Sent Events)实现类似打字机输出方式的流式返回

阻塞式,等待执行完毕后返回结果(流程较长则可能会被中断)。由于平台限制,请求会在100秒超时无返回后中断

5、postman测试(可跳过)

5.1 新建POST请求,输入url

image-20250812144236772

5.2 添加头信息

image-20250812144308034

5.3 添加请求体

此处选择原始文本-JSON格式

image-20250812144506652

请求体如下

{
    "inputs": {"target": "新能源汽车发展概况"},
    "response_mode": "streaming",
    "user": "postman_test"
}

target字段的值就是我们传递给工作流的输入信息。

5.4 发送

image-20250812144539160

5.5 响应

image-20250812144742151

响应开始标志

image-20250812144814228

响应结束标志

image-20250812144846294

除了开始和结束响应,中间的响应都带有response body,包含了工作流的运行日志(状态、输入输出等)最后一个response body携带了工作流的最终输出

image-20250812145108421

5.6 响应体格式

最后一个响应体内容如下

{
    "event": "workflow_finished",
    "workflow_run_id": "6def1763-fa1d-45a6-9a65-a850f7c4984a",
    "task_id": "11e8e90c-2a04-4a17-acce-8de24e16ba20",
    "data": {
        "id": "6def1763-fa1d-45a6-9a65-a850f7c4984a",
        "workflow_id": "28a5fdb6-e5ad-4f59-9d18-3016eabc1a6a",
        "status": "succeeded",
        "outputs": {
            "output": [
                "### **1. 引言**  \n\n#### **1.1 研究背景与意义**  \n在全球应对气候变化与能源转型的背景下,新能源汽车(NEV)作为传统燃油车的替代方案,已成为交通领域低碳化发展的核心方向。据国际能源署(IEA)统计,2022年全球新能源汽车销量突破1000万辆,占汽车总销量的14%,标志着产业从政策驱动向市场驱动的关键转折。发展新能源汽车不仅有助于减少化石能源依赖和碳排放(交通运输占全球碳排放的24%),还能推动能源结构优化、培育新兴产业生态,对实现《巴黎协定》碳中和目标具有战略意义。  \n\n#### **1.2 新能源汽车的定义与分类**  \n新能源汽车泛指采用非传统燃料驱动技术的车辆,主要分为三类:  \n- **纯电动汽车(BEV)**:完全依赖电池供能,零尾气排放,代表车型如特斯拉Model 3、比亚迪汉;  \n- **插电式混合动力汽车(PHEV)**:兼具燃油与电力双系统,短途纯电、长途混动,如丰田普锐斯Prime;  \n- **燃料电池汽车(FCEV)**:以氢为能源,通过电化学反应发电,典型如现代NEXO。  \n此外,增程式电动车(REEV)和氢内燃机车辆等细分技术也在探索中。  \n\n#### **1.3 全球能源转型与政策驱动**  \n各国政府通过多维政策加速新能源汽车普及:  \n- **中国**:实施“双积分”政策,设定2025年NEV渗透率25%的目标;  \n- **欧盟**:通过《Fit for 55》法案,2035年禁售燃油车;  \n- **美国**:《通胀削减法案》提供单车最高7500美元税收抵免。  \n国际能源署预测,若维持当前政策力度,2030年全球NEV保有量将达2.5亿辆,显著降低交通领域石油需求。  \n\n(注:可根据实际需求补充具体国家政策案例或最新数据。)",
                "### **2. 全球新能源汽车发展现状**  \n\n#### **2.1 市场规模与增长趋势**  \n近年来,全球新能源汽车市场呈现爆发式增长。根据国际能源署(IEA)数据,2022年全球新能源汽车销量突破1000万辆,渗透率超过14%,较2020年(4%左右)实现显著提升。区域分布上:  \n- **中国**:全球最大市场,2022年销量占比超60%,政策驱动(如“双积分”政策)与本土品牌崛起(比亚迪、蔚来等)是核心动力。  \n- **欧洲**:受碳排放法规和补贴政策推动,2022年渗透率达21%,挪威、德国等国家领先,但近期部分国家补贴退坡导致增速放缓。  \n- **北美**:美国市场增速加快(2022年渗透率约7%),《通胀削减法案》通过后本土化生产要求加剧竞争,特斯拉占主导地位。  \n\n未来五年,预计全球年复合增长率将保持在20%以上,2030年渗透率或突破30%。  \n\n#### **2.2 主要车企与技术路线对比**  \n- **特斯拉**:以纯电(BEV)技术为核心,垂直整合能力强,4680电池和FSD自动驾驶系统为差异化优势。  \n- **比亚迪**:兼顾纯电与插混(PHEV),刀片电池技术提升安全性,2022年全球销量超越特斯拉(含混动车型)。  \n- **传统车企转型**:大众(MEB平台)、丰田(氢能与混动并行)等加速电动化,但技术路线选择差异显著(欧洲侧重纯电,日韩探索氢燃料)。  \n- **新势力车企**:蔚来(换电模式)、Rivian(电动皮卡)等聚焦细分市场,但盈利压力较大。  \n\n#### **2.3 产业链成熟度**  \n- **电池**:宁德时代、LG新能源、松下主导全球供应,中国产能占70%以上,但上游锂资源(智利、澳大利亚)和负极材料(石墨)存在地缘风险。  \n- **电机与电控**:博世、大陆等传统供应商与比亚迪、华为等新进入者竞争,碳化硅(SiC)器件应用提升能效。  \n- **配套环节**:充电桩建设滞后于需求,中国公共充电桩数量全球第一(2022年超180万台),欧美正加速布局超充网络。  \n\n**注**:可补充图表(如分区域销量占比、车企市场份额等)以增强数据呈现。",
                "### **3. 关键技术进展与突破**  \n\n新能源汽车的快速发展离不开核心技术的持续创新与突破。近年来,动力电池、充电基础设施、智能化技术以及氢燃料电池等领域均取得显著进展,为行业提供了强有力的技术支撑。  \n\n#### **3.1 动力电池技术**  \n动力电池是新能源汽车的核心部件,其性能直接影响车辆的续航里程、安全性和成本。当前主流技术路线包括:  \n- **锂离子电池**:占据市场主导地位,能量密度逐年提升(如宁德时代麒麟电池达255 Wh/kg),但面临热失控风险和原材料价格波动问题。  \n- **固态电池**:被视为下一代技术,采用固态电解质提升安全性(能量密度有望突破400 Wh/kg),丰田、QuantumScape等企业加速产业化布局,但界面阻抗和量产成本仍是挑战。  \n- **钠离子电池**:凭借钠资源丰富、成本低等优势崭露头角(如比亚迪2023年发布钠电池车型),虽能量密度较低(120-160 Wh/kg),但适用于储能和低速电动车领域。  \n\n#### **3.2 充电基础设施与快充技术**  \n充电便利性是用户购买新能源汽车的重要考量因素,相关技术进展包括:  \n- **超快充技术**:高压平台(如800V)搭配高倍率电池可将充电时间缩短至15分钟(如小鹏G9、保时捷Taycan),但需配套液冷超充桩以减少热损耗。  \n- **无线充电**:动态无线充电技术(如ElectReon道路试点)有望解决续航焦虑,目前处于示范阶段。  \n- **换电模式**:蔚来、奥动等企业推动标准化换电站建设,提升补能效率,但电池包通用性仍是推广瓶颈。  \n\n#### **3.3 智能化与网联化融合**  \n新能源汽车正成为智能化技术落地的关键载体:  \n- **自动驾驶**:L2+级ADAS普及(特斯拉FSD、小鹏XNGP),L4级在特定场景(如Robotaxi)加速测试,依赖高算力芯片(英伟达Orin)和多传感器融合。  \n- **车联网(V2X)**:5G+C-V2X技术实现车路协同,提升交通效率与安全性(如上海智慧交通示范区)。  \n\n#### **3.4 氢燃料电池技术发展**  \n氢燃料电池车(FCEV)在商用车领域潜力显著:  \n- **技术突破**:电堆功率密度提升(如现代NEXO达4.1 kW/L),催化剂铂用量减少降低成本。  \n- **基础设施**:全球加氢站超1000座(中国建成超350座),但氢气储运成本高制约商业化进程。  \n\n**总结**:关键技术持续迭代推动新能源汽车性能提升与成本下降,未来需进一步突破材料、工艺和系统集成瓶颈,以实现全面市场化竞争。  \n\n---  \n**注**:可根据需要补充具体数据(如2023年全球快充桩数量、固态电池量产时间表)或案例(如特斯拉4680电池量产进展)。",
                "### **4. 政策环境与市场驱动因素**  \n\n#### **4.1 各国政策支持**  \n全球新能源汽车的快速发展离不开各国政府的政策推动,主要措施包括:  \n- **财政补贴与税收优惠**:  \n  - **中国**:通过购置补贴、免征车辆购置税等政策刺激消费,2023年补贴虽逐步退坡,但地方性激励(如牌照优惠)仍存。  \n  - **欧洲**:多国实施高额购车补贴(如德国最高达9000欧元/辆),并推行增值税减免。  \n  - **美国**:《通胀削减法案》(IRA)提供最高7500美元税收抵免,但要求本土化生产比例。  \n- **碳配额与禁燃令**:  \n  - 欧盟通过“Fit for 55”计划,要求2035年禁售燃油车;中国提出“双积分”政策,倒逼车企转型。  \n  - 挪威、荷兰等国家明确2025-2030年燃油车禁售时间表。  \n- **基础设施投资**:各国政府加大充电网络建设投入,如中国“十四五”规划目标建成覆盖城乡的充电体系。  \n\n#### **4.2 消费者需求变化**  \n市场增长的核心驱动力从政策导向逐步转向消费者自发需求:  \n- **环保意识提升**:全球碳中和目标推动公众选择低碳出行,尤其欧洲消费者对碳排放敏感度较高。  \n- **使用成本优势**:  \n  - 电动车全生命周期成本(TCO)低于燃油车,尤其在油价波动背景下(如2022年欧洲能源危机)。  \n  - 电价稳定性与家庭充电桩普及进一步降低用车成本。  \n- **产品力升级**:  \n  - 续航里程提升(主流车型达500-700公里)、快充技术(如800V高压平台)缓解里程焦虑。  \n  - 智能化配置(自动驾驶、车机交互)吸引年轻消费者。  \n\n#### **4.3 产业链协同效应**  \n新能源汽车的爆发式增长依赖全产业链的协同创新与规模化效应:  \n- **上游资源整合**:  \n  - 锂、镍、钴等关键材料企业加速布局(如宁德时代投资海外锂矿),但供应链安全仍存挑战。  \n- **中游制造降本**:  \n  - 动力电池成本十年下降超80%(据BloombergNEF),规模效应推动电芯价格趋近100美元/kWh临界点。  \n  - 一体化生产模式(如比亚迪自研电池、电机、电控)提升效率。  \n- **下游服务生态**:  \n  - 充电运营商(如特来电、ChargePoint)与车企合作构建“充电+储能”网络。  \n  - 换电模式(蔚来、奥动)和V2G(车辆到电网)技术探索新盈利场景。  \n\n**小结**:政策引导、市场需求与产业链成熟形成正向循环,但未来需平衡补贴退坡后的市场自主性与技术突破节奏。",
                "### **5. 面临的挑战与瓶颈**  \n\n尽管新能源汽车发展迅速,但在技术、经济、资源和政策协调等方面仍存在显著挑战,制约其大规模普及和可持续发展。  \n\n#### **5.1 技术瓶颈**  \n- **续航焦虑**:当前主流纯电动汽车的续航里程虽已提升至500公里以上,但低温性能衰减、高速工况能耗增加等问题仍影响用户体验。  \n- **充电效率**:快充技术(如800V高压平台)虽可缩短充电时间至30分钟内,但电网负荷、电池寿命损耗及基础设施覆盖率不足仍是障碍。  \n- **电池回收与环保问题**:退役电池的梯次利用(如储能)和材料回收体系尚不完善,存在环境污染风险;固态电池等新技术尚未实现商业化突破。  \n\n#### **5.2 成本与经济性问题**  \n- **初始购车成本高**:动力电池占整车成本约40%,尽管锂价回落,但高端车型价格仍高于同级别燃油车。  \n- **基础设施投入大**:充电桩/换电站建设需巨额资金,偏远地区投资回报率低,制约网络均衡发展。  \n- **全生命周期成本争议**:尽管用电成本低于燃油,但保险费用、电池更换成本(如超出保修期)可能抵消部分优势。  \n\n#### **5.3 资源约束**  \n- **关键材料供应风险**:锂、钴、镍等资源高度集中(如刚果钴产量占全球70%),地缘政治和开采环保问题可能引发供应链波动。  \n- **材料替代技术待成熟**:钠离子电池虽可缓解锂资源依赖,但能量密度较低,目前仅适用于低速电动车或储能场景。  \n\n#### **5.4 标准与法规不统一**  \n- **充电接口与协议差异**:中国(GB/T)、欧洲(CCS)、日本(CHAdeMO)等标准并存,跨国出行兼容性不足。  \n- **政策连续性风险**:部分国家补贴退坡(如德国2023年取消插混补贴)可能短期抑制市场需求;碳配额、电池碳足迹核算等法规尚未全球协同。  \n\n#### **5.5 其他潜在挑战**  \n- **电网承载能力**:若新能源汽车渗透率超过30%,现有电网需升级以适应集中充电负荷。  \n- **消费者认知与习惯**:对新技术信任度不足(如电池安全)、充电便利性担忧等非技术因素影响购买决策。  \n\n**总结**:突破上述瓶颈需产业链上下游协同(如电池回收联盟)、政策持续支持(如资源战略储备)和技术创新(如无钴电池)的多维度努力。",
                "### **6. 未来发展趋势与展望**  \n\n#### **6.1 技术迭代方向**  \n未来新能源汽车技术的核心突破将集中在以下领域:  \n- **高能量密度电池**:固态电池的商业化应用(如丰田、QuantumScape的布局)有望解决续航焦虑,能量密度预计提升至500 Wh/kg以上;钠离子电池将弥补锂资源短缺问题,适用于低端车型和储能场景。  \n- **快充与无线充电**:800V高压平台(如小鹏、保时捷)可将充电时间缩短至15分钟内;动态无线充电技术(道路嵌入式)或重塑充电模式。  \n- **材料创新**:硅基负极、锂金属负极及无钴正极材料的研发将进一步降本增效。  \n\n#### **6.2 商业模式创新**  \n- **换电模式**:蔚来、奥动新能源等企业推动标准化换电站网络,降低用户购车成本并提升电池利用率。  \n- **车网互动(V2G)**:新能源汽车作为分布式储能单元,通过智能电网实现峰谷电价套利,提升能源系统灵活性。  \n- **共享出行与订阅制**:车企转型服务商(如特斯拉Robotaxi计划),通过数据驱动优化车辆全生命周期价值。  \n\n#### **6.3 碳中和目标下的长期路径**  \n- **全产业链脱碳**:从绿电制氢(燃料电池)到电池回收(闭环供应链),实现“矿山到车轮”的零碳闭环。  \n- **多技术路线并存**:纯电动主导乘用车市场,氢燃料电池侧重重卡、航运等长距离场景,插混作为过渡技术逐步退出。  \n\n#### **6.4 全球竞争格局预测**  \n- **中国**:依托完整供应链(占全球60%电池产能)和政策红利(双积分、新基建),持续领跑市场规模与技术输出。  \n- **欧美**:通过《通胀削减法案》和碳边境税扶持本土产业链,但依赖中国关键材料(如石墨、稀土)。  \n- **新兴市场**:东南亚、拉美等地或成为下一个增长极,但需解决基础设施不足和购车成本问题。  \n\n**总结**:新能源汽车将从“政策驱动”转向“市场驱动”,技术、模式与政策的协同创新将加速交通领域碳中和进程,但需平衡资源安全、技术公平性与全球合作。",
                "### **7. 结论**  \n\n#### **7.1 新能源汽车对能源与交通体系的变革意义**  \n新能源汽车的快速发展正在深刻重塑全球能源与交通体系。从能源角度看,其大规模普及推动了可再生能源电力消纳,减少了对化石燃料的依赖,助力实现碳中和目标;从交通领域看,电动化与智能化技术的结合正催生更高效、低碳的出行模式,如车联网协同和自动驾驶应用。此外,新能源汽车产业链的完善(如电池回收、梯次利用)进一步促进了循环经济的发展,为全球绿色转型提供了关键支撑。  \n\n#### **7.2 需多方协同推动可持续发展**  \n尽管前景广阔,新能源汽车的全面推广仍面临技术、成本、资源等多维挑战。未来需通过以下协同努力实现可持续发展:  \n- **技术创新**:突破电池能量密度、快充技术及氢燃料电池商业化瓶颈;  \n- **政策引导**:各国需加强标准统一与长期政策稳定性(如补贴退坡后的替代机制);  \n- **产业合作**:上下游协同优化资源利用(如锂钴替代技术、回收体系);  \n- **市场教育**:提升消费者对全生命周期成本与环保价值的认知。  \n\n新能源汽车不仅是交通领域的革命,更是全球能源结构转型的核心驱动力。唯有技术、政策、市场三方合力,才能实现其从“政策驱动”到“市场驱动”的跨越,最终达成经济性与环境效益的双赢。"
            ]
        },
        "error": "",
        "elapsed_time": 90.764909,
        "total_tokens": 9010,
        "total_steps": 44,
        "created_by": {
            "id": "58f3594e-acc3-4726-84f2-b4568c00f4b2",
            "user": "postman_test"
        },
        "created_at": 1754981145,
        "finished_at": 1754981236,
        "exceptions_count": 0,
        "files": []
    }
}

output字段下为最终输出。我们精简输出,JSON格式为

{
    "event": "workflow_finished",
    "workflow_run_id": "6def1763-fa1d-45a6-9a65-a850f7c4984a",
    "task_id": "11e8e90c-2a04-4a17-acce-8de24e16ba20",
    "data": {
        "id": "6def1763-fa1d-45a6-9a65-a850f7c4984a",
        "workflow_id": "28a5fdb6-e5ad-4f59-9d18-3016eabc1a6a",
        "status": "succeeded",
        "outputs": {
            "output": [
                "……",
                "……",
                "……",
                "……",
                "……",
                "……",
                "……"
            ]
        },
        "error": "",
        "elapsed_time": 90.764909,
        "total_tokens": 9010,
        "total_steps": 44,
        "created_by": {
            "id": "58f3594e-acc3-4726-84f2-b4568c00f4b2",
            "user": "postman_test"
        },
        "created_at": 1754981145,
        "finished_at": 1754981236,
        "exceptions_count": 0,
        "files": []
    }
}

6、Dify工作空间查看日志

6.1 打开日志页面

image-20250812145334640

第一个就是刚才测试的工作流日志

6.2 查看结果

image-20250812145442050

6.3 详情

image-20250812145513192

6.4 追踪

image-20250812145529448

可以查看工作流中所有节点的运行详情。

7、通过python代码处理请求

7.1 安装requests包

pip install requests

7.1 代码

import requests
import json

# 响应返回模式
# 流式,基于SSE(Server-Sent Events)实现类似打字机输出方式的流式返回
STREAMING_MODE="streaming"
# 阻塞式,等待执行完毕后返回结果(流程较长则可能会被中断)。由于Cloudflare限制,请求会在100秒超时无返回后中断
BLOCKING_MODE="blocking"

# 工作流的API_KEY
API_KEY="{your key}" 
# Dify base_url,如果是本地部署,替换为 http://localhost/v1
BASE_URL="https://api.dify.ai/v1"

# 工作流完成标志
WORKFLOW_FINISHED="workflow_finished"
# 工作流成功标志
WORKFLOW_SUCCESS="succeeded"

# 用于启动工作流
def stream_dify_workflow(target, api_key=API_KEY, base_url=BASE_URL, username="python_request", mode=STREAMING_MODE):
    # 拼接用于启动工作流的 url
    url = f"{base_url}/workflows/run"

    # 拼接头信息,包括API Key和数据类型
    headers = {
        "Authorization": f"Bearer {api_key}",
        "Content-Type": "application/json"
    }

    # 拼接请求体
    payload = {
        "inputs": {"target": target},
        "response_mode": mode,
        "user": username
    }

    try:
        # 使用stream=True保持连接打开
        with requests.post(url, headers=headers, json=payload, stream=True) as response:
            if response.status_code != 200:
                print(f"请求失败,状态码: {response.status_code}")
                print(response.text)
                return

            print("=== 开始接收流式响应: ===")
            # 逐行读取服务器推送的数据
            for line in response.iter_lines():
                if line:
                    # 解码
                    decoded_line = line.decode('utf-8')

                    # 处理中文乱码,将Unicode转义格式处理为正常中文
                    fixed_line = decoded_line.encode("utf-8").decode("unicode_escape")

                    # 打印由二进制二进制解析为UTF-8后的响应
                    print(f"decoded_line: {decoded_line}")
                    # 解码后换行会导致日志非常乱,一般不打开
                    # print(f"fixed_line: {fixed_line}")
                    # print(fixed_line)

                    # 去除SSE格式前缀
                    if(decoded_line.startswith("data: ")):
                        decoded_line=decoded_line[6:]

                        try:
                            # 尝试解析为JSON
                            json_data = json.loads(decoded_line)
                            if(json_data.get("event")==WORKFLOW_FINISHED):
                                print("---> 工作流执行完毕 <---")
                                print(f"{json_data.get("data")=}")
                                data = json_data.get("data")
                                workflow_status = data.get("status")
                                if (workflow_status == WORKFLOW_SUCCESS):
                                    print("---> 工作流执行成功 <---")

                                    try:
                                        # 获取工作流最终输出
                                        result = data.get("outputs").get("output")

                                        # 返回结果
                                        return result
                                    except Exception as e:
                                        print("工作流输出解码错误: ", e)
                                        print("data: ", data)
                                        return None
                                else:
                                    print("---> 工作流执行失败 <---")
                                    return None
                        except Exception as e:
                            print("JSON解析错误: ", e)
                            return None

            print("=== 流式响应结束 ===")

    except requests.exceptions.RequestException as e:
        print(f"请求发生错误: {e}")
        return None


if __name__ == "__main__":
    result = stream_dify_workflow("新能源发展现状")
    print("----------> result <----------")
    
    # 遍历结果列表,打印最终输出
    for l in result:
        print(l)

7.3 日志

7.3.1 日志如下

image-20250812151410775

7.3.2 日志分为两类

1. 以data开头

此类为工作流运行日志

decoded_line: data: {"event": "iteration_next", "workflow_run_id": "32d6ed79-7e38-4eac-8e30-5257cad5d4d8", "task_id": "4084f4fd-d1c1-42b6-b887-242f6a812a61", "data": {"id": "1741071594000", "node_id": "1741071594000", "node_type": "iteration", "title": "\u8fed\u4ee3", "index": 9, "created_at": 1754982824, "pre_iteration_output": null, "extras": {}, "parallel_id": null, "parallel_start_node_id": null, "parallel_mode_run_id": "6b39461463794c01963a98313de395a8", "duration": 4.917943}}
2. 以event开头

此类为通信状态心跳响应

decoded_line: event: ping

7.3.3 完整日志内容

C:\Users\Lenovo\.conda\envs\baes_python\python.exe "C:\AI WorkSpace\AI Project\API_test\dify_test.py" 
=== 开始接收流式响应: ===
decoded_line: data: {"event": "workflow_started", "workflow_run_id": "32d6ed79-7e38-4eac-8e30-5257cad5d4d8", "task_id": "4084f4fd-d1c1-42b6-b887-242f6a812a61", "data": {"id": "32d6ed79-7e38-4eac-8e30-5257cad5d4d8", "workflow_id": "28a5fdb6-e5ad-4f59-9d18-3016eabc1a6a", "inputs": {"target": "\u65b0\u80fd\u6e90\u53d1\u5c55\u73b0\u72b6", "sys.files": [], "sys.user_id": "python_request", "sys.app_id": "dd69a48d-f7ce-40ee-b5d2-0c5940ca49ac", "sys.workflow_id": "28a5fdb6-e5ad-4f59-9d18-3016eabc1a6a", "sys.workflow_run_id": "32d6ed79-7e38-4eac-8e30-5257cad5d4d8"}, "created_at": 1754982814}}
decoded_line: data: {"event": "node_started", "workflow_run_id": "32d6ed79-7e38-4eac-8e30-5257cad5d4d8", "task_id": "4084f4fd-d1c1-42b6-b887-242f6a812a61", "data": {"id": "10314665-3d35-459a-b5b0-a49e3c61da8b", "node_id": "1741069960721", "node_type": "start", "title": "\u5f00\u59cb", "index": 1, "predecessor_node_id": null, "inputs": null, "created_at": 1754982814, "extras": {}, "parallel_id": null, "parallel_start_node_id": null, "parent_parallel_id": null, "parent_parallel_start_node_id": null, "iteration_id": null, "loop_id": null, "parallel_run_id": null, "agent_strategy": null}}
decoded_line: data: {"event": "node_finished", "workflow_run_id": "32d6ed79-7e38-4eac-8e30-5257cad5d4d8", "task_id": "4084f4fd-d1c1-42b6-b887-242f6a812a61", "data": {"id": "10314665-3d35-459a-b5b0-a49e3c61da8b", "node_id": "1741069960721", "node_type": "start", "title": "\u5f00\u59cb", "index": 1, "predecessor_node_id": null, "inputs": {"target": "\u65b0\u80fd\u6e90\u53d1\u5c55\u73b0\u72b6", "sys.files": [], "sys.user_id": "python_request", "sys.app_id": "dd69a48d-f7ce-40ee-b5d2-0c5940ca49ac", "sys.workflow_id": "28a5fdb6-e5ad-4f59-9d18-3016eabc1a6a", "sys.workflow_run_id": "32d6ed79-7e38-4eac-8e30-5257cad5d4d8"}, "process_data": null, "outputs": {"target": "\u65b0\u80fd\u6e90\u53d1\u5c55\u73b0\u72b6", "sys.files": [], "sys.user_id": "python_request", "sys.app_id": "dd69a48d-f7ce-40ee-b5d2-0c5940ca49ac", "sys.workflow_id": "28a5fdb6-e5ad-4f59-9d18-3016eabc1a6a", "sys.workflow_run_id": "32d6ed79-7e38-4eac-8e30-5257cad5d4d8"}, "status": "succeeded", "error": null, "elapsed_time": 0.0285, "execution_metadata": {}, "created_at": 1754982814, "finished_at": 1754982814, "files": [], "parallel_id": null, "parallel_start_node_id": null, "parent_parallel_id": null, "parent_parallel_start_node_id": null, "iteration_id": null, "loop_id": null}}
decoded_line: data: {"event": "node_started", "workflow_run_id": "32d6ed79-7e38-4eac-8e30-5257cad5d4d8", "task_id": "4084f4fd-d1c1-42b6-b887-242f6a812a61", "data": {"id": "b52cd12f-d0b8-4632-8ebb-e67e9936c1c9", "node_id": "1741070282146", "node_type": "tool", "title": "\u8c37\u6b4c\u641c\u7d22", "index": 2, "predecessor_node_id": "1741069960721", "inputs": null, "created_at": 1754982814, "extras": {"icon": "https://cloud.dify.ai/console/api/workspaces/current/plugin/icon?tenant_id=37b50949-93f9-41aa-8b8e-0f6791bc6deb&filename=1c5871163478957bac64c3fe33d72d003f767497d921c74b742aad27a8344a74.svg"}, "parallel_id": null, "parallel_start_node_id": null, "parent_parallel_id": null, "parent_parallel_start_node_id": null, "iteration_id": null, "loop_id": null, "parallel_run_id": null, "agent_strategy": null}}
decoded_line: data: {"event": "node_finished", "workflow_run_id": "32d6ed79-7e38-4eac-8e30-5257cad5d4d8", "task_id": "4084f4fd-d1c1-42b6-b887-242f6a812a61", "data": {"id": "b52cd12f-d0b8-4632-8ebb-e67e9936c1c9", "node_id": "1741070282146", "node_type": "tool", "title": "\u8c37\u6b4c\u641c\u7d22", "index": 2, "predecessor_node_id": "1741069960721", "inputs": {"query": "\u65b0\u80fd\u6e90\u53d1\u5c55\u73b0\u72b6"}, "process_data": null, "outputs": {"text": "", "files": [], "json": [{"organic_results": [{"link": "https://zjic.zj.gov.cn/ywdh/nyhj/202307/t20230721_20268472.shtml", "snippet": "\u5f53\u524d\uff0c\u6211\u56fd\u7684\u5149\u4f0f\u3001\u98ce\u7535\u3001\u50a8\u80fd\u7b49\u4e3b\u8981\u65b0\u80fd\u6e90\u5df2\u8fdb\u5165\u5927\u89c4\u6a21\u3001\u5e02\u573a\u5316\u3001\u9ad8\u8d28\u91cf\u53d1\u5c55\u65b0\u9636\u6bb5\u3002\u622a\u81f32022 \u5e74\u5e95\uff0c\u6211\u56fd\u53ef\u518d\u751f\u80fd\u6e90\u88c5\u673a\u5bb9\u91cf\u8f
。。。大量做了省略。.。
"https://zjic.zj.gov.cn/ywdh/nyhj/202307/t20230721_20268472.shtml", "snippet": "\u5f53\u524d\uff0c\u6211\u56fd\u7684\u5149\u4f0f\u3001\u98ce\u7535\u3001\u50a8\u80fd\u7b49\u4e3b\u8981\u65b0\u80fd\u6e90\u5df2\u8fdb\u5165\u5927\u89c4\u6a21\u3001\u5e02\u573a\\n\n**\u6700\u7ec8\u76ee\u6807**\u662f\u901a\u8fc7\u591a\u7ef4\u5ea6\u521b\u65b0\u4e0e\u5408\u4f5c\uff0c\u6784\u5efa\u9ad8\u97e7\u6027\u3001\u4f4e\u78b3\u5316\u3001\u5305\u5bb9\u6027\u7684\u5168\u7403\u80fd\u6e90\u65b0\u4f53\u7cfb\u3002"]}, "error": "", "elapsed_time": 102.464781, "total_tokens": 8632, "total_steps": 46, "created_by": {"id": "99fec563-2cba-4830-bfec-2426a1f77770", "user": "python_request"}, "created_at": 1754982814, "finished_at": 1754982916, "exceptions_count": 0, "files": []}}
---> 工作流执行完毕 <---
json_data.get("data")={'id': '32d6ed79-7e38-4eac-8e30-5257cad5d4d8', 'workflow_id': '28a5fdb6-e5ad-4f59-9d18-3016eabc1a6a', 'status': 'succeeded', 'outputs': {'output': ['### 一、引言  \n\n#### 1.1 研究背景与意义  \n随着全球气候变化加剧与化石能源资源枯竭问题日益突出,新能源的发展已成为各国实现能源安全、环境可持续性和经济转型的核心路径。根据国际能源署(IEA)数据,2022年全球可再生能源发电量占比已突破30%,标志着能源结构转型进入加速阶段。新能源不仅能够减少温室气体排放,缓解《巴黎协定》提出的温控目标压力,还能通过技术创新带动新兴产业增长,创造就业机会。因此,系统梳理新能源发展现状、技术瓶颈及未来趋势,对政策制定、产业投资和学术研究具有重要指导意义。  \n\n#### 1.2 全球能源转型的紧迫性  \n当前,能源领域碳排放仍占全球总排放量的75%以上,而极端气候事件频发进一步凸显了能源系统低碳化的紧迫性。俄乌冲突等地缘政治事件导致的传统能源供应危机,亦暴露出依赖化石燃料的经济脆弱性。在此背景下,欧盟通过“Fit for 55”一揽子计划将2030年可再生能源目标提升至45%,中国提出“双碳”战略(2030碳达峰、2060碳中和),美国《通胀削减法案》(IRA)计划投入3690亿美元支持清洁能源——这些政策信号共同表明,新能源已成为全球竞争的战略高地。  \n\n#### 1.3 综述目标与框架  \n本综述旨在整合近年全球新能源发展的技术进展、区域实践与挑战,为读者提供结构化分析框架。首先梳理太阳能、风能、氢能等关键技术现状(第二章),进而对比不同区域发展模式(第三章),剖析技术、经济与环境层面的瓶颈(第四章),最后提出面向未来的解决方案(第五章)。通过多维度交叉分析,揭示新能源规模化应用的关键驱动因素与潜在风险,为相关决策提供参考。  \n\n---  \n**说明**:  \n1. **数据支撑**:引言中嵌入IEA、政策金额等具体数据,增强说服力;  \n2. **问题导向**:通过气候危机、地缘冲突等现实问题引出研究必要性;  \n3. **逻辑衔接**:末段明确综述路径,与后文大纲形成呼应。  \n如需调整侧重点(如增加核能或碳捕集背景),可进一步补充。', '### 二、新能源主要类型与技术进展  \n\n新能源作为全球能源转型的核心驱动力,近年来在技术突破与规模化应用方面取得显著进展。本节将围绕太阳能、风能、氢能等主流领域,系统分析其技术现状与发展趋势。  \n\n#### 2.1 太阳能  \n**光伏发电技术现状**  \n- **晶硅电池主导市场**:PERC(钝化发射极背面接触)技术量产效率达23%-24%,占全球光伏装机量的80%以上。TOPCon(隧穿氧化层钝化接触)和HJT(异质结)技术逐步商业化,实验室效率突破26%。  \n- **薄膜电池与新兴技术**:钙钛矿电池研发进展迅速,实验室效率从2009年的3.8%提升至2023年的33.7%,但稳定性与大面积制备仍是产业化瓶颈。  \n\n**光热利用与储能创新**  \n- 熔盐储热技术成为光热发电(CSP)主流方案,可实现10小时以上储能,西班牙、中国等地项目已实现24小时连续供电。  \n- 光伏-光热协同系统(PV-CSP)通过热电联产提升综合效率,迪拜950MW光热光伏混合项目为全球标杆案例。  \n\n#### 2.2 风能  \n**陆上风电与海上风电发展**  \n- **陆上风电低成本化**:中国三北地区平准化度电成本(LCOE)降至0.15元/千瓦时以下,全球陆上风电平均容量因子超35%。  \n- **海上风电规模化**:欧洲漂浮式风电(如苏格兰Hywind项目)实现商业化,中国2023年海上风电装机量超30GW,单机容量突破18MW。  \n\n**风机大型化与智能化趋势**  \n- 叶片长度突破120米,数字化技术(如数字孪生、AI预警)降低运维成本20%-30%。  \n- 直驱永磁与中速齿轮箱技术路线并行,适应不同场景需求。  \n\n#### 2.3 氢能  \n**绿氢制备与商业化应用**  \n- 碱性电解槽(ALK)与质子交换膜电解槽(PEM)为主流技术,中国万吨级绿氢示范项目(如鄂尔多斯)推动成本降至3-4美元/公斤。  \n- 合成氨、钢铁冶金(如瑞典HYBRIT项目)成为绿氢主要应用场景,燃料电池汽车全球保有量超7万辆。  \n\n**储运技术挑战**  \n- 液氢储运(日本川崎重工试点)与有机液态储氢(LOHC)处于示范阶段,管道输氢在欧洲(如H2Med计划)加速布局。  \n\n#### 2.4 其他新能源  \n- **生物质能**:第三代生物燃料(藻类)转化效率提升至15%,欧盟将生物甲烷纳入REPowerEU计划。  \n- **地热能**:增强型地热系统(EGS)突破干热岩开发技术,美国FORGE项目实现井下循环发电。  \n- **海洋能**:英国MeyGen潮汐电站累计发电50GWh,波浪能装置向模块化发展。  \n\n---  \n*注:本节聚焦技术成熟度与产业化进展,后续章节将结合区域案例与产业链分析展开讨论。*', '### 三、全球新能源发展现状  \n\n#### 3.1 区域发展对比  \n\n**中国:装机规模与政策驱动**  \n中国是全球新能源发展的领跑者,截至2023年,可再生能源装机容量占比超40%,其中光伏和风电累计装机均居世界第一。政策层面,“双碳”目标(2030碳达峰、2060碳中和)推动风光大基地建设,分布式光伏与整县推进项目加速落地。产业链优势显著,光伏组件产量占全球70%以上,但面临国际贸易壁垒(如美国UFLPA法案限制)和产能过剩风险。  \n\n**欧洲:碳中和目标下的激进转型**  \n欧盟通过“Fit for 55”计划将2030年可再生能源占比目标提升至42.5%,海上风电和绿氢是核心方向。德国、丹麦等国家在风机技术和电解槽领域领先,但俄乌冲突后能源安全压力加剧,短期重启煤电与长期新能源扩张并存。欧洲碳边境税(CBAM)试图强化本土产业竞争力。  \n\n**美国:IRA法案重塑产业格局**  \n《通胀削减法案》(IRA)提供3690亿美元新能源补贴,刺激本土制造回流,2023年光伏新增装机同比翻倍。特斯拉、First Solar等企业在储能和薄膜电池领域技术领先,但电网老化、审批流程冗长制约项目落地。页岩气与新能源的博弈持续。  \n\n**新兴市场:潜力与挑战并存**  \n- **印度**:2030年500GW可再生能源目标,光伏招标规模全球前列,但土地获取和电网薄弱问题突出。  \n- **东南亚**:越南光伏装机激增,泰国布局生物质能,但政策稳定性不足。  \n- **中东**:沙特“2030愿景”投资千亿美元发展绿氢,阿联酋借COP28推动能源转型。  \n\n#### 3.2 产业链成熟度分析  \n\n**上游材料供应**  \n- **关键矿物**:锂、钴、镍需求激增,中国控制60%稀土加工,欧美加速供应链多元化(如非洲锂矿投资)。  \n- **硅料与多晶硅**:2023年价格下跌50%,产能过剩倒逼技术升级(N型电池硅料纯度要求提升)。  \n\n**中游制造与成本下降**  \n- **光伏**:TOPCon、HJT电池量产效率突破25%,组件成本降至0.15美元/瓦(2010年的10%)。  \n- **风电**:15MW海上风机商业化,叶片回收技术仍处试点阶段。  \n- **电解槽**:碱性电解槽成本下降30%,质子交换膜(PEM)技术依赖进口催化剂。  \n\n**下游应用扩展**  \n- **交通领域**:全球新能源汽车渗透率超15%,中国动力电池产能占全球60%。  \n- **工业脱碳**:绿钢(氢能炼钢)、绿氨等示范项目启动,成本为传统工艺2-3倍。  \n- **微电网与离网系统**:非洲光伏-储能微电网覆盖率提升,降低柴油依赖。  \n\n#### 3.3 国际合作与竞争动态  \n- **技术合作**:中美在CCUS(碳捕集)领域联合研究,欧盟-非洲绿氢伙伴关系。  \n- **贸易摩擦**:美国对东南亚光伏组件反规避调查,中国逆变器出口受欧洲碳足迹认证限制。  \n- **标准制定**:国际可再生能源署(IRENA)推动绿氢认证体系统一。  \n\n---  \n(注:本节数据可更新至2023年Q4,需根据实际研究周期补充最新政策或装机统计。)', '### 四、关键挑战与瓶颈  \n\n尽管全球新能源发展迅速,但在大规模推广和应用过程中仍面临多重挑战,涉及技术、经济、政策及社会等多个层面。  \n\n#### 4.1 技术层面  \n1. **储能技术局限性**  \n   - **短时与长时储能失衡**:当前锂离子电池等主流储能技术难以满足电网级长时储能(如跨季节储能)需求,而抽水蓄能、压缩空气储能等受地理条件限制。  \n   - **效率与成本问题**:氢储能、液流电池等新兴技术仍存在能量转换效率低、初始投资高的问题,制约商业化应用。  \n\n2. **电网消纳与稳定性**  \n   - **间歇性电源并网挑战**:风电、光伏的波动性导致电网频率调节难度增加,需配套灵活性资源(如快速响应储能、燃气调峰电站)。  \n   - **跨区域输电瓶颈**:新能源富集地区与负荷中心不匹配,特高压输电建设滞后可能引发弃风弃光现象(如中国西部部分地区)。  \n\n#### 4.2 经济与政策层面  \n1. **补贴依赖与市场化竞争**  \n   - 部分国家新能源项目仍依赖政府补贴(如欧洲海上风电的差价合约机制),补贴退坡后项目经济性面临考验。  \n   - 光伏、风电虽已实现平价上网,但与传统能源竞价时仍受化石燃料价格波动冲击(如2022年欧洲能源危机中的煤电反弹)。  \n\n2. **国际贸易壁垒**  \n   - **供应链本地化要求**:美国《通胀削减法案》(IRA)对本土新能源制造设补贴门槛,加剧全球产业链分割。  \n   - **关税与技术封锁**:部分国家对光伏组件、电池材料(如多晶硅)征收高额关税,或限制关键技术出口(如中国稀土加工技术)。  \n\n#### 4.3 环境与社会影响  \n1. **资源开采的生态代价**  \n   - 锂、钴、镍等关键矿物开采引发水源污染(如南美盐湖提锂)和生物多样性破坏(如印尼红土镍矿开采)。  \n   - 风机叶片、光伏板回收体系不完善,可能导致未来电子废弃物激增(预计2030年全球光伏废料达800万吨/年)。  \n\n2. **社区接受度与公平转型**  \n   - **土地冲突**:陆上风电、大型光伏电站占用农业或生态用地,易引发当地社区抵制(如德国“风电—居民矛盾”)。  \n   - **就业结构性失衡**:传统能源从业者(如煤矿工人)转型困难,需配套再培训计划以避免社会矛盾。  \n\n---  \n**总结**:新能源发展需系统性突破技术瓶颈、优化政策设计,并平衡环境与社会公平,方能实现从“增量替代”到“主体能源”的跨越。', '### 五、未来趋势与建议  \n\n#### 5.1 技术突破方向  \n**(1)光伏技术:钙钛矿与叠层电池的产业化**  \n钙钛矿太阳能电池因转换效率高(实验室已超33%)、成本低且可柔性制备,成为下一代光伏技术的核心方向。未来需解决其稳定性和大面积制备问题,预计2030年前实现商业化量产。叠层电池(如硅-钙钛矿组合)可突破单结电池效率极限,推动光伏度电成本进一步下降至0.1元/kWh以下。  \n\n**(2)储能技术:长时储能与固态电池**  \n- **长时储能**:液流电池、压缩空气储能、热储能等技术将填补锂电4-6小时储能的不足,支撑电网连续多日调峰需求。  \n- **固态电池**:通过消除液态电解质提升能量密度(目标500 Wh/kg)和安全性,有望在电动汽车和分布式储能中普及,但需攻克界面阻抗和量产工艺难题。  \n\n**(3)数字化与AI赋能**  \n- **智能预测**:AI算法优化风光功率预测精度(误差<5%),减少弃风弃光率。  \n- **虚拟电厂**:通过区块链和物联网整合分布式资源,提升区域电网灵活性。  \n\n#### 5.2 政策与市场机制优化  \n**(1)碳定价与绿色金融创新**  \n- 扩大碳市场覆盖行业(如交通、建筑),推动碳价升至100美元/吨以上,倒逼企业转型。  \n- 发展绿色债券、碳期货等金融工具,降低新能源项目融资成本,吸引私人资本投入。  \n\n**(2)打破国际贸易壁垒**  \n- 建立全球统一的绿证互认体系,避免光伏、风电设备重复认证。  \n- 协商降低关键材料(如多晶硅、稀土)的出口限制,保障供应链安全。  \n\n**(3)多国合作与技术标准统一**  \n- 共建跨国氢能输送管网(如欧洲-北非“绿氢走廊”),协调氢气纯度、压力等标准。  \n- 联合研发关键设备(如大功率电解槽),避免技术碎片化。  \n\n#### 5.3 可持续发展路径  \n**(1)多能互补系统**  \n- 风光储一体化基地配套燃气调峰电站,平抑出力波动。  \n- 氢能作为跨季节储能介质,耦合化工、冶金等高碳行业脱碳。  \n\n**(2)循环经济实践**  \n- 光伏板回收率提升至95%以上,稀土永磁材料闭环利用。  \n- 生物质能与碳捕集(BECCS)结合,实现负排放。  \n\n**(3)社会公平转型**  \n- 设立“公正转型基金”,培训化石能源从业者转向新能源运维、碳管理等岗位。  \n- 鼓励社区参股风电/光伏项目,提升当地接受度(如德国公民能源合作社模式)。  \n\n---  \n**注**:本节内容可结合最新数据(如IRENA 2024报告)或典型案例(如中国“沙戈荒”大基地)进一步细化。若需突出某一技术(如核聚变),可单独增设小节分析。', '### 六、结论  \n\n#### 6.1 主要研究发现总结  \n全球新能源发展已进入加速阶段,太阳能、风能、氢能等技术持续突破,成本下降与规模扩张推动其成为能源转型的核心驱动力。研究发现:  \n- **技术进步显著**:光伏效率提升、风机大型化及绿氢制备技术突破,推动新能源经济性增强;储能技术虽进展迅速,但长时储能仍是关键瓶颈。  \n- **区域发展不均衡**:中国在装机规模与产业链整合上领先,欧美聚焦政策创新与前沿技术,新兴市场潜力待释放,但受限于基础设施与资金。  \n- **系统性挑战突出**:电网消纳能力不足、资源开采的生态代价、补贴依赖与贸易壁垒等问题,制约新能源的规模化与可持续发展。  \n\n#### 6.2 对全球能源体系的展望  \n未来能源体系将呈现以下趋势:  \n- **技术融合与协同**:新能源与传统能源的互补性增强,数字化(如AI预测发电)与材料科学(如钙钛矿电池)将重塑产业形态。  \n- **政策与市场双轮驱动**:碳定价机制和绿色金融工具有望降低投资风险,而国际标准统一可缓解贸易摩擦,加速全球化布局。  \n- **可持续发展导向**:需强化全生命周期管理,平衡资源开发与生态保护,并通过社区参与实现公平转型。  \n\n**最终目标**是通过多维度创新与合作,构建高韧性、低碳化、包容性的全球能源新体系。']}, 'error': '', 'elapsed_time': 102.464781, 'total_tokens': 8632, 'total_steps': 46, 'created_by': {'id': '99fec563-2cba-4830-bfec-2426a1f77770', 'user': 'python_request'}, 'created_at': 1754982814, 'finished_at': 1754982916, 'exceptions_count': 0, 'files': []}
---> 工作流执行成功 <---
----------> result <----------
### 一、引言  

#### 1.1 研究背景与意义  
随着全球气候变化加剧与化石能源资源枯竭问题日益突出,新能源的发展已成为各国实现能源安全、环境可持续性和经济转型的核心路径。根据国际能源署(IEA)数据,2022年全球可再生能源发电量占比已突破30%,标志着能源结构转型进入加速阶段。新能源不仅能够减少温室气体排放,缓解《巴黎协定》提出的温控目标压力,还能通过技术创新带动新兴产业增长,创造就业机会。因此,系统梳理新能源发展现状、技术瓶颈及未来趋势,对政策制定、产业投资和学术研究具有重要指导意义。  

#### 1.2 全球能源转型的紧迫性  
当前,能源领域碳排放仍占全球总排放量的75%以上,而极端气候事件频发进一步凸显了能源系统低碳化的紧迫性。俄乌冲突等地缘政治事件导致的传统能源供应危机,亦暴露出依赖化石燃料的经济脆弱性。在此背景下,欧盟通过“Fit for 55”一揽子计划将2030年可再生能源目标提升至45%,中国提出“双碳”战略(2030碳达峰、2060碳中和),美国《通胀削减法案》(IRA)计划投入3690亿美元支持清洁能源——这些政策信号共同表明,新能源已成为全球竞争的战略高地。  

#### 1.3 综述目标与框架  
本综述旨在整合近年全球新能源发展的技术进展、区域实践与挑战,为读者提供结构化分析框架。首先梳理太阳能、风能、氢能等关键技术现状(第二章),进而对比不同区域发展模式(第三章),剖析技术、经济与环境层面的瓶颈(第四章),最后提出面向未来的解决方案(第五章)。通过多维度交叉分析,揭示新能源规模化应用的关键驱动因素与潜在风险,为相关决策提供参考。  

---  
**说明**:  
1. **数据支撑**:引言中嵌入IEA、政策金额等具体数据,增强说服力;  
2. **问题导向**:通过气候危机、地缘冲突等现实问题引出研究必要性;  
3. **逻辑衔接**:末段明确综述路径,与后文大纲形成呼应。  
如需调整侧重点(如增加核能或碳捕集背景),可进一步补充。
### 二、新能源主要类型与技术进展  

新能源作为全球能源转型的核心驱动力,近年来在技术突破与规模化应用方面取得显著进展。本节将围绕太阳能、风能、氢能等主流领域,系统分析其技术现状与发展趋势。  

#### 2.1 太阳能  
**光伏发电技术现状**  
- **晶硅电池主导市场**:PERC(钝化发射极背面接触)技术量产效率达23%-24%,占全球光伏装机量的80%以上。TOPCon(隧穿氧化层钝化接触)和HJT(异质结)技术逐步商业化,实验室效率突破26%。  
- **薄膜电池与新兴技术**:钙钛矿电池研发进展迅速,实验室效率从2009年的3.8%提升至2023年的33.7%,但稳定性与大面积制备仍是产业化瓶颈。  

**光热利用与储能创新**  
- 熔盐储热技术成为光热发电(CSP)主流方案,可实现10小时以上储能,西班牙、中国等地项目已实现24小时连续供电。  
- 光伏-光热协同系统(PV-CSP)通过热电联产提升综合效率,迪拜950MW光热光伏混合项目为全球标杆案例。  

#### 2.2 风能  
**陆上风电与海上风电发展**  
- **陆上风电低成本化**:中国三北地区平准化度电成本(LCOE)降至0.15元/千瓦时以下,全球陆上风电平均容量因子超35%。  
- **海上风电规模化**:欧洲漂浮式风电(如苏格兰Hywind项目)实现商业化,中国2023年海上风电装机量超30GW,单机容量突破18MW。  

**风机大型化与智能化趋势**  
- 叶片长度突破120米,数字化技术(如数字孪生、AI预警)降低运维成本20%-30%。  
- 直驱永磁与中速齿轮箱技术路线并行,适应不同场景需求。  

#### 2.3 氢能  
**绿氢制备与商业化应用**  
- 碱性电解槽(ALK)与质子交换膜电解槽(PEM)为主流技术,中国万吨级绿氢示范项目(如鄂尔多斯)推动成本降至3-4美元/公斤。  
- 合成氨、钢铁冶金(如瑞典HYBRIT项目)成为绿氢主要应用场景,燃料电池汽车全球保有量超7万辆。  

**储运技术挑战**  
- 液氢储运(日本川崎重工试点)与有机液态储氢(LOHC)处于示范阶段,管道输氢在欧洲(如H2Med计划)加速布局。  

#### 2.4 其他新能源  
- **生物质能**:第三代生物燃料(藻类)转化效率提升至15%,欧盟将生物甲烷纳入REPowerEU计划。  
- **地热能**:增强型地热系统(EGS)突破干热岩开发技术,美国FORGE项目实现井下循环发电。  
- **海洋能**:英国MeyGen潮汐电站累计发电50GWh,波浪能装置向模块化发展。  

---  
*注:本节聚焦技术成熟度与产业化进展,后续章节将结合区域案例与产业链分析展开讨论。*
### 三、全球新能源发展现状  

#### 3.1 区域发展对比  

**中国:装机规模与政策驱动**  
中国是全球新能源发展的领跑者,截至2023年,可再生能源装机容量占比超40%,其中光伏和风电累计装机均居世界第一。政策层面,“双碳”目标(2030碳达峰、2060碳中和)推动风光大基地建设,分布式光伏与整县推进项目加速落地。产业链优势显著,光伏组件产量占全球70%以上,但面临国际贸易壁垒(如美国UFLPA法案限制)和产能过剩风险。  

**欧洲:碳中和目标下的激进转型**  
欧盟通过“Fit for 55”计划将2030年可再生能源占比目标提升至42.5%,海上风电和绿氢是核心方向。德国、丹麦等国家在风机技术和电解槽领域领先,但俄乌冲突后能源安全压力加剧,短期重启煤电与长期新能源扩张并存。欧洲碳边境税(CBAM)试图强化本土产业竞争力。  

**美国:IRA法案重塑产业格局**  
《通胀削减法案》(IRA)提供3690亿美元新能源补贴,刺激本土制造回流,2023年光伏新增装机同比翻倍。特斯拉、First Solar等企业在储能和薄膜电池领域技术领先,但电网老化、审批流程冗长制约项目落地。页岩气与新能源的博弈持续。  

**新兴市场:潜力与挑战并存**  
- **印度**:2030年500GW可再生能源目标,光伏招标规模全球前列,但土地获取和电网薄弱问题突出。  
- **东南亚**:越南光伏装机激增,泰国布局生物质能,但政策稳定性不足。  
- **中东**:沙特“2030愿景”投资千亿美元发展绿氢,阿联酋借COP28推动能源转型。  

#### 3.2 产业链成熟度分析  

**上游材料供应**  
- **关键矿物**:锂、钴、镍需求激增,中国控制60%稀土加工,欧美加速供应链多元化(如非洲锂矿投资)。  
- **硅料与多晶硅**:2023年价格下跌50%,产能过剩倒逼技术升级(N型电池硅料纯度要求提升)。  

**中游制造与成本下降**  
- **光伏**:TOPCon、HJT电池量产效率突破25%,组件成本降至0.15美元/瓦(2010年的10%)。  
- **风电**:15MW海上风机商业化,叶片回收技术仍处试点阶段。  
- **电解槽**:碱性电解槽成本下降30%,质子交换膜(PEM)技术依赖进口催化剂。  

**下游应用扩展**  
- **交通领域**:全球新能源汽车渗透率超15%,中国动力电池产能占全球60%。  
- **工业脱碳**:绿钢(氢能炼钢)、绿氨等示范项目启动,成本为传统工艺2-3倍。  
- **微电网与离网系统**:非洲光伏-储能微电网覆盖率提升,降低柴油依赖。  

#### 3.3 国际合作与竞争动态  
- **技术合作**:中美在CCUS(碳捕集)领域联合研究,欧盟-非洲绿氢伙伴关系。  
- **贸易摩擦**:美国对东南亚光伏组件反规避调查,中国逆变器出口受欧洲碳足迹认证限制。  
- **标准制定**:国际可再生能源署(IRENA)推动绿氢认证体系统一。  

---  
(注:本节数据可更新至2023年Q4,需根据实际研究周期补充最新政策或装机统计。)
### 四、关键挑战与瓶颈  

尽管全球新能源发展迅速,但在大规模推广和应用过程中仍面临多重挑战,涉及技术、经济、政策及社会等多个层面。  

#### 4.1 技术层面  
1. **储能技术局限性**  
   - **短时与长时储能失衡**:当前锂离子电池等主流储能技术难以满足电网级长时储能(如跨季节储能)需求,而抽水蓄能、压缩空气储能等受地理条件限制。  
   - **效率与成本问题**:氢储能、液流电池等新兴技术仍存在能量转换效率低、初始投资高的问题,制约商业化应用。  

2. **电网消纳与稳定性**  
   - **间歇性电源并网挑战**:风电、光伏的波动性导致电网频率调节难度增加,需配套灵活性资源(如快速响应储能、燃气调峰电站)。  
   - **跨区域输电瓶颈**:新能源富集地区与负荷中心不匹配,特高压输电建设滞后可能引发弃风弃光现象(如中国西部部分地区)。  

#### 4.2 经济与政策层面  
1. **补贴依赖与市场化竞争**  
   - 部分国家新能源项目仍依赖政府补贴(如欧洲海上风电的差价合约机制),补贴退坡后项目经济性面临考验。  
   - 光伏、风电虽已实现平价上网,但与传统能源竞价时仍受化石燃料价格波动冲击(如2022年欧洲能源危机中的煤电反弹)。  

2. **国际贸易壁垒**  
   - **供应链本地化要求**:美国《通胀削减法案》(IRA)对本土新能源制造设补贴门槛,加剧全球产业链分割。  
   - **关税与技术封锁**:部分国家对光伏组件、电池材料(如多晶硅)征收高额关税,或限制关键技术出口(如中国稀土加工技术)。  

#### 4.3 环境与社会影响  
1. **资源开采的生态代价**  
   - 锂、钴、镍等关键矿物开采引发水源污染(如南美盐湖提锂)和生物多样性破坏(如印尼红土镍矿开采)。  
   - 风机叶片、光伏板回收体系不完善,可能导致未来电子废弃物激增(预计2030年全球光伏废料达800万吨/年)。  

2. **社区接受度与公平转型**  
   - **土地冲突**:陆上风电、大型光伏电站占用农业或生态用地,易引发当地社区抵制(如德国“风电—居民矛盾”)。  
   - **就业结构性失衡**:传统能源从业者(如煤矿工人)转型困难,需配套再培训计划以避免社会矛盾。  

---  
**总结**:新能源发展需系统性突破技术瓶颈、优化政策设计,并平衡环境与社会公平,方能实现从“增量替代”到“主体能源”的跨越。
### 五、未来趋势与建议  

#### 5.1 技术突破方向  
**(1)光伏技术:钙钛矿与叠层电池的产业化**  
钙钛矿太阳能电池因转换效率高(实验室已超33%)、成本低且可柔性制备,成为下一代光伏技术的核心方向。未来需解决其稳定性和大面积制备问题,预计2030年前实现商业化量产。叠层电池(如硅-钙钛矿组合)可突破单结电池效率极限,推动光伏度电成本进一步下降至0.1元/kWh以下。  

**(2)储能技术:长时储能与固态电池**  
- **长时储能**:液流电池、压缩空气储能、热储能等技术将填补锂电4-6小时储能的不足,支撑电网连续多日调峰需求。  
- **固态电池**:通过消除液态电解质提升能量密度(目标500 Wh/kg)和安全性,有望在电动汽车和分布式储能中普及,但需攻克界面阻抗和量产工艺难题。  

**(3)数字化与AI赋能**  
- **智能预测**:AI算法优化风光功率预测精度(误差<5%),减少弃风弃光率。  
- **虚拟电厂**:通过区块链和物联网整合分布式资源,提升区域电网灵活性。  

#### 5.2 政策与市场机制优化  
**(1)碳定价与绿色金融创新**  
- 扩大碳市场覆盖行业(如交通、建筑),推动碳价升至100美元/吨以上,倒逼企业转型。  
- 发展绿色债券、碳期货等金融工具,降低新能源项目融资成本,吸引私人资本投入。  

**(2)打破国际贸易壁垒**  
- 建立全球统一的绿证互认体系,避免光伏、风电设备重复认证。  
- 协商降低关键材料(如多晶硅、稀土)的出口限制,保障供应链安全。  

**(3)多国合作与技术标准统一**  
- 共建跨国氢能输送管网(如欧洲-北非“绿氢走廊”),协调氢气纯度、压力等标准。  
- 联合研发关键设备(如大功率电解槽),避免技术碎片化。  

#### 5.3 可持续发展路径  
**(1)多能互补系统**  
- 风光储一体化基地配套燃气调峰电站,平抑出力波动。  
- 氢能作为跨季节储能介质,耦合化工、冶金等高碳行业脱碳。  

**(2)循环经济实践**  
- 光伏板回收率提升至95%以上,稀土永磁材料闭环利用。  
- 生物质能与碳捕集(BECCS)结合,实现负排放。  

**(3)社会公平转型**  
- 设立“公正转型基金”,培训化石能源从业者转向新能源运维、碳管理等岗位。  
- 鼓励社区参股风电/光伏项目,提升当地接受度(如德国公民能源合作社模式)。  

---  
**注**:本节内容可结合最新数据(如IRENA 2024报告)或典型案例(如中国“沙戈荒”大基地)进一步细化。若需突出某一技术(如核聚变),可单独增设小节分析。
### 六、结论  

#### 6.1 主要研究发现总结  
全球新能源发展已进入加速阶段,太阳能、风能、氢能等技术持续突破,成本下降与规模扩张推动其成为能源转型的核心驱动力。研究发现:  
- **技术进步显著**:光伏效率提升、风机大型化及绿氢制备技术突破,推动新能源经济性增强;储能技术虽进展迅速,但长时储能仍是关键瓶颈。  
- **区域发展不均衡**:中国在装机规模与产业链整合上领先,欧美聚焦政策创新与前沿技术,新兴市场潜力待释放,但受限于基础设施与资金。  
- **系统性挑战突出**:电网消纳能力不足、资源开采的生态代价、补贴依赖与贸易壁垒等问题,制约新能源的规模化与可持续发展。  

#### 6.2 对全球能源体系的展望  
未来能源体系将呈现以下趋势:  
- **技术融合与协同**:新能源与传统能源的互补性增强,数字化(如AI预测发电)与材料科学(如钙钛矿电池)将重塑产业形态。  
- **政策与市场双轮驱动**:碳定价机制和绿色金融工具有望降低投资风险,而国际标准统一可缓解贸易摩擦,加速全球化布局。  
- **可持续发展导向**:需强化全生命周期管理,平衡资源开发与生态保护,并通过社区参与实现公平转型。  

**最终目标**是通过多维度创新与合作,构建高韧性、低碳化、包容性的全球能源新体系。

Process finished with exit code 0

7.3.4 查看dify后台日志

对比dify后台日志和PyCharm控制台日志,输出结果内容完全一致

image-20250813145826661

第04章:Python调用Coze平台工作流

1. 发布API

Coze的API功能需要通过应用发布功能启用。

image-20250813145826661

2. 调试

2.1 入口

发布成功后在工作流画布页面可以看到API调试入口

image-20250813150058212

2.2 查看工作流ID和应用ID

通过上述入口进入API playground,选择右侧的Shell请求

可以看到工作流ID:workflow_id

应用ID:app_id

image-20250813150925985

2.3 授权API key

左侧窗口下滑,可以看到token,这就是API Key,点击授权

image-20250813151145365

点击“授权”后自动生成并填充 API Key

image-20250813151323753

右侧的Shell命令窗口同步更新

2.4 添加参数

parameters属性下的JSON用于向工作流传递参数。

该JSON对象的每个属性对应一个工作流的输入变量

image-20250813151718254

2.5 运行

可以直接点击Shell命令窗口右上角的“运行”按钮

image-20250813151931238

2.6 完整命令

curl -X POST 'https://api.coze.cn/v1/workflow/stream_run' \
-H "Authorization: Bearer {api_key}" \
-H "Content-Type: application/json" \
-d '{
  "workflow_id": "{workflow_id}",
  "app_id": "{app_id}",
  "parameters": {
    "link": "https://www.bilibili.com/video/BV1H48CzUEhj/?spm_id_from=333.337.search-card.all.click&vd_source=88c7b17e5559e5e21cf45e7e873d1459" #希望复刻的视频链接
  }
}'

2.7 运行结果

image-20250813152407941

右下角可以看到运行结果

200表示通信正常

PING是用于维持通信连接的心跳响应

Message是携带数据的响应

image-20250813152519965

此处的content是工作流的输出。

Done是最后一个响应,表示工作流执行完毕,在Message响应之后。

image-20250813152856481

3.通过python代码调用工作流

3.1 官方提供了调用API的Python代码

image-20250813153047412

3.2 源码如下

"""
This example describes how to use the workflow interface to stream chat.
"""

import os
# Our official coze sdk for Python [cozepy](https://github.com/coze-dev/coze-py)
from cozepy import COZE_CN_BASE_URL

# Get an access_token through personal access token or oauth.
coze_api_token = '{API_KEY}'
# The default access is api.coze.com, but if you need to access api.coze.cn,
# please use base_url to configure the api endpoint to access
coze_api_base = COZE_CN_BASE_URL

from cozepy import Coze, TokenAuth, Stream, WorkflowEvent, WorkflowEventType  # noqa

# Init the Coze client through the access_token.
coze = Coze(auth=TokenAuth(token=coze_api_token), base_url=coze_api_base)

# Create a workflow instance in Coze, copy the last number from the web link as the workflow's ID.
workflow_id = '{WORKFLOW_ID}'


# The stream interface will return an iterator of WorkflowEvent. Developers should iterate
# through this iterator to obtain WorkflowEvent and handle them separately according to
# the type of WorkflowEvent.
def handle_workflow_iterator(stream: Stream[WorkflowEvent]):
    for event in stream:
        if event.event == WorkflowEventType.MESSAGE:
            print("got message", event.message)
        elif event.event == WorkflowEventType.ERROR:
            print("got error", event.error)
        elif event.event == WorkflowEventType.INTERRUPT:
            handle_workflow_iterator(
                coze.workflows.runs.resume(
                    workflow_id=workflow_id,
                    event_id=event.interrupt.interrupt_data.event_id,
                    resume_data="hey",
                    interrupt_type=event.interrupt.interrupt_data.type,
                )
            )


handle_workflow_iterator(
    coze.workflows.runs.stream(
        workflow_id=workflow_id
    )
)

将源码粘贴到PyCharm。

3.3 在本地PyCharm中运行需要安装cozepy

pip install cozepy

代码粘贴后,运行,报错:

image-20250815014406971

需要补充代码:

image-20250815014227105

说明:在coze平台拷贝过来的代码基础上,添加参数parameters:

handle_workflow_iterator(
    coze.workflows.runs.stream(
        workflow_id=workflow_id,
        parameters={
            "link": "https://www.bilibili.com/video/BV1S2421P788/?share_source=copy_web&vd_source=8d04b2c1b7fd20888b03c20e99f26dc0"   # 替换成实际需要的链接
        }
    )
)

3.4 最终代码

"""
This example is about how to use the streaming interface to start a chat request
and handle chat events
"""

import os
# Our official coze sdk for Python [cozepy](https://github.com/coze-dev/coze-py)
from cozepy import COZE_CN_BASE_URL

# Get an access_token through personal access token or oauth.
coze_api_token = 'cztei_hauAfE3fAyudJBjx7YIuXhJLv3agMRYGVHhA9i0txXvQQlEKvR9Ias6GsgQtirdmP'
# The default access is api.coze.com, but if you need to access api.coze.cn,
# please use base_url to configure the api endpoint to access
coze_api_base = COZE_CN_BASE_URL

from cozepy import Coze, TokenAuth, Message, ChatStatus, MessageContentType, ChatEventType  # noqa

# Init the Coze client through the access_token.
coze = Coze(auth=TokenAuth(token=coze_api_token), base_url=coze_api_base)

# Create a bot instance in Coze, copy the last number from the web link as the bot's ID.
bot_id = '7651065383600308224'
# The user id identifies the identity of a user. Developers can use a custom business ID
# or a random string.
user_id = '123456789'

# Call the coze.chat.stream method to create a chat. The create method is a streaming
# chat and will return a Chat Iterator. Developers should iterate the iterator to get
# chat event and handle them.

for event in coze.chat.stream(
    bot_id=bot_id,
    user_id=user_id,
    additional_messages=[
        Message.build_user_question_text("闲聊."),
    ],
    parameters={
        "name": "红烧牛肉面",
    }
):
    if event.event == ChatEventType.CONVERSATION_MESSAGE_DELTA:
        print(event.message.content, end="", flush=True)

    if event.event == ChatEventType.CONVERSATION_CHAT_COMPLETED:
        print()
        print("token usage:", event.chat.usage.token_count)


3.5 运行

运行结果如下:

image-20250815014200569

4.通过平台运行

image-20250813154738952

第05章:Coze的Windows平台部署

1、整体概述

1.1 Coze的开源

字节跳动于2025年7月26日开源其AI智能体开发平台Coze(中文名“扣子”),短短48小时内GitHub星标数突破9000+。

最大亮点在于其极致亲民的硬件要求——普通家用电脑(2核CPU+4GB内存)即可流畅运行。

为什么Coze开源是劲爆新闻?

之前我们在Coze上搭建的智能体只能交付给C端用户,如果交付给B端用户通常都是用Dify、n8n等平台上搭建智能体交付,因为企业用户要求数据绝对安全,放在公网上是不能接受的,而Dify恰好是可以私有化部署的。

现在Coze也开源了,意味着以后更多了一种选择,这绝对可以说是一个里程碑式的进步。

为什么选择开源Coze?

  • 零成本商用:采用Apache 2.0协议,意味着你可以自由地用于商业用途,并进行二次开发
  • 全链路开源:覆盖Agent开发(Studio)、测试/运维(Loop)、部署(SDK)
  • 硬件平民化:告别动辄16G显存的GPU,普通笔记本即可运行AI工作流

1.2 两大核心组件

两大核心组件:Coze Studio和Coze Loop。

1.3 Coze本地化部署流程

Coze的本地化部署主要依赖Docker,其核心流程可以概括为以下四个阶段。

阶段 核心任务 关键操作/说明
1. 环境准备 确保系统满足条件
并安装必要软件
确认电脑配置(建议双核CPU+4G内存以上),
安装DockerGit
2. 获取代码 下载Coze Studio开源
代码到本地
通过git clone命令或直接从GitHub下载ZIP
压缩包的方式获取源码。
3. 配置模型 配置Coze将要使用的
大语言模型
这是关键一步,主要有两种选择:云端API模型
(如火山方舟)或本地模型(如通过Ollama部署)。
4. 启动服务 使用Docker编译并
运行所有服务
在项目目录下执行Docker命令,完成后通过
浏览器访问 http://localhost:8888即可。

2、Coze Studio的安装和配置

image-20251111142845795

2.1 安装Docker(环境准备)

Docker是唯一前置依赖,用于创建隔离运行环境:

① 下载安装包

image-20251111160545138

② 安装设置及启动

image-20251111160752709 image-20251111160850150

安装完成后打开Docker Desktop,确认状态栏显示 “Running”

image-20251111161225525

image-20251111175328144

个别首次安装的小伙伴会被windows系统提示需要安装适用于Linux的Windows子系统。这里选择确认安装。稍等片刻后会完成安装。

③ 配置镜像加速器或docker代理

在安装Coze之前,我们要先进行Docker中镜像网站的设置,因为默认的镜像是国外的网址,访问不到或比较慢。需要设置镜像加速器或docker代理。

说明:如果大家设置过代理,那么推荐方式2。如果没有,则使用方式1。

方式1:配置镜像加速器

image-20251118113106995

    "registry-mirrors": [  
    "https://registry.docker-cn.com",
    "https://s4uv0fem.mirror.aliyuncs.com",
    "https://docker.1ms.run",
    "https://registry.dockermirror.com",
    "https://docker.m.daocloud.io",
    "https://docker.kubesre.xyz",
    "https://docker.mirrors.ustc.edu.cn",
    "https://docker.1panel.live",
    "https://docker.kejilion.pro",
    "https://dockercf.jsdelivr.fyi",
    "https://docker.jsdelivr.fyi",
    "https://dockertest.jsdelivr.fyi",
    "https://hub.littlediary.cn",
    "https://proxy.1panel.live",
    "https://docker.1panelproxy.com",
    "https://image.cloudlayer.icu",
    "https://docker.1panel.top",
    "https://docker.anye.in",
    "https://docker-0.unsee.tech",
    "https://hub.rat.dev",
    "https://hub3.nat.tf",
    "https://docker.1ms.run",
    "https://func.ink",
    "https://a.ussh.net",
    "https://docker.hlmirror.com",
    "https://lispy.org",
    "https://docker.yomansunter.com",
    "https://docker.xuanyuan.me",
    "https://docker.mybacc.com",
    "https://dytt.online",
    "https://docker.xiaogenban1993.com",
    "https://dockerpull.cn",
    "https://docker.zhai.cm",
    "https://dockerhub.websoft9.com",
    "https://dockerpull.pw",
    "https://docker-mirror.aigc2d.com",
    "https://docker.sunzishaokao.com",
    "https://docker.melikeme.cn"  
    ]

方式2:配置docker代理

image-20251124171921123

image-20251124171941066

7890更改为本地监听的代理窗口。

到这里,Docker已经安装配置好了。

2.2 安装Coze Studio

① 下载Coze安装包

方式1:Github/Gitee
  1. 打开Docker Desktop内置终端(右下角Terminal图标)
  2. 执行以下命令:
# 克隆官方仓库代码
git clone https://github.com/coze-dev/coze-studio.git

注意:由于github下载较慢,大家可以将github上coze-studio镜像下载到gitee平台,然后从gitee平台下载。

1)在gitee平台上:

image-20251117184702974

2)复制Github上的coze-studio地址

image-20251117184601700

粘贴到:

image-20251117184834778

3)下载完成以后,复制gitee上的地址:

image-20251117184633048

大家可以直接粘贴如下地址:

git clone https://gitee.com/shkstart/coze-studio.git

粘贴到docker desktop客户端:

image-20251117184502344

说明:git是一个从代码仓库拉取代码的工具,大家通过以下网址下载,安装一下即可。安装非常简单,安装以后,就可以使用git命令了。如果你没有安装git,请先安装git:https://git-scm.com/downloads

方式2:解压zip包

如果你不想安装git,你也可以直接下载github上coze的zip包,如下图:

https://github.com/coze-dev/coze-studio

image-20251114174617570

下载后解压到指令目录即可。

② 安装并配置模型

首次部署并启动 Coze Studio 开源版本之前,需要在 Coze Studio 项目中配置模型服务。否则,在创建Agent或工作流时将无法正确选择模型。

1、从模板目录复制doubao-seed-1.6模型的模板文件,并粘贴到配置文件目录中。

首先,进入根目录coze-studio下,在地址栏中输入“cmd”并按回车键。

image-20251118143432201

执行命令:

copy backend\conf\model\template\model_template_ark_doubao-seed-1.6.yaml backend\conf\model\ark_doubao-seed-1.6.yaml

2、修改配置文件目录中的模板文件,填入对应的参数

id:Coze Studio 中的模型 ID,由开发者自主定义,必须为非零整数,全局唯一。模型上线后请勿修改模型 ID。
meta.conn_config.api_key:在线模型服务的 API Key,获取方式见下方获取Key和Model接入点的api_key。
meta.conn_config.model:在线模型服务的模型 ID。本例中为 Volcengine Ark doubao-seed-1.6 模型接入点的 Endpoint ID,获取方式见下方获取Key和Model接入点的model。

配置方案说明:

模型配置是部署的核心,主要有以下两种方案,根据自己的需求(如网络条件、数据敏感性、成本)进行选择。

配置方式 优点 缺点 适用场景
云端API模型 (如火山方舟) 模型能力强,响应速度快,无需消耗本地计算资源。 需要API Key(可能产生费用),需要联网,数据需传输到厂商云端。 体验Coze全部功能,需要最先进的模型能力,开发测试环境。
纯本地模型 (通过Ollama) 数据完全私密,离线可用,API调用免费 本地硬件要求较高(尤其需要较好GPU),模型性能可能不及顶级云端模型。 对数据安全有严格要求,内网环境,希望完全掌控模型的场景。
方案1:配置云端API模型(以火山方舟为例)

1、创建 API Key

进入火山引擎官网 https://www.volcengine.com ,打开【控制台】。

img

搜索并进入【火山方舟】

image-20251118092704469

点击【API Key 管理】下的【创建 API Key】,选择【创建】

img

点击小眼睛即可查看 API Key ,复制备用。

img

2、创建Endpoint

进入【在线推理】页面,选择【自定义推理接入点】,点击【创建推理接入点】

img

输入接入点名称,建议以模型命名,点击【添加模型】

img

模型目前支持:豆包、DeepSeek、Kimi、Qwen,这里以豆包 1.6 为例,选择后确定。

img

image-20251118152946085

勾选协议,点击【开通模型并接入】。

image-20251118153103848

补充:如果是模型首次开通需要实名认证,输入个人信息,手机刷脸验证。

复制Endpoint。注意:模型名称下方的 ID 就是Endpoint。

image-20251118153248976

3、配置 Coze 文件

找到前面的文件:ark_doubao-seed-1.6.yaml,进行编辑

  • id 修改为任意 5 位以上纯数字。

image-20251118112100248

  • 将前面创建的【API Key】和【Endpoint】填入下图位置内,保存并关闭文件。

image-20251118153405463

方案2:配置纯本地模型(通过Ollama)

这种方法可以实现完全离线的私有化部署。

1、安装Ollama:首先在本地安装Ollama,它是一个用于在本地运行大模型的工具。

2、拉取模型:通过Ollama拉取你想要的模型,例如在命令行中执行 ollama pull qwen2.5:7b来下载一个开源模型。

3、配置Coze:在Coze项目目录下,找到Ollama的配置文件模板model_template_ollama.yaml,

image-20251118154113127

将其复制并重命名为model_ollama.yaml,保存到 backend/conf/model/ 目录下:

image-20251118154236734

修改其中的 base_url为Ollama的服务地址(通常是 http://host.docker.internal:11434),并指定你拉取的 model 名称。

image-20251118154604090

③ 安装并启动Coze

下图中有一个名叫docker的目录,我们要进入到这个项目文件夹中,进行安装。

image-20251118151026988

在coze-studio\docker当前目录下,测试如下:

1、输入docker,点击回车键后,返回下图这样的结果,表明安装是成功的,没有任何问题。

image-20251118151237965

2、环境变量配置

执行如下命令,重命名环境配置文件:

copy .env.example .env   #或执行:cp .env.example .env

img

3、在Docker里启动Coze

首次启动可能需要5-10分钟(依赖网络速度),运行一下这条命令:

docker compose --profile '*' up -d

image-20251118153815941

这个命令的含义是:

  • docker compose:使用Docker Compose运行服务
  • --profile '*':启用所有profile配置
  • up:启动服务(没有就创建容器,有就重启)
  • -d:detached模式,即在后台运行

出现下图表示成功:

image-20251118154819866

4、安装结束后,查看运行状态

docker compose ps

打开安装好的docker客户端,正常就可以看到docker启动起来了。

image-20251118155151948

④ 访问Coze Studio界面

安装好后,我们打开浏览器,访问http://localhost:8888/来打开 Coze Studio ,可以看到如下界面。

image-20251118155219214

登录进去,即可正常使用了

image-20251118155338542

正常就可以看到docker启动起来了。

小遗憾:目前功能较商业版还比较简陋,但未来可期!

3、CozeLoop(扣子罗盘)指南

3.1 介绍

image-20251118160521163

扣子罗盘通过提供全生命周期的管理能力,帮助开发者更高效地开发和运维 AI Agent。无论是提示词工程、AI Agent 评测,还是上线后的监控与调优,扣子罗盘都提供了强大的工具和智能化的支持,极大地简化了 AI Agent 的开发流程,提升了 AI Agent 的运行效果和稳定性。

3.2 部署

① 准备工作

安装 CozeLoop 开源版之前,确保您的软硬件环境满足以下要求:

1、Go语言环境:已安装Go SDK,且版本为1.23.4及以上版本。配置GOPATH,同时将${GOPATH}/bin加入到环境变量PATH中,保证安装的二进制工具可找到并运行。

Go语言官网:https://go.dev/dl/

image-20251124100941713

下载完成后双击打开,运行

image-20251124101005119

按提示一直“Next”即可。

安装完成后,确保GO家目录下的bin目录已在环境变量中。

image-20251127091156466

2、Docker环境:提前安装Docker、Docker Compose,并启动 Docker 服务

3、模型:已开通OpenAI或火山方舟等在线模型服务。

② 下载/克隆仓库

这里推荐方式1,不推荐方式2,是因为方式2下载以后,在⑤启动服务时,总报错。

比如:

image-20251127180605483

方式1:下载zip文件(推荐)

从github下载coze loop的zip文件到本地,解压即可。

https://github.com/coze-dev/coze-loop

image-20251127180217630

我存放到了如下路径:

image-20251127180506504

方式2:克隆仓库
git clone https://gitee.com/shkstart/coze-loop.git

image-20251118160139754

③ 配置模型

编辑文件coze-loop-main\release\deployment\docker-compose\conf\model_config.yaml,修改 api_key 和 model 字段。以火山方舟为例:

  • api_key:火山方舟 API Key。(参考Coze Studio中的同步骤情况)
  • model:火山方舟模型接入点的 Endpoint ID。(参考Coze Studio中的同步骤情况)

image-20251118164111775

④ 更改端口

1、打开coze-loop-main\release\deployment\docker-compose目录下的.env,将COZE_LOOP_APP_OPENAPI_PORT更改为8889或者其它未被占用的端口。

image-20251124102156323

2、打开coze-loop/release/deployment/docker-compose目录下的docker-compose.yml,将${COZE_LOOP_APP_OPENAPI_PORT}的端口更改为8889,注意要和.env中COZE_LOOP_APP_OPENAPI_PORT的端口保持一致

image-20251124102417593

⑤ 启动服务

在coze-loop-main\release\deployment\docker-compose目录下执行以下命令,使用 Docker Compose 快速部署 Coze Loop 开源版。

docker compose -f docker-compose.yml --env-file .env --profile "*" up -d

如果不希望以守护进程(放到后台,命令行窗口不会打印完整日志,且启动成功后窗口退出则进程中断)的形式启动,则可以去掉-d,首次推荐不加-d,方便查看日志。

首次启动推荐命令

docker compose -f docker-compose.yml --env-file .env --profile "*" up

首次启动需要拉取镜像、构建本地镜像,可能耗时较久。看到以下日志,则部署完成。

image-20251127181022788

image-20251127181129672

docker客户端中,当前容器除了xxx-init的镜像启动后又关闭之外,其它的镜像都需要是开启状态的,那就对了。

⑥ 访问 CozeLoop 开源版

通过浏览器访问 Coze Loop 开源版 http://localhost:8082

image-20251119145214972

注册完成后即可进入应用详情页。

image-20251111113044531

3.3 Coze Loop的使用

这里演示在线版本:https://www.coze.cn/loop

Coze-loop官方提供了一些示例,位于在线版的Demo空间

image-20251124185613545

功能1:Prompt 开发

该模块用于进行提示词的预览与调试

image-20251124185628090

点击详情

image-20251124185758202

功能2:Playground

该模块和Prompt开发功能类似,区别在于自由对比模式

image-20251124185909365

官方Demo空间中,我们无权开启自由对比模式,切换到个人空间查看

image-20251124185959202

image-20251124190051796

image-20251124190108340

功能3:评测集

该模块用于管理评测数据集。

image-20251124190150317

image-20251124190204309

image-20251124190234288

功能4:评估器

该模块用于构建评估Prompt 开发实例的工具,本质上也是添加了提示词的大模型。

image-20251124190747606

image-20251124190805543

本质上也是提示词+大模型

image-20251124190818807

功能5:实验

该模块用于创建和管理实验。

image-20251124190322906

同样地,Demo空间无权创建实验,切换到个人空间即可。

image-20251124190418529

实验详情如下。

image-20251124190652454

指标统计模块以可视化的方式展示评估结果

image-20251124190927072

新建实验

image-20251124191513447

依次设置基础信息、评测集、评测对象、评估器即可。

功能6:Trace

该模块记录了详细的运行信息。

image-20251124190956748

image-20251124191026402

image-20251124191036884

功能7:统计

该模块统计整个空间的运行情况。

功能8:自动化任务

该模块用于创建和管理自动化评测任务。

image-20251124191652028

详情页

image-20251124191706788

image-20251124191729562

第06章:Dify的Windows平台部署

1. Docker DeskTop安装

1.1 下载-安装包

官网:https://www.docker.com/

方式1:选择版本下载:

image-20250310004148625

方式2:从视频资料里获取

image-20250310004230540

1.2 OK即可

image-20250305161642755

1.3 等待安装完成

image-20250305161659510

1.4 重启电脑

image-20250305161926376

也可以关闭窗口,稍后自行重启。

1.5 接受服务协议

重启后自动弹出

image-20250305162135442

1.6 完成安装

image-20250305162214697

1.7 允许控制

image-20250305162550391

1.8 不登录使用

image-20250306093628030

1.9 跳过

image-20250306093756030

个别首次安装的小伙伴会被windows系统提示需要安装适用于Linux的Windows子系统。这里选择确认安装。稍等片刻后会完成安装。

1.10 安装成功验证

通过win+r调取运行:输入cmd

image-20250310004415794

输入:docker。能显示如下内容即可成功

image-20250310004441284

2. 部署dify

2.1 拉取dify代码

github地址

https://github.com/langgenius/dify

或者使用本地提供给大家的:

image-20250311190257712

2.2 更改信息

下面的操作,在git的readme文档中都有。

https://github.com/langgenius/dify/blob/main/README_CN.md

这里直接操作:

进入dify仓库目录下的docker目录

复制.env.example为.env

image-20250307115023041

然后按需更改.env文件的配置即可。

比如,修改端口号。默认端口号是80。可以修改为8100

image-20250310010206542

2.3 打开终端

如下操作可以在windows的命令行窗口进行,或者在docker客户终端中进行。

比如:在终端中进入docker目录

image-20250307120236402

2.4 安装

执行以下命令部署dify

docker compose up -d

这里注意,大概率会由于网络问题或镜像缺失问题发生报错。可以再次输入命令重新执行。

image-20250310003459328

安装完以后:

image-20250310003642052

再次输入:docker compose up -d

image-20250310010536032

2.5 访问dify

浏览器访问localhost即可

首次访问需要设置用户名密码,略。

使用方式和官方提供的平台是一样的。

image-20250307120331043

第07章:企业级大模型的部署


1、企业级大模型部署概述

1.1 为什么要部署?

企业部署大模型,不是为了解决“能不能用”,而是必须把敏感数据服务的控制权牢牢掌握在自己手里。要想数据安全,就需要实现私有化的部署。这里包括大语言模型、嵌入模型、重排序模型以及多模态模型等。

第三方API 企业级部署
安全合规 敏感数据泄漏 数据掌握在企业手中
成本预算 高频调用成本不可控 成本可预测(服务器购买/租赁和运维
成本)
能力可控 黑箱与版本漂移 推理性能、模型版本可定制
可靠性 延迟、吞吐不可控 内网低延迟、弹性扩缩容自由调整
吞吐量
运维治理 模型服务透明,不利于定位故障 模型服务可观测,支持故障定位和治理

注:版本漂移是指第三方更改版本,系统行为发生不可控变化

1.2 技术架构

  • 应用层
    • 使用 Dify 构建大模型应用
    • 提供统一的 Web UI 和 API 接口
  • 模型推理层
    • 使用独立的推理框架托管大模型:vLLM / SGLang / Ollama / HuggingFace TEI
      • 相应的大模型:Qwen / LLaMA / Baichuan
    • 运行在云 GPU 服务器,提供高性能推理服务
  • 连接方式
    • 通过标准 OpenAI-compatible API 进行调用

调用路径(从上到下):

image-20260116145002455

这种架构的优势在于

  • 技术解耦

    • 模型可独立升级、替换
    • 应用开发不依赖具体模型实现
  • 有利于运营治理

    • 统一入口(标准OpenAI-compatible API调用)可以做统一鉴权、限流、审计等
    • 推理层可以被独立运维,单独监测QPS(Query Per Second)、TTFT(Time To First Token)、TPS(Token Per Second)、GPU利用率等指标

1.3 框架选型

1.3.1 推理引擎

① 本地开发 / 个人使用(最快跑起来、最少运维)

核心目标是:上手简单、快速验证,但通常不擅长多租户/高并发/多卡集群部署

  • Ollama:由Ollama Inc.公司开发,是部署大模型最简单的方式,但推理效率低不适合高并发场景
  • llama.cpp:由Georgi Gerganov个人开发的开源项目,纯C/C++实现的LLaMA模型推理库。尤其适合 CPU/边缘设备/低成本部署。

结论:企业级部署不考虑Ollama和llama.cpp。

② 高并发推理引擎

这类引擎使用门槛稍高,但可以充分发挥GPU性能,适合企业高并发场景。

  • vLLM:来自加州大学伯克利分校的 Sky Computing 实验室,采用了PagedAttention、P/D分离等多种优化策略,追求极致推理性能,支持英伟达GPU、AMD GPU和华为昇腾等多种硬件平台,支持多卡并行推理。主要支持LLM部署

  • SGLang:也是在Sky Computing 实验室诞生,同样采用了类似的优化策略,不同的是,SGLang面向应用编排/结构化生成,对同一个应用多次调用请求的场景做了优化,底层通过合并、复用、调度优化等策略减少模型实际进行的推理次数,进一步提升推理性能。

  • HuggingFace TEI(Text Embedding Inference):Huggingface官方推出的工具包,专为高效部署嵌入模型设计。

结论:通常vLLM的性能就足够支撑企业高并发场景调用了。

1.3.2 模型托管平台

这类平台把模型当成服务管理起来,底层可以配置不同的推理引擎。

  • Xinference(Xorbits Inference):杭州未来速度科技有限公司的大模型管理和推理服务平台,致力于打造一体化解决方案。支持LLMEmbeddingRerank等多种模型托管。

1.3.3 选型

大语言模型:可以用vLLM、SGLang、或者Xinference+vLLM引擎部署。

嵌入模型:可以用Huggingface TEI和Xinference部署。

重排序模型:目前调研的产品,除了Ollama和llama.cpp,只有Xinference支持这类模型的部署。

最终选型:

选定XInference平台作为模型托管与推理服务框架,部署大语言模型、嵌入模型和重排序模型。原因如下:

① 接口统一:可以向外提供统一的API接口,像大模型厂商那样一个链接管理多个模型。

② 针对LLM:结合vLLM引擎部署LLM,可以获得极高的推理性能

③ 针对嵌入模型和重排序模型:嵌入模型和重排序模型只需要一次前向,和逐token生成的大语言模型相比,资源开销要小得多,因此对性能要求不高。XInference也支持这两种模型部署,这样我们可以用一个平台管理所有模型,运维成本低

1.3.4 整体调用关系

整体图示如下:

image-20260108151939890

问题:这个项目中只把Dify安装在了Docker中。XInference直接部署在GPU服务器,没有在Docker中。为什么?

首先说,XInference是可以部署到Docker中的。但是XInference中模型使用,需要消耗大量GPU,而Docker中默认是使用CPU,不能使用GPU。所以:

方案1:XInference不安装在Docker中

方案2:XInference安装在Docker中,但是需要额外安装其他的软件,支持GPU的调用。

这里使用方案1,只将Dify安装到docker中,XInference不安装到docker中。

2、Dify平台私有化部署

2.1 Dify平台的介绍(复习)

Dify 作为一个综合性的 LLM 应用开发平台,内置了构建现代生成式 AI 应用所需的几乎所有关键技术栈。

它的具体功能如下:

  • 基于Agent架构构建智能体应用
  • 基于RAG构建私有知识库应用
  • 基于Workflow构建智能工作流应用

Dify 是当今最优雅、门槛最低、最受欢迎、效果最好的大模型开发平台之一。

无论是经验丰富的程序员还是初涉AI领域的团队(如产品经理、运营人员),都能够快速、高效地搭建并运营生产级别的生成式 AI 应用。

官网:https://dify.ai/zh

文档说明:https://github.com/langgenius/dify/blob/main/README_CN.md

说明:访问Dify官网需要魔法

2.2 租赁Dify服务器:腾讯云

企业用户可以选择租用云服务器,或者在本地的服务器中部署Dify。因为Dify所需的资源很小,一个轻量级的服务器足以支持运行。

我们需要租赁一个云服务器去运行Dify服务:腾讯云。

官网:https://cloud.tencent.com/

① 基础配置

https://buy.cloud.tencent.com/cvm

如果是企业中使用或者个人资金充裕且业务稳定的话,可以选择长租使用。期望优惠的话,可以选择竞价实例。竞价实例,在性能和稳定性上,与按量计费模式没有差别。

竞价实例,只要有人租长期的服务器就有可能把你的服务器踢掉,实例被竞价释放也是有解决办法的,后续会去讲。

image-20250624110356161

地域选择:没有要求,自己根据需要选即可。

实例配置:根据自己需求选择,无具体要求。这里我选择4核8GB。

image-20260116001140378

镜像:选择CentOS、Ubuntu都可以,这里使用了Ubuntu。选择后点击下一步。

image-20250624110837216

image-20250715145801269

② 设置网络和主机

拉满带宽上限,新建安全组,把常用的端口都开启

image-20250624110900269

命名实例,设置密码,进行下一步(这里我的密码设置为abc_1234)

image-20251120144226628

开通

image-20250624110916265

③ 登录(使用Xshell或finalshell或windTerm)

image-20250715151147907

finalshell下载网站https://www.hostbuf.com/t/988.html

创建好了,通过这个公网IP,端口使用22,账号ubuntu,密码使用你设置的密码。使用你的远程连接工具XShell 或 final shell 连接即可。

XShell界面如下:

image-20250715151404191

2.3 部署Docker

部署dify平台,需要基于docker环境,而腾讯云新建的云平台上默认是没有docker的。接着,需要在腾讯云租用的服务器中部署Docker。

什么是Docker?

image-20250811175107285

Docker是一种容器化技术,相较于传统的通过虚拟机技术实现的虚拟化方案来说,Docker是⼀种更加轻量级的虚拟化解决方案。

它可以将应用程序及其依赖项打包成一个独立的容器,并在不同的环境中运行。通过Docker容器, 开发者可以轻松地构建、部署和运行应用程序,而无需担心环境配置和依赖问题。

image-20251129114916299

使用Docker的好处:

  • 一次构建,到处运行:你在自己电脑上开发测试好的程序,打成 Docker 镜像后,可以保证在生产服务器上跑起来的效果一模一样。再也不会出现“在我电脑上是好的啊!”这种问题。
  • 环境隔离:你可以同时运行一个项目的 Python 2 版本和 Python 3 版本,它们互不影响。
  • 快速部署与扩展:因为容器非常轻量,你可以瞬间启动成百上千个一样的容器来应对高流量(比如双十一抢购)。
  • 简化配置:环境配置都写在了“材料包”(镜像)里,新人接手项目时,不需要花几天时间配环境,直接一条命令就能让程序跑起来。

场景:

假设你开发了一个网站。

  • 传统方式: 你需要给运维人员一份长长的《环境配置手册》:“请先安装 CentOS 7,然后安装 Python 3.8.2,再安装 Nginx 1.18.0,配置如下……”。步骤繁琐,极易出错。
  • Docker 方式: 你直接把整个网站和环境打包成一个 Docker 镜像。运维人员只需要执行一句简单的命令:docker run [你的镜像名],一个完整、可运行的网站环境就在一秒内启动了。

按照下面的指令一步一步进行操作

#更新软件包
sudo apt update

sudo apt upgrade

# 如果出现需要更新内核
两次回车后执行 
sudo reboot

#安装docker依赖
sudo apt install software-properties-common

sudo apt-get install ca-certificates curl gnupg lsb-release

#添加Docker官方GPG密钥
curl -fsSL http://mirrors.aliyun.com/docker-ce/linux/ubuntu/gpg | sudo apt-key add -

#添加Docker软件源(输入后根据提示按Enter)
sudo add-apt-repository "deb [arch=amd64] http://mirrors.aliyun.com/docker-ce/linux/ubuntu $(lsb_release -cs) stable"

#安装docker(输入后根据提示输入 y )
sudo apt-get install docker-ce docker-ce-cli containerd.io --fix-missing

执行sudo apt upgrade的时候会出现这个界面,按回车即可

image-20250811091630148

之后如果在这个界面卡住,按几下回车即可。

安装完毕,启动docker,并查看状态

sudo systemctl start docker

sudo systemctl status docker

如图所示即为启动成功

image-20250715154645265

看到running状态说明docker已经正常启动

注意:安装过程中如果报错如下:

image-20251117140452058

可以按如下操作步骤执行:

步骤 关键检查点/操作 预期结果/说明
1. 验证Docker安装状态 运行 sudo systemctl status docker 确认Docker服务当前的状态和错误日志。
2. 检查并取消服务屏蔽 执行 sudo systemctl unmask docker.service 解决服务被意外“屏蔽”导致无法启动的问题。
3. 检查依赖服务状态 运行 systemctl list-dependencies docker.service.
如果containerd服务异常,尝试启动它:sudo systemctl start containerd
查看Docker依赖的服务(如containerd)是否正常。
如果启动失败,进入第4步
4. 修复containerd(关键步骤) 执行:① sudo apt-get update
② sudo apt-get install --reinstall containerd.io
重新安装Docker的核心运行时依赖。

如果以上步骤均无效,可以考虑彻底清理Docker及其相关组件后重新安装。这是解决文件损坏或版本冲突的可靠方法。

彻底卸载Docker:

sudo apt-get purge docker-ce docker-ce-cli containerd.io
sudo rm -rf /var/lib/docker
sudo rm -rf /var/lib/containerd

2.4 部署Dify

官网:https://github.com/langgenius/dify

文档:https://docs.dify.ai/zh-hans/getting-started/install-self-hosted/docker-compose

安装 Dify 之前, 请确保你的机器已满足最低安装要求:

  • CPU >= 2 Core
  • RAM >= 4 GiB

① 下载

注意:新版本Dify本地部署可能会出现各种兼容问题,强烈推荐0.15.5版本,稳定,功能效果一致!

/opt下创建一个dify目录,用于存储dify源码:

cd /opt
sudo mkdir dify #用于存储dify源码包
方式1:离线下载包(推荐)

离线下载源码包

下载地址:https://github.com/langgenius/dify/releases/tag/0.15.5

1763090017313

注意:网不好同学,已经提前下载好,放在课程资料中!

利用远程连接工具(比如:XFTP)将dify源码包传递到服务器 /opt/dify文件夹中,并解压即可:

image-20251120214856130

上传可能失败(因为默认ubuntu用户权限不足),解决办法如下

# 方式1:赋予指定用户指定目录的完全权限(使用777)
# 在Ubuntu终端xshell执行:sudo chmod -R 777 /目标目录的完整路径
sudo chmod -R 777 /opt/dify

# 方式2:先将文件上传到您的用户主目录(如 /home/ubuntu),这个目录通常有写入权限
# 然后使用XShell或终端,通过命令移动文件:sudo mv /home/ubuntu/文件名 /目标/path/

进行解压:

#进入dify目录,在opt目录下执行:
cd ./dify
#解压
sudo tar -zxvf dify-0.15.5.tar.gz

cd /opt/dify/dify-0.15.5

pwd # 输出 /opt/dify/dify-0.15.5

1763091789868

方式2:Gitee下载

如果使用github下载过慢,还可以使用码云(Gitee)或镜像网站替代 GitHub 直接下载,利用国内服务器加速。

操作步骤:

1)注册码云账号(https://gitee.com )。

2)在码云新建仓库,选择「导入GitHub仓库」,粘贴 https://github.com/langgenius/dify.git 的链接 。

3)导入完成后,使用码云生成的仓库地址克隆:

sudo git clone https://gitee.com/你的用户名/dify.git

这里大家也可以直接使用我的链接:

sudo git clone https://gitee.com/shkstart/dify.git

image-20250716231626295

② 使用docker启动Dify

  1. 进入 Dify 源代码的 Docker 目录:

    cd /opt/dify/dify-0.15.5/docker
    
  2. 复制环境配置文件

    sudo cp .env.example .env
    
  3. 启动 Docker 容器

    根据你系统上的 Docker Compose 版本,选择合适的命令来启动容器。你可以通过 docker compose version 命令检查版本,详细说明请参考 Docker 官方文档

    • 如果版本是 Docker Compose V2,使用以下命令(课程对应版本):

      sudo docker compose up -d
      
    • 如果版本是 Docker Compose V1,使用以下命令:

      sudo docker-compose up -d
      

    说明:Docker 会自动帮你:拉取需要的镜像 → 创建容器 → 按顺序启动所有服务 → 后台运行。

  4. 运行命令后,你应该会看到类似以下的输出,显示所有容器的状态和端口映射:

    注意:第一次拉取镜像,时间可能会很!!!

    [+] Running 11/11
     ✔ Network docker_ssrf_proxy_network  Created                                         
     ✔ Network docker_default             Created                                         
     ✔ Container docker-redis-1           Started                                         
     ✔ Container docker-ssrf_proxy-1      Started                                         
     ✔ Container docker-sandbox-1         Started                                         
     ✔ Container docker-web-1             Started                                         
     ✔ Container docker-weaviate-1        Started                                         
     ✔ Container docker-db-1              Started                                         
     ✔ Container docker-api-1             Started                                         
     ✔ Container docker-worker-1          Started                                         
     ✔ Container docker-nginx-1           Started                                         
    
  5. 最后检查是否所有容器都正常运行:

    sudo docker compose ps
    

    在这个输出中,你应该可以看到包括 3 个业务服务 api / worker / web,以及 6 个基础组件 weaviate / db / redis / nginx / ssrf_proxy / sandbox

    image-20251117162409929

  6. 停止Dify运行

#一键关停所有相关容器,干净不残留
docker compose down
  1. 同步环境变量配置(重要!)
  • 如果 .env.example 文件有更新,请务必同步修改你本地的 .env 文件。

  • 检查 .env 文件中的所有配置项,确保它们与你的实际运行环境相匹配。你可能需要将 .env.example 中的新变量添加到 .env 文件中,并更新已更改的任何值。

③ 常见问题解决

问题1:安装 Dify常见问题和解决方案

sudo docker compose up -d

执行失败,大概率会由于网络问题或镜像缺失问题发生报错。

image-20250715173421518

image-20250605110352485

进行镜像源的配置

sudo vi /etc/docker/daemon.json

添加下面的配置

{
    "registry-mirrors": [
    "https://docker.unsee.tech",
    "https://dockerpull.org",
    "https://docker.1panel.live",
    "https://dockerhub.icu",
    "https://docker.m.daocloud.io",
    "https://docker.nju.edu.cn",
    "https://registry.docker-cn.com",
    "https://docker.mirrors.ustc.edu.cn",
    "https://hub-mirror.c.163.com",
    "https://mirror.baidubce.com",
    "https://5tqw56kt.mirror.aliyuncs.com",
    "https://docker.hpcloud.cloud",
    "http://mirrors.ustc.edu.cn",
    "https://docker.chenby.cn",
    "https://docker.ckyl.me",
    "http://mirror.azure.cn",
    "https://hub.rat.dev"]
}

{
    "registry-mirrors": [
        "https://mbirror.ccs.tencentyun.com"
    ]
}

保存,然后在终端重新启动一下docker

# 重新登陆,需要输入密码
systemctl daemon-reload

systemctl restart docker

重新执行

sudo docker compose up -d

开始正常下载了

image-20250605111023405

image-20260116080209247

问题2:可能出现报错,报错如下

image-20250605111647894

于是根据报错信息检查

sudo vi /etc/apparmor.d/tunables/home.d/ubuntu

删除掉报错信息中第七行的多余字符即可

image-4f93a9cc-8b68-4b18-b9c2-bdab0b7c7902

重新运行,成功

image-20250605112103687

④ 访问

你可以先前往管理员初始化页面设置设置管理员账户:

# 服务器环境
http://your_server_ip/install   #your_server_ip即为配置的腾讯云服务器地址

image-20250717082751916

如图所示为成功访问,进行注册登陆即可

image-20250717082902281

注意:如果一直无法加载进去,则需要重启docker再次尝试

⑤ 设置镜像

为避免案例中的竞价实例被释放,可以在控制台中的快照中设置快照策略,即使被释放了也能保存快照,从而快速恢复

image-20250624135512109

image-20250624135549495

image-20250624135559773

再次进入定期快照策略可发现已设置成功

2.5 配置在线大模型

如果想调用线上的LLM,则可以用Dify选择线上的模型运营商。比如说可以在模型运营商中选择Deepseek。

image-20250606150306743

DeepSeek官网地址: https://www.deepseek.com/ ,在官网获取自己的API即可配置后使用

image-20251120152435639

在这里我们可以使用提供的在线大模型运营商,但是为了考虑到可能存在的数据安全问题,所以我们自己部署XInference,进而部署私有的大模型。

image-20250605135524234

image-20250605135548119

3、模型部署

3.1 租赁GPU服务器:AutoDL

AutoDL介绍

这里我们选用AutoDL平台租赁服务器。这是一款面向开发者和企业的云计算平台,主要提供高性价比的GPU算力资源,支持AIGC、深度学习、云游戏、渲染测绘、元宇宙、HPC等应用。

平台地址:https://www.autodl.com/

AutoDL服务器的资源比较紧俏,且比较贵

  • 一台机器开机一个小时平均花费2元
  • 建议:一般早上开始工作的时候开机,在结束一天工作的时候关机。
  • 大家选择显卡的时候选择能够安装pytorch2.12,python3.10以及cuda11.8的显卡就行,除了30和40系列显卡,还可以选择vGPU-32G(性价比拉满)和vGPU-48(贵但是效率高)

① 配置服务器+镜像

选择服务器:

这里可以选择西北B区的单卡4090作为我们的服务器,我们需要租赁一台服务器部署Xinference。

注意:在AutoDL平台上,只提供了6006端口进行开放。

image-20250623091017210

注意

1、这里推荐“西北地区”,因为会提供公网ip,其它地区不确定。

2、GPU推荐 RTX4090,3090,3080等,其它显卡可能会出现后续不兼容情况。

3、5090不推荐,创新架构兼容性比较差

选择镜像版本:

image-20250623091120043

② XShell连接登录

复制该服务器的登录指令,通过远程连接工具进行登录

image-20251117171226626

image-20251117171604345

测试连接:

默认的用户名:root

image-20250715171002228

连接成功

③ 开启学术资源加速

为下载一些外网的资源(比如Github、HuggingFace等),需要在当前终端中开启学术资源加速

免不了我们要在这个系统上安装一些软件。这些软件可能来自于如下的红框的位置。默认是下载不了的。那么就需要魔法。这里我们称为:学术加速。

https://www.autodl.com/docs/network_turbo/

image-20250623092008610

将框选住的一行复制到终端输入即可

source /etc/network_turbo

image-20250715171206300

3.2 部署XInference

1.准备conda环境

① 创建conda环境

AutoDL的系统盘大小为30GB,数据盘大小为50GB,conda的默认工作路径在系统盘下,Xinference全家桶需要的空间比较大,可能导致系统盘被占满,因此,通过将环境文件放在数据盘下。

注意:如果创建环境这一步始终出现问题,建议先排查是不是5090,然后多做尝试,超过3次直接换一台服务器就好,不然只会浪费时间,只要创建环境激活环境没有问题,后续出现问题的概率就比较小了,大家可以先不急于测试,把每个模型都下载下来,更推荐使用命令行的形式下载。

注意,智川云如果有问题可以直接问客服,只要能建立连接,就按照教程步骤走就行

autodl 算力云
conda create -p /root/autodl-tmp/conda_envs/xinfer_env python=3.10

智川云:
conda create -p /root/rivermind-data/conda_envs/xinfer_env python=3.10
② 初始化conda环境
conda init bash

source ~/.bashrc
③ 激活conda环境
conda deactivate

autodl(算力云)
conda activate /root/autodl-tmp/conda_envs/xinfer_env

智川云
conda activate /root/rivermind-data/conda_envs/xinfer_env
④ 验证conda是否创建成功

python和pip命令的路径在conda环境文件下,则创建成功。

which python

which pip

image-20260108191249504

2.部署XInference

AutoDL学术加速默认用阿里云作为PyPi源,镜像中不包含XInference全家桶的num2words,会报错,所以将清华源作为备用源。

pip install "xinference[vllm,embedding,rerank,transformers]==1.16.0" \
--extra-index-url https://pypi.tuna.tsinghua.edu.cn/simple

可以把安装服务放在后台

nohup pip install "xinference[vllm,embedding,rerank,transformers]==1.16.0" --extra-index-url https://pypi.tuna.tsinghua.edu.cn/simple >xinfer_install.log 2>&1 &

3.启动XInference服务端

在此之前执行

pip install "sentence_transformers<4.0.0"
XINFERENCE_MODEL_SRC=modelscope xinference-local --host 0.0.0.0 --port 6006

XINFERENCE_MODEL_SRC=modelscope的作用是将默认的模型仓库从Huggingface更换为魔搭

--host:指定监听网卡,0.0.0.0表示监听所有网卡的请求

--port:指定服务端口,默认9997

4.访问XInference WebUI

① 查看AutoDL自定义服务地址

image-20260108211510204

image-20260108211550310

AutoDL的云GPU服务器默认会将6006和6008映射为服务,XInference服务端监听了6006端口,访问对应链接即可访问Xinference的WebUI。

② 访问Xinference的WebUI

image-20260108211759797

3.3 部署LLM

1.部署

① 云端模型

我们可以让XInference平台帮我们从模型仓库下载并启动模型,前提是该模型被官方收录并支持。

以Qwen3-0.6B为例,参考官方文档

https://inference.readthedocs.io/zh-cn/latest/models/builtin/llm/qwen3.html

image-20260108170929872

Xinference把模型分成了很多模型族,每个模型族都包含一系列不同规模的模型,通过不同的属性配置区分。Qwen3-0.6B的模型族为qwen3,配置如上图所示。

新起一个连接窗口:激活conda环境

conda activate /root/autodl-tmp/conda_envs/xinfer_env

开启学术加速:

source /etc/network_turbo

启动命令如下

xinference launch \
  --model-engine transformers \
  --model-name qwen3 \
  --size-in-billions 0_6 \
  --model-format pytorch \
  --quantization none \
  --model-uid Qwen3-0.6B \
  --gpu_memory_utilization 0.6 \
  --max_model_len 1024 \
  --endpoint http://localhost:6006

--model-engine vllm:底层推理引擎

--model-name qwen3:模型族

--size-in-billions 0_6:模型规模,以10亿为单位

--model-format pytorch:权重文件格式

--quantization none:是否量化

--model-uid Qwen3-0.6B:模型uid,用于在Xinference中唯一区分模型,可以省略,由系统生成

--gpu_memory_utilization 0.3:vllm参数,模型占用GPU显存的百分比

--max_model_len 1024:vllm参数,模型支持的上下文长度

--endpoint:Xinference服务端入口

此时服务端可以看到模型正在下载。

image-20260108212118040

模型部署完成

image-20260108212536644

② 本地模型文件

如果模型权重已被预下载到本地,可以执行以下命令。

xinference launch \
  --model-engine transforms \
  --model-name qwen3 \
  --size-in-billions 0_6 \
  --model-format pytorch \
  --quantization none \
  --model-path "{your_model_dir}" \
  --model-uid Qwen3-0.6B \
  --gpu_memory_utilization 0.6 \
  --max_model_len 1024 \
  --endpoint http://localhost:6006

--model-path:模型权重本地存储路径。

2.测试

① 查看模型部署情况
xinference list \
  --endpoint http://localhost:6006

image-20260108212714979

② WebUI

image-20260108212753295

③ 发送请求
curl http://localhost:6006/v1/chat/completions -H "Content-Type: application/json" -d '{
        "model": "qwen3",
        "messages": [
                {"role": "system", "content": "你是个乐于助人的助理。"},
                {"role": "user", "content": "你好啊"}
        ]
}'

响应如下

image-20260108212842703

3.4 部署Embedding模型

1.部署

① 云端模型
xinference launch \
  --model-name bge-small-zh-v1.5 \
  --model-type embedding \
  --endpoint http://localhost:6006

--model-name:模型名称

--model-type:模型类型

正在下载

image-20260108212906353

部署完成

image-20260108212945656

② 本地文件
xinference launch \
  --model-name bge-small-zh-v1.5 \
  --model-type embedding \
  --model-path "${your_model_path}" \
  --endpoint http://localhost:6006

--model-path:模型下载路径

2.测试

① 查看模型部署情况
xinference list \
  --endpoint http://localhost:6006

image-20260108213004437

② WebUI

image-20260108213032943

③ 发送请求
curl http://localhost:6006/v1/embeddings \
  -H "Content-Type: application/json" \
  -d '{
    "model": "bge-base-zh-v1.5",
    "input": "这是一个用于测试的中文句子"
  }'

响应如下

image-20260108213047825

3.5 部署Rerank模型

1.部署

xinference launch \
  --model-name bge-reranker-base \
  --model-type rerank \
  --endpoint http://localhost:6006

正在下载

image-20260108213110855

部署完成

image-20260108213504120

2.测试

① 查看模型部署情况
xinference list \
  --endpoint http://localhost:6006

image-20260108213539125

② WebUI

image-20260108213552663

③ 发送请求
curl http://localhost:6006/v1/rerank \
  -H 'Content-Type: application/json' \
  -d '
{
  "model": "bge-reranker-base",
  "query": "Apple",
  "documents": [
    "鸡蛋",
    "苹果",
    "iphone",
    "香蕉"
  ],
  "instruction": "基于查询结果重排序",
  "top_n": 4
}
'

响应如下

image-20260108213620574

3.6 Dify对接XInference

1. 安装XInference插件

image-20260108213219258

搜索Xinference

image-20260109095722398

安装插件

image-20260109095752614

image-20260109095805171

安装完成后即可看到XInference

image-20260109100028045

2. 添加LLM

image-20260109100003190

image-20260108214024621

在XInference插件下可以看到模型,则配置成功

image-20260108214056901

3. 添加Embedding模型

image-20260108214231692

image-20260108214300630

4. 添加Rerank模型

image-20260108214414548

image-20260108214432430

posted @ 2026-09-02 00:32  Ref-brief  阅读(10)  评论(1)    收藏  举报