大模型Clouder认证:基于百炼平台构建智能体应用

前言


你有过使用搜索引擎搜索问题却怎么也找不到有效信息的时候吗?

拥有大模型之前

我们使用搜索引擎去搜索问题,然而由于网页内容质量参差不齐,你有可能看了五个网页也找不到自己的答案

 

 

 

拥有大模型之后

直接将输入搜索引擎的问题输入大模型,比如“如何安装Python”,由于大模型有非常庞大且高质量的知识,因此它会输出正确答案,而且会包含不同系统的Python安装方法,比我们直接使用搜索引擎寻找答案方便多了。

 

大模型的影响力已经逐渐散播到我们生活的方方面面。从2022年底ChatGPT的一鸣惊人,再到持续进行的"百模大战","大模型"已经逐渐成为了技术和公众领域的热点。大模型是人工智能领域的一个重要里程碑,它推动了人工智能技术的发展,并为人类的未来带来新的可能性。

[羽毛笔]学习目标


学完本课程后,您将能够:

  • 了解大语言模型的能力
  • 了解阿里云百炼大模型服务平台

1、 关于“大模型”,你应该知道的

1.1 从人工智能到大模型的演变

大模型是人工智能发展历程中的重要里程碑。在对大模型进行深入了解之前,我们有必要回望一些人工智能的重要概念,这不仅可以让我们了解大模型是如何被塑造的,更能帮助我们全面地理解大模型的原理和潜能。

人工智能(AI)是一门使机器模拟人类智能过程的学科,其中具体包括学习、推理、自我修正、感知和处理语言等功能。人工智能涉及计算机科学、数学、心理学等众多领域的知识,通过创建能够实现智能行为的算法或软件系统,来表现出与人类的智能行为相似的特性。

人工智能按照技术实现的不同可被划分为多个子领域,各个子领域之间往往相互关联和影响。

 

1.2 大模型是什么?

2021年,斯坦福大学的研究员团队发表了一篇论文,提出了Foundational Models(基础模型,即大模型)的概念。简单来说,它是一类具有大量参数(通常在十亿以上),能在极为广泛的数据上进行训练,并适用于多种任务和应用的预训练深度学习模型。

 

大模型通过广泛数据集的训练后,可以适用于多种多样的需求

2022年11月,OpenAI公司发布了ChatGPT——一种先进的人工智能语言模型,专为对话交互而设计,具有强大的自然语言理解和生成能力,可以完成撰写论文、邮件、脚本、文案、翻译、代码等任务。ChatGPT的发布标志着AI大模型在语言理解与生成能力上的重大突破,对全球AI产业产生了深远影响,开启了人工智能大模型应用的新篇章。

 

2023年8月,阿里巴巴集团发布了通义千问系列开源大模型,并相继推出了7B(约70亿参数)、72B(约720亿参数)等不同参数规模的大语言模型版本。目前,通义千问系列大语言模型已升级至Qwen2版本,具备自然语言理解、文本生成、视觉理解、音频理解、工具使用、角色扮演、作为AI Agent进行互动等多种能力。

无论是语言模型还是多模态模型,Qwen系列均在大规模多语言和多模态数据上进行预训练,并通过高质量数据进行后期微调以贴近人类偏好。

 

2. 大模型的特点

2.1 能力强,很好用!

大模型的使用方法非常简单,我们可以通过阿里云百炼直接向大模型提出需求,就能获得生动翔实的答复。

例如:请从技术领先、稳定可靠、安全合规这三点来介绍我们为什么要使用阿里云(查询专业知识可以启用知识库检索功能,提升知识问答准确率)

2.2 大模型的特点

基础模型(大模型)主要有以下四个特点:

[优先级: 1]规模和参数量大


大模型通过其庞大的规模(拥有从数亿到数千亿级别的参数数量)来捕获复杂的数据模式,使得它们能够理解和生成极其丰富的信息。

[优先级: 2]适应性和灵活性强


模型具有很强的适应性和灵活性,能够通过微调(fine-tune)或少样本学习高效地迁移到各种下游任务,有很强的跨域能力。

[优先级: 3]广泛数据集的预训练


大模型使用大量多样化的数据进行预训练,以学习广泛的知识表示,能够掌握语言、图像等数据的通用特征。

计算资源需求大


巨大的模型规模带来了高昂的计算和资源需求,包括但不限于数据存储、训练时间、能量消耗和硬件设施。

 

2.3 大模型的训练

你可能会好奇大模型是如何通过训练得到的,我们可以看下边这张图:

大模型的训练整体上分为三个阶段:预训练、SFT(监督微调)以及RLHF(基于人类反馈的强化学习)。

 

3、大模型是如何工作的

大模型的工作流程可以分为两部分,第一部分是分词化与词表映射,第二部分为生成文本。

3.1 分词化(Tokenization)与词表映射

分词化(Tokenization)是自然语言处理(NLP)中的重要概念,它是将段落和句子分割成更小的分词(token)的过程。举一个实际的例子,以下是一个英文句子:

I want to study ACA.

为了让机器理解这个句子,对字符串执行分词化,将其分解为独立的单元。使用分词化,我们会得到这样的结果:

['I' ,'want' ,'to' ,'study' ,'ACA' ,'.']

将一个句子分解成更小的、独立的部分可以帮助计算机理解句子的各个部分,以及它们在上下文中的作用,这对于进行大量上下文的分析尤其重要。分词化有不同的粒度分类:

  • 词粒度(Word-Level Tokenization)分词化,如上文中例子所示,适用于大多数西方语言,如英语。
  • 字符粒度(Character-Level)分词化是中文最直接的分词方法,它是以单个汉字为单位进行分词化。
  • 子词粒度(Subword-Level)分词化,它将单词分解成更小的单位,比如词根、词缀等。这种方法对于处理新词(比如专有名词、网络用语等)特别有效,因为即使是新词,它的组成部分(子词)很可能已经存在于词表中了。

每一个token都会通过预先设置好的词表,映射为一个 token id,这是token 的“身份证”,一句话最终会被表示为一个元素为token id的列表,供计算机进行下一步处理。

 

这两句话包含了16个tokens

3.2 大语言模型生成文本的过程


大语言模型的工作概括来说是根据给定的文本预测下一个token。对我们来说,看似像在对大模型提问,但实际上是给了大模型一串提示文本,让它可以对后续的文本进行推理。

大模型的推理过程不是一步到位的,当大模型进行推理时,它会基于现有的token,根据概率最大原则预测出下一个最有可能的token,然后将该预测的token加入到输入序列中,并将更新后的输入序列继续输入大模型预测下一个token,这个过程叫做自回归。直到输出特殊token(如<EOS>,end of sentence,专门用来控制推理何时结束)或输出长度达到阈值,

 

4. 大模型的应用

4.1 阿里云百炼大模型服务平台

百炼大模型服务平台是基于阿里云通义大模型构建的,面向企业开发者、个人开发者及ISV合作伙伴提供通义系列大模型、三方大模型等调用、模型训练开发及大模型应用构建的服务平台。提供完整的模型训练工具和全链路开发套件,预置丰富的应用插件,提供便捷的集成方式,结合企业专属数据和 API,帮企业高效完成大模型应用构建。在后续课程中,我们将基于百炼平台进行实操部分的练习。

百炼大模型服务平台

4.2 通义千问

通义千问是阿里云自主研发的超大规模的语言模型,致力于实现类人智慧的通用智能,在复杂指令理解、文学创作、通用数学、代码理解生成、知识记忆等能力上均达到领先水平。它可以与用户进行多轮对话,支持多种语言,还能处理多种分辨率和规格的图像,实现多语言多模态理解。

你可以直接访问通义官网百炼平台来体验通义千问大模型。通义千问是阿里巴巴超大规模语言模型,能帮你写文案、代码,解答问题,提升工作效率,满足个性化创作需求,甚至还能与你进行趣味互动。

 

4.3 通义灵码

通义灵码,阿里云出品的一款基于通义大模型的智能编码辅助工具,提供行级/函数级实时续写、自然语言生成代码、单元测试生成、代码优化、注释生成、代码解释、研发智能问答、异常报错排查等能力,并针对阿里云的云服务使用场景调优,助力开发者高效、流畅的编码。

如果你在代码开发中遇到了问题,可以在代码编辑器中安装通义灵码插件,它可以帮助你进行代码优化、代码生成、代码解释、单元测试生成等功能。

4.4 通义效率助手

通义效率是一款基于通义千问大模型的多种效率工具的集合体,作为用户的工作学习助手,可以实现语音实时记录,阅读助手,PPT创作,音视频速读等功能。

4.5 通义法睿

如果你有法律方面的需求,无论是合同审核、法律咨询还是文书起草等,都可以使用通义法睿。这款产品融合了先进的AI技术和丰富的法律知识,能解答法律问题、审查合同、定位法律信息、撰写法律文书、分析案情,为用户提供专业、高效、便捷的法律服务。

[进度: 已完成]本节小结


通过本课程的学习,我们了解了如下内容:

  • 大模型的基础概念、特点。
  • 阿里云大模型的部分应用场景。

使用大模型并不复杂,但是用好大模型却有很多值得学习的技巧和技术。除了本课程中提到的基础知识和应用实例,大模型的应用范畴实际上非常广泛。它们可以用于内容生成、机器翻译、情感分析、数据摘要、智能客服等领域。通过引入大模型技术,不仅能够提升现有系统的智能化水平,还能在医疗、金融、教育等垂直领域开辟出新的应用场景。在接下来的章节里,我们将通过阿里云百炼平台学习如何快速搭建一个大模型应用。

 

扩展阅读

如果你想要扩展AI相关的知识储备,可以深入学习有关大模型的底层原理,例如深度学习、神经网络等技术。同时,可以参考最新的技术文献和研究成果,掌握前沿发展动态。结合实践案例,探索如何高效地训练和部署大模型,将理论与实战结合,从而更全面地理解和利用大模型技术。

 

前言


随着大模型技术的逐渐成熟,越来越多的网站开始集成大模型应用,为用户提供更智能的 AI 助手服务,从而提升用户体验。网站通过基于 RAG(检索增强生成 Retrieval-Augmented Generation)的大模型应用,可以为用户提供更加个性化和准确的信息查询服务。本节课程将详细介绍如何使用阿里云的百炼平台快速构建一个简单的 RAG 应用,并将其部署到你的网站上。

[羽毛笔]本节目标 


学完本节课程后,你将能够:

→  了解如何通过百炼平台快速构建大模型应用。

→  了解如何通过函数计算,来快速搭建一个网站。

→  如何将大模型应用部署到网站。

 

方案概览

在网站中引入一个 AI 助手,只需 4 步:

  1. 创建大模型问答应用:我们将先通过百炼创建一个大模型应用,并获取调用大模型应用 API 的相关凭证。
  2. 搭建示例网站:然后我们将通过函数计算,来快速搭建一个网站,模拟您的企业官网或者其他站点。
  3. 引入 AI 助手:接着我们将通过修改几行代码,实现在网站中引入一个 AI 助手。
  4. 增加私有知识:最后可以通过准备一些私有知识,让 AI 助理能回答原本无法准确回答的问题,帮助您更好的应对客户咨询。

1、创建大模型问答应用

首先我们可以通过创建一个百炼应用,来获取大模型的推理 API 服务,用于实现 AI 助手。

1.1 创建应用

  1. 进入百炼控制台的我的应用创建应用。在对话框,选择智能体应用并创建。

 

  1. 应用设置页面,模型选择通义千问-Plus,其他参数保持默认。您也可以选择输入一些 Prompt,比如设置一些人设以引导大模型更好的应对客户咨询。
你叫小助,可以帮助用户解答产品选购、使用等方面的问题。

  1. 在页面右侧可以提问验证模型效果。不过您会发现,目前它还无法准确回答你们公司的商品信息。点击右上角的发布,我们将在后面的步骤中去解决这一问题。

1.2 获取调用 API 所需的凭证

为了在后续通过 API 调用大模型应用的能力,我们需要获取一个百炼应用的 API-KEY 和应用 ID:

  1. 我的应用 > 应用列表中可以查看所有百炼应用 ID。保存应用 ID 到本地用于后续配置。

  1. 在左侧导航栏,点击API-KEY进入我的API-KEY页面。在页面右侧,点击创建我的API-KEY,在弹出窗口中创建一个新 API-KEY。保存 API-KEY 到本地用于后续配置。

 

2、搭建示例网站

在让 AI 助手能准确回答问题之前,我们可以先尝试快速将 AI 助手集成到网站中。

您可以通过我们提前准备好的应用模板,快速搭建一个空白的示例网站,用于模拟您的企业官网或者其他站点。详细步骤如下:

2.1 创建应用

请打开我们提供的函数计算应用模板,参考下图选择直接部署、并填写前面获取到的百炼应用 ID 以及 API-KEY。

然后其他表单项保持默认,点击页面左下角的创建并部署默认环境,等待项目部署完成即可(预计耗时 1 分钟)。温馨提示:这里需要填写百炼应用 ID 和 API-KEY,是因为我们预置的应用模板中包含了通过百炼应用调用大模型的代码,以便您在后续快速完成体验。

2.2 访问网站

应用部署完成后,您可以在应用详情的环境信息中找到示例网站的访问域名,点击即可查看,确认示例网站已经部署成功。

3、为网站增加 AI 助手

在网站中增加 AI 助手非常简单,您只需要在网站的 html 文件中插入几行代码。

3.1 增加 AI 助手相关代码

示例工程中包含了被注释的引入 AI 助手代码,您需要找到并解除注释。详细操作步骤如下:

  1. 回到应用详情页,在环境详情的最底部找到函数资源,点击函数名称,进入函数详情页

  1. 进入函数详情页后,在代码视图中找到 public/index.html 文件,然后取消③所在位置的代码注释即可。

  1. 最后点击部署代码,等待部署完成即可。

3.2 验证网站上的 AI 助手

现在,您可以重新访问示例网站页面以查看最新效果。此时您会发现网站的右下角出现了 AI 助手图标,点击即可唤起 AI 助手。

4、为 AI 助手增加私有知识

通过前面的步骤,您已经拥有了一个可以和客户对话的 AI 助手。但是,如果想让 AI 助手像公司员工一样,更加精准且专业地回答与商品相关的问题,我们还需要为大模型应用配置知识库。

假设您在一家售卖智能手机的公司工作。您的网站上会有很多与智能手机相关的信息,如支持双卡双待、屏幕、电池容量、内存等信息。不同机型的详细配置清单参考:百炼系列手机产品介绍.docx

4.1 配置知识库

接下来,我们可以尝试让大模型在面对客户问题时参考这份文档,以产出一个更准确的回答和建议。

  1. 上传文件:在百炼控制台的数据管理中点击导入数据,根据引导上传我们虚构的百炼系列手机产品介绍。温馨提示:根据您上传的文档大小,百炼需要一定时间解析,通常占用1~6分钟,请您耐心等待。

  1. 建立索引:进入知识库,根据引导创建一个新的知识库,并选择刚才上传的文件,其他参数保持默认即可。知识库将为上一步骤中准备的文档建立索引,以便后续大模型回答时检索参考。

 

温馨提示:选择向量存储类型时,如果您希望集中存储、灵活管理多个应用的向量数据,可选择ADB-PG

 

 

  1. 引用知识:完成知识库的创建后,可以返回我的应用进入到刚才创建的应用设置界面,打开知识检索增强开关、选择知识库,测试验证符合预期后点击发布。Prompt 中会被自动添加一段信息,以便大模型在后续回答时参考检索出来的信息。

 

 

4.2 检验效果

有了参考知识,AI 助手就能准确回答关于您公司的商品的问题了。

[进度: 已完成]本节小结


在本节课程中,我们学习了如何通过阿里云的百炼平台创建一个大模型问答应用,并将其集成到网站中。具体步骤包括:

  • 创建大模型问答应用:通过百炼平台创建一个大模型应用,并获取调用该应用 API 的相关凭证。
  • 搭建示例网站:使用函数计算快速搭建一个示例网站,模拟企业官网或其他站点。
  • 引入 AI 助手:通过修改几行代码,在网站中引入一个 AI 助手,使其能够实时响应用户的查询。
  • 增加私有知识:准备一些私有知识,让 AI 助手能够回答原本无法准确回答的问题,从而更好地应对客户咨询。

除了本节课程中的示例展示的任务之外,你还可以让大模型完成更多类型的任务,如内容生成、结构化信息提取、文本分类、情感分析等。这些任务可以进一步提升你的网站的功能和用户体验。此外,通过引入 RAG(检索增强生成)方案,你可以扩展大模型所能处理的知识范围,使其能够更准确地回答特定领域的问题。下一小节我们将继续介绍如何在钉钉上增加一个 AI 机器人。

 

扩展阅读

了解更多相关概念和原理:如果你在学习本课程时想深入了解相关概念和原理,可以尝试让大模型进一步展开说明或给出学习建议。例如,你可以询问关于大模型的工作原理、RAG 技术的细节、以及如何优化大模型的应用性能等方面的内容。这将帮助你更全面地理解和掌握这些技术。

 

前言


上一节我们学习了如何在网站上增加AI助手,本节课程将继续学习如何在办公协作平台上(钉钉)集成大模型应用,为用户和员工提供更智能的AI助手服务。同时还会为大模型应用(问答机器人)增加私有知识,使其能够结合实时检索的信息,提供更加个性化和准确的回答。课程将详细介绍如何使用阿里云的百炼平台快速构建一个简单的 RAG 应用,并将其部署到你的钉钉上。

 

[羽毛笔]本节目标 


学完本节课程后,你将能够:

→  了解如何通过百炼平台快速构建一个智能体。

→  如何将该智能体部署到钉钉。

 

方案概览

 

在钉钉中添加一个 AI 机器人,只需几步:

  1. 创建大模型问答应用:通过百炼创建一个大模型应用,并获取调用大模型应用 API 的相关凭证。
  2. 创建钉钉应用:创建一个钉钉应用,在您的钉钉组织中提供机器人问答服务。
  3. 创建钉钉连接流:基于阿里云的 AppFlow 服务,在无需编写代码的情况下,完成钉钉机器人和百炼 RAG 应用的关联,最终实现用户在钉钉聊天中和 RAG 应用对话。
  4. 配置钉钉机器人:为钉钉应用配置机器人,添加到群聊中可以回答用户问题。
  5. 为大模型问答应用增加私有知识:开启知识检索增强(RAG),为大模型问答应用增加知识库,让 AI 机器人能回答私有领域的问题,帮助您更好地应对用户咨询。

1. 创建大模型问答应用

首先我们可以通过创建一个百炼应用,来获取大模型的推理 API 服务,用于实现 AI 助手。

1.1 创建应用

  1. 进入百炼控制台的我的应用在页面右侧点击新增应用。在对话框,选择智能体应用并创建。

  1. 应用设置页面,模型选择通义千问-Plus,其他参数保持默认您也可以选择输入一些 Prompt,比如设置一些人设以引导大模型更好的应对客户咨询。
你叫小助,可以帮助用户解答产品选购、使用等方面的问题。

  1. 在页面右侧可以提问验证模型效果。不过您会发现,目前它还无法准确回答你们公司的商品信息。点击右上角的发布,我们将在后面的步骤中去解决这一问题。

1.2 获取调用 API 所需的凭证

为了在后续通过 API 调用大模型应用的能力,我们需要获取一个百炼应用的 API-KEY 和应用 ID:

  1. 在应用列表中可以查看所有百炼应用 ID。保存应用 ID 到本地用于后续配置。

  1. 在左侧导航栏,点击API-KEY进入我的API-KEY页面。在页面右侧,点击创建我的API-KEY,在弹出窗口中创建一个新 API-KEY。保存 API-KEY 到本地用于后续配置。

2. 创建钉钉应用

接下来您需要在您的组织中创建钉钉应用,作为 AI 助手回答用户问题。

重要

创建钉钉应用需要您的钉钉账号有开发者权限。您可以联系您的组织管理员获取钉钉开放平台的开发权限,具体操作请参见获取开发者权限

2.1 创建应用

  1. 访问钉钉开放平台,点击创建。如果创建过应用未展示应用开发指引,点击立即开始进入钉钉应用页面。

  1. 在应用开发的左侧导航栏中,点击钉钉应用,在钉钉应用页面右上角点击创建应用

  1. 创建应用面板,填写应用名称应用描述,上传应用图标,完成后点击保存

2.2 查看应用 Client ID 和 Client Secret

在左侧菜单选择凭证与基础信息,复制 Client ID 和 Client Secret,用于下一步创建连接流。

2.3 创建消息卡片

钉钉机器人通过卡片消息支持流式返回结果,您需要创建卡片模板供消息发送使用。

  1. 访问卡片平台,点击新建模板

  1. 在创建模板输入框,填入模板信息。

  1. 在模拟编辑页面,保存发布模板。然后点击返回模板列表页面。

  1. 复制模板ID,用于创建钉钉连接流使用。

2.4 授予应用发送卡片消息权限

创建卡片后,您需要给应用授予发送卡片消息的权限。

  1. 访问钉钉应用列表。找到刚刚创建的应用,点击应用名称进入详情页面。
  2. 在左侧菜单选择开发配置 > 权限管理,在左侧搜索框分别输入Card.Streaming.WriteCard.Instance.Write,并在操作列点击申请权限

3. 创建钉钉连接流

AppFlow 可以让您在不写代码的情况下,通过界面配置就可以将大模型应用和钉钉连接起来。您可以通过预置的 AppFlow 模板创建一个钉钉机器人连接流。

  1. 使用AppFlow模板创建连接流,点击立即使用进入创建流程。

  1. 在连接流的账户授权配置向导页,点击前往授权。在创建凭证对话框中,填入之前获取的钉钉应用的 Client ID 和 Client Secret,并设置一个自定义凭证名称。

  1. 在连接流的账户授权配置向导页,点击前往授权。在创建凭证对话框中,填入之前获取的 API-KEY,并设置一个自定义凭证名称。

  1. 执行动作配置向导页,填写应用Id模版ID,完成后点击下一步

  1. 基本信息配置向导页,填写连接流名称连接流描述(建议保持默认),完成后点击下一步
  2. 界面提示流程配置成功,复制 WebhookUrl,点击发布

4. 配置钉钉机器人

有了webhook地址后,接下来您可以在钉钉应用中配置机器人来回答用户问题了。

4.1 配置钉钉机器人

  1. 访问钉钉应用列表。找到刚刚创建的应用,点击应用名称进入详情页面。
  2. 添加应用能力页面,找到机器人卡片,点击添加

  1. 在机器人配置页面,打开机器人配置开关,您可以参考下图完成配置。消息接收模式请选择HTTP模式消息接收地址为刚刚的 WebhookUrl。然后点击发布

重要

消息接收模式请选择HTTP模式,目前AppFlow仅支持HTTP模式,选择Stream模式会导致无法返回消息。

4.2 发布应用版本

应用创建完成后,如果需要将应用供企业内其他用户使用,需要发布一个版本。

  1. 点击应用开发,在钉钉应用页面,点击目标应用(百炼手机答疑)。

  1. 在目标应用开发导航栏,点击版本管理与发布,在版本管理与发布页面,点击创建新版本。进入版本详情页面,输入应用版本号版本描述信息,选择合适的应用可见范围,完成后点击保存。并在弹窗中点击直接发布

4.3 测试机器人

你可以创建群聊或在已有群聊中添加机器人,并与机器人对话,查看效果。

  1. 在钉钉群管理中添加机器人​。进入钉钉群群设置页面,点击机器人卡片区域,在机器人管理页面,点击添加机器人。在添加机器人搜索文本框中输入目标机器人名称,并选中要添加的机器人。点击添加,完成后再点击完成添加

  1. 在钉钉群中@机器人,进行交流互动。

5. 为大模型问答应用增加私有知识

5.1 配置知识库

接下来,我们可以尝试让大模型在面对客户问题时参考这份文档,以产出一个更准确的回答和建议。

假设您在一家售卖智能手机的公司工作。您的钉钉用户群上会有很多涉及智能手机相关的问题,如支持双卡双待、屏幕、电池容量、内存等信息。不同机型的详细配置清单参考:百炼系列手机产品介绍.docx

  1. 上传文件:在百炼控制台的数据管理中的非结构化数据页签中点击导入数据,根据引导上传我们虚构的百炼系列手机产品介绍:

注:根据您上传的文档大小,百炼需要一定时间解析,通常占用1~6分钟,请您耐心等待。

  1. 建立索引:进入知识库,根据引导创建一个新的知识库,并选择刚才上传的文件,其他参数保持默认即可。知识库将为上一步骤中准备的文档建立索引,以便后续大模型回答时检索参考。

温馨提示:选择向量存储类型时,如果您希望集中存储、灵活管理多个应用的向量数据,可选择ADB-PG

  1. 引用知识:完成知识库的创建后,可以返回我的应用进入到刚才创建的应用设置界面,打开知识检索增强开关、选择知识库,测试验证符合预期后点击发布。Prompt 中会被自动添加一段信息,以便大模型在后续回答时参考检索出来的信息。

5.2 检验效果

有了参考知识,AI 机器人就能准确回答您关于百炼手机的问题了。

[进度: 已完成]本节小结


在本节课程中,我们学习了如何在钉钉中添加一个AI机器人,主要涵盖了以下五个关键步骤:

  • 创建大模型问答应用:通过百炼创建一个大模型应用,并获取调用大模型应用 API 的相关凭证。
  • 创建钉钉应用:创建一个钉钉应用,在您的钉钉组织中提供机器人问答服务。
  • 创建钉钉连接流:基于阿里云的 AppFlow 服务,在无需编写代码的情况下,完成钉钉机器人和百炼 RAG 应用的关联,最终实现用户在钉钉聊天中和 RAG 应用对话。
  • 配置钉钉机器人:为钉钉应用配置机器人,添加到群聊中可以回答用户问题。
  • 为大模型问答应用增加私有知识:开启知识检索增强(RAG),为大模型问答应用增加知识库,让 AI 机器人能回答私有领域的问题,帮助您更好地应对用户咨询。

 

除了本节课程中介绍的在钉钉中集成AI机器人的方法,这些步骤和技术同样适用于其他企业协作平台,如企业微信、微软Teams等。企业可以按照类似的流程,在不同的沟通工具中部署智能助手,以提升内部沟通效率和客户服务质量。此外,借助百炼平台和阿里云的强大技术支持,开发者还可以创建定制化的AI解决方案,满足不同行业的特定业务需求,例如自动化办公、客户支持、数据分析和智能决策等。

 

扩展阅读

若你希望深入了解AI机器人在企业协作平台中的高级集成与优化策略,建议参考百炼平台的官方文档参加相关的技术培训课程,或参与实际项目实践,以提升你的开发技能和应用能力。

 

前言


上一节我们学习了如何在钉钉里增加一个AI机器人。本节我们继续学习如何通过在企业微信中引入基于RAG的大模型应用,来为员工提供更加个性化和准确的信息查询服务,从而大幅改善内部资源的利用效率和决策质量。本教程将详细介绍如何利用阿里云的百炼平台,快速构建一个简单的RAG应用,并将其集成到企业微信中。

 

[羽毛笔]本节目标 


学完本节课程后,你将能够:

→  了解如何通过百炼平台构建一个大模型RAG应用。

→  了解如何将百炼的大模型应用在企业微信上集成一个AI助手。

 

方案概览

 

在企业微信中集成一个 AI 助手,只需几步:

  1. 创建大模型问答应用:通过百炼创建一个大模型应用,并获取调用大模型应用 API 的相关凭证。
  2. 创建企业微信应用:创建一个企业微信应用,为您的企业微信组织提供问答服务。
  3. 创建企业微信连接流:基于阿里云的 AppFlow 服务,在无需编写代码的情况下,完成企业微信应用和百炼 RAG 应用的关联,最终实现用户在企业微信聊天中和 RAG 应用对话。
  4. 配置企业微信应用:为企业微信应用配置接收消息,即可在聊天中回答用户问题。
  5. 为大模型问答应用增加私有知识:开启知识检索增强(RAG),为大模型问答应用增加知识库,让 AI 机器人能回答私有领域的问题,帮助您更好地应对用户咨询。

1、创建大模型问答应用

首先我们可以通过创建一个百炼应用,来获取大模型的推理 API 服务,用于实现 AI 助手。

1.1 创建应用

  1. 进入百炼控制台的我的应用创建应用。在对话框,选择智能体应用并创建。

  1. 应用设置页面,模型选择通义千问-Plus,其他参数保持默认。您也可以选择输入一些 Prompt,比如设置一些人设以引导大模型更好的应对客户咨询。
你叫小助,可以帮助用户解答产品选购、使用等方面的问题。

  1. 在页面右侧可以提问验证模型效果。不过您会发现,目前它还无法准确回答你们公司的商品信息。点击右上角的发布,我们将在后面的步骤中去解决这一问题。

1.2 获取调用 API 所需的凭证

为了在后续通过 API 调用大模型应用的能力,我们需要获取一个百炼应用的 API-KEY 和应用 ID:

  1. 我的应用 > 应用列表中可以查看所有百炼应用 ID。保存应用 ID 到本地用于后续配置。

  1. 在左侧导航栏,点击API-KEY进入我的API-KEY页面。在页面右侧,点击创建我的API-KEY,在弹出窗口中创建一个新 API-KEY。保存 API-KEY 到本地用于后续配置。

2、创建企业微信应用

接下来您需要在您的组织中创建应用,作为 AI 助手回答用户问题。

2.1 创建应用

  1. 访问企业微信开发者中心,扫码登录,点击立即创建。根据指引选择以企业身份创建企业内部应用

 

  1. 在顶部导航栏中,选择应用管理,在应用页面下半部分点击创建应用

  1. 创建应用页面,填写应用名称应用介绍,上传应用 logo,选择可见范围,完成后点击创建应用

2.2 获取企业 ID、应用 AgentId 和 Secret

  1. 在应用详情页面,复制 AgentID,并查看 Secret,用于下一步创建连接流。

  1. 在顶部导航栏中,选择我的企业,在企业信息页面,复制企业 ID,用于下一步创建连接流。

3、 创建企业微信连接流

AppFlow 可以让您在不写代码的情况下,通过界面配置就可以将百炼 RAG 应用和企业微信连接起来。您可以通过预置的 AppFlow 模板创建一个企业微信连接流。

  1. 使用AppFlow模板创建连接流,点击立即使用进入创建流程。

 

  1. 在企业微信的账户授权配置向导页,点击,再点击添加新凭证

  1. 创建凭证对话框中,设置一个自定义凭证名称,填入之前获取的企业微信的企业ID、应用 AgentId 和 Secret。保存AppFlow生成的 Token 和 EncodingAESKey到本地(4.1 配置API接收消息时需要填写)、保存IP白名单到本地(在4.2 配置企业可信IP时需要填写)。点击下一步

 

  1. 点击保存,完成配置。
  2. 在阿里云百炼的账户授权配置向导页,点击,再点击添加新凭证。在创建凭证对话框中,设置一个自定义凭证名称,并填入之前获取的 API-KEY。

  1. 执行动作配置向导页,填写应用Id应用Id可以百炼控制台我的应用获取,完成后点击下一步

  1. 基本信息配置向导页,填写连接流名称连接流描述(建议保持默认),完成后点击下一步
  2. 界面提示流程配置成功,复制并保存 WebhookUrl4.1 配置API接收消息时需要填写),点击发布

4、配置企业微信应用

有了 Webhook 地址后,接下来您可以在企业微信应用中配置接收消息来回答用户问题了。

4.1 配置企业微信应用

  1. 访问企业微信应用列表。找到刚刚创建的应用,点击应用名称进入详情页面。
  2. 在应用详情页面,找到接收消息卡片,点击设置API接收

  1. API接收消息页面,您可以参考下图完成配置,然后点击保存
  • URL填入上一步复制的 WebhookUrl

如果之前未保存WebhookUrl,可访问AppFlow连接流页面,在操作列点击webhookUrl进行查看。

  • Token 和 EncodingAESKey 填入上一步复制的值。

如果之前未保存,可访问AppFlow连接凭证页面,在公共连接器 > 企业微信中,找到刚刚配置的凭证,点击操作列的编辑从凭证中获取。

如果域名主体校验未通过,请参考域名主体校验未通过怎么办?进行处理。

 

4.2 配置 IP 白名单

  1. 在应用详情页面,在页面下方开发者接口找到企业可信IP卡片,点击配置

  1. 在企业可信IP对话框,粘贴复制的 IP 地址,然后点击确定

4.3 测试应用

你可以在企业微信中搜索应用并发送消息,查看效果。

  1. 在企业微信顶部搜索框搜索应用名称,点击应用进入聊天。

  1. 与应用对话,进行交流互动。

5、为大模型问答应用增加私有知识

5.1 配置知识库

接下来,我们可以尝试让大模型在面对客户问题时参考这份文档,以产出一个更准确的回答和建议。

假设您在一家售卖智能手机的公司工作。您的企业微信用户会有很多涉及智能手机相关的问题,如支持双卡双待、屏幕、电池容量、内存等信息。不同机型的详细配置清单参考:百炼系列手机产品介绍.docx

  1. 上传文件:在百炼控制台的应用数据中点击导入数据,根据引导上传我们虚构的百炼系列手机产品介绍。温馨提示:根据您上传的文档大小,百炼需要一定时间解析,通常占用1~6分钟,请您耐心等待。

  1. 建立索引:进入知识库,根据引导创建一个新的知识库,并选择刚才上传的文件,其他参数保持默认即可。知识库将为上一步骤中准备的文档建立索引,以便后续大模型回答时检索参考。

温馨提示:选择向量存储类型时,如果您希望集中存储、灵活管理多个应用的向量数据,可选择ADB-PG

 

  1. 引用知识:完成知识库的创建后,可以返回我的应用进入到刚才创建的应用设置界面,打开知识检索增强开关、选择知识库,测试验证符合预期后点击发布。Prompt 中会被自动添加一段信息,以便大模型在后续回答时参考检索出来的信息。

 

5.2 检验效果

有了参考知识,AI 应用就能准确回答您关于百炼手机的问题了。

 

[进度: 已完成]本节小结


在本节课程中,我们学习了如何在企业微信中集成一个AI助手,主要涵盖了以下五个关键步骤:

  • 创建大模型问答应用:通过百炼创建一个大模型应用,并获取调用大模型应用 API 的相关凭证。
  • 创建企业微信应用:创建一个企业微信应用,为您的企业微信组织提供问答服务。
  • 创建企业微信连接流:基于阿里云的 AppFlow 服务,在无需编写代码的情况下,完成企业微信应用和百炼 RAG 应用的关联,最终实现用户在企业微信聊天中和 RAG 应用对话。
  • 配置企业微信应用:为企业微信应用配置接收消息,即可在聊天中回答用户问题。
  • 为大模型问答应用增加私有知识:开启知识检索增强(RAG),为大模型问答应用增加知识库,让 AI 机器人能回答私有领域的问题,帮助您更好地应对用户咨询。

 

为了进一步扩展AI助手的功能,企业可以整合更多的第三方服务和数据源,丰富AI机器人的知识库和交互能力。例如,结合企业内部的CRM系统或知识管理系统,AI助手可以提供更精准的客户信息查询和问题解答。同时,通过应用自然语言处理和机器学习技术,持续优化AI助手的理解和响应能力,提升用户体验。通过持续学习和实践,你将能够充分利用百炼平台和阿里云的资源,实现企业沟通环境的全面智能化和高效化管理。

 

扩展阅读

 若你希望深入了解AI助手的高级集成与优化策略,建议参考百炼平台的官方文档,参加相关的技术培训课程,或参与实际项目实践,以提升你的开发技能和应用能力。

 

前言


在之前的课程,我们学习了如何将百炼如何和钉钉,企业微信,网站结合。本节我们继续学习如何在社交媒体平台上集成智能助手服务,通过将微信公众号(订阅号)升级为AI智能客服,企业能够为用户提供更为及时、个性化的交互体验。基于RAG的大模型应用,这类智能客服系统可以显著提升信息查询的准确性和相关性。本教程将详细介绍如何利用阿里云的百炼平台,快速构建一个RAG应用,并将其无缝集成到您的微信公众号中。

 

[羽毛笔]本节目标 


学完本节课程后,你将能够:

→  了解如何通过百炼平台快速构建RAG大模型应用。

→  基于阿里云的 AppFlow 服务,在无需编写代码的情况下,关联RAG大模型应用和微信公众号。

→  通过配置知识库来丰富智能客服的回复内容。

 

方案概览

 

将微信公众号(订阅号)变成 AI 智能客服,只需 4 步:

  1. 创建大模型问答应用:我们将先通过百炼创建一个大模型应用,并获取调用大模型应用 API 的相关凭证。
  2. 搭建微信公众号连接流:基于阿里云的 AppFlow 服务,在无需编写代码的情况下,完成微信公众号和百炼 RAG 应用的关联,实现用户在微信公众号聊天中和 RAG 应用对话。
  3. 引入 AI 智能客服:接着我们将在微信公众号修改配置,实现在微信公众号中引入一个 AI 智能客服。
  4. 增加私有知识:最后可以通过准备一些私有知识,让 AI 助理能回答原本无法准确回答的问题,帮助您更好地应对客户咨询。

1、创建大模型问答应用

首先我们可以通过创建一个百炼应用,来获取大模型的推理 API 服务,用于实现 AI 助手。

1.1 创建应用

  1. 进入百炼控制台的我的应用创建应用。在对话框,选择智能体应用并创建。

 

  1. 应用设置页面,模型选择通义千问-Plus,其他参数保持默认您也可以选择输入一些 Prompt,比如设置一些人设以引导大模型更好的应对客户咨询
你叫小助,是我们公司的 AI 助手,可以帮助客户解答产品选购、使用等方面的问题。
请总是给出简短的回答,不要讲太多。

 

  1. 在页面右侧可以提问验证模型效果。不过您会发现,目前它还无法准确回答你们公司的商品信息。点击右上角的发布,我们将在后面的步骤中去解决这一问题。

1.2 获取调用 API 所需的凭证

为了在后续通过 API 调用大模型应用的能力,我们需要获取一个百炼应用的 API-KEY 和应用 ID:

  1. 在应用列表中可以查看所有百炼应用 ID。保存应用 ID 到本地用于后续配置。

  1. 在顶部导航栏右侧,点击人型图标,点击API-KEY进入我的API-KEY页面。在页面右侧,点击创建我的API-KEY,在弹出窗口中创建一个新 API-KEY。保存 API-KEY 到本地用于后续配置。

2、创建微信公众号连接流

AppFlow 可以让您在不写代码的情况下,通过界面配置就可以将百炼 RAG 应用和微信公众号连接起来。您可以通过预置的 AppFlow 模板创建一个微信公众号连接流。

如果您的微信公众号已经完成认证,您可以使用微信客户消息回复用户在公众号的咨询,如果您没有完成认证,只能使用被动回复消息功能回复用户,该功能将消息响应时间限制为 5 秒,超时将无法回复。

是否完成认证可以在微信公众号后台,在左侧菜单选择设置与开发 > 公众号设置,在公众号设置页面中查看。您可以根据认证情况选择下面的创建方案。

2.1 已经认证的公众号

  1. 使用AppFlow模板创建连接流,点击立即使用进入创建流程。

 

  1. 访问微信公众号后台,在左侧菜单选择设置与开发 > 基本配置。获取 AppID 和 AppSecret。

 

  1. 在连接流的账户授权配置向导页,点击前往授权。在授权页面填入 AppID,点击授权并在新的页面使用微信扫描完成授权。授权后,Appflow 会自动帮您配置公众号,您无需任何操作。授权完成后,您需要回到连接流的账户授权配置向导页,选择刚刚授权的微信公众号。

  1. 在连接流的账户授权配置向导页,点击前往授权。在创建凭证对话框中,填入之前获取的 API-KEY,并设置一个自定义凭证名称。

 

  1. 执行动作配置向导页,填写百炼的应用Id应用Id可以在百炼控制台我的应用获取,完成后点击下一步

  1. 基本信息配置向导页,填写连接流名称连接流描述(建议保持默认),完成后点击下一步
  2. 界面提示流程配置成功,点击发布

 

2.2 没有认证的公众号

  1. 使用AppFlow模板创建连接流,点击立即使用进入创建流程。

 

  1. 访问微信公众号后台,在左侧菜单选择设置与开发 > 开发接口管理。选择基本配置页签,获取 AppID。

       

  1. 在连接流的账户授权配置向导页,点击前往授权。在授权页面填入 AppID,点击授权并在新的页面使用微信扫描完成授权。授权后,Appflow 会自动帮您配置公众号,您无需任何操作。授权完成后,您需要回到连接流的账户授权配置向导页,选择刚刚授权的微信公众号。

 

  1. 在连接流的账户授权配置向导页,点击前往授权。在创建凭证对话框中,填入之前获取的 API-KEY,并设置一个自定义凭证名称。

 

  1. 执行动作配置向导页,填写百炼的应用Id应用Id可以在百炼控制台我的应用获取,完成后点击下一步

  1. 基本信息配置向导页,填写连接流名称连接流描述(建议保持默认),完成后点击下一步
  2. 界面提示流程配置成功,点击发布

3、验证公众号上的 AI 智能客服

现在,您可以访问公众号并发送消息,即可收到 AI 智能客服的回复。

4、为 AI 客服增加私有知识

通过前面的步骤,您已经拥有了一个可以和客户对话的 AI 智能客服。但是,如果想让 AI 智能客服像公司员工一样,更加精准且专业地回答与商品相关的问题,我们还需要为大模型应用配置知识库。

假设您是一家售卖智能手机的公司。您的网站上会有很多与智能手机相关的信息,如支持双卡双待、屏幕、电池容量、内存等信息。不同机型的详细配置清单参考:百炼系列手机产品介绍.docx

4.1 配置知识库

接下来,我们可以尝试让大模型在面对客户问题时参考这份文档,以产出一个更准确的回答和建议。

  1. 上传文件:在百炼控制台的数据管理中点击导入数据,根据引导上传我们虚构的百炼系列手机产品介绍。温馨提示:根据您上传的文档大小,百炼需要一定时间解析,通常占用1~6分钟,请您耐心等待。

  1. 建立索引:进入知识索引,根据引导创建一个新的知识库,并选择刚才上传的文件,其他参数保持默认即可。知识库将为上一步骤中准备的文档建立索引,以便后续大模型回答时检索参考。

温馨提示:选择向量存储类型时,如果您希望集中存储、灵活管理多个应用的向量数据,可选择ADB-PG

 

  1. 引用知识:完成知识库的创建后,可以返回我的应用进入到刚才创建的应用设置界面,打开知识检索增强开关、选择知识库,测试验证符合预期后点击发布。Prompt 中会被自动添加一段信息,以便大模型在后续回答时参考检索出来的信息。

4.2  检验效果

有了参考知识,AI 智能客服就能准确回答关于您公司的商品的问题了。

[进度: 已完成]本节小结


在本节课程中,我们学习了如何将微信公众号转变为一个AI智能客服系统。具体步骤包括:

  • 创建大模型问答应用:我们将先通过百炼创建一个大模型应用,并获取调用大模型应用 API 的相关凭证。
  • 搭建微信公众号连接流:基于阿里云的 AppFlow 服务,在无需编写代码的情况下,完成微信公众号和百炼 RAG 应用的关联,实现用户在微信公众号聊天中和 RAG 应用对话。
  • 引入 AI 智能客服:接着我们将在微信公众号修改配置,实现在微信公众号中引入一个 AI 智能客服。
  • 增加私有知识:最后可以通过准备一些私有知识,让 AI 助理能回答原本无法准确回答的问题,帮助您更好地应对客户咨询。

 

除了上述应用,本节所介绍的方法也可以广泛应用于其他社交平台上,帮助其升级为智能问答系统。这些应用场景不仅限于客户服务,还可以扩展到市场调研、用户反馈分析、自动化信息推送等方面。通过结合智能客服技术,企业能够更好地满足客户需求,提高服务响应速度,增强用户体验。

 

扩展阅读

如果你想进一步扩展你的知识面和技术能力,建议关注人工智能和自然语言处理的最新进展,了解大模型的工作原理及其在各种应用中的实践案例。同时,探索如何优化知识库管理和信息检索技术,可以显著提升智能客服系统的效率和使用效果。通过不断学习与实践,你将能够更全面地理解大模型,并在自己的应用中充分利用其潜能。

 

达成更高的运营效率和竞争优势。

 

[羽毛笔]本节目标 


学完本节课程后,你将能够:

→  了解工作流应用的场景。

→  了解创建工作流的步骤。

→  了解工作流应用中的各种节点,包括开始/结束节点,知识库节点,API节点等。

 

 

1、工作流应用介绍

为什么使用工作流应用

工作流是一种将复杂任务拆分为一系列有序步骤的方法,旨在简化系统复杂度,提高工作效率。在现代软件开发和业务流程管理中,工作流应用变得尤为重要。通过在百炼平台上创建工作流应用,可以清晰地定义任务的执行顺序、责任分配以及各步骤之间的依赖关系,从而实现自动化和优化。

工作流应用有许多使用场景,如:

  • 旅行规划:用户可通过工作流插件选择目的地等参数,自动生成旅行计划,包括航班、住宿、景点推荐等。
  • 报告分析:针对复杂数据集,通过组合数据处理、分析和可视化插件,生成结构化和格式化的分析报告,满足不同业务需求。
  • 客服支持:通过自动化工作流处理客户咨询,包括问题分类等,提高客服响应速度和准确性。
  • 内容创作:实现文章、市场营销文案等内容的生成,用户只需输入主题和要求,系统自动生成符合要求的文稿。
  • 教育培训:通过工作流设计个性化学习方案,包括学习进度跟踪、测评等,实现学生的自主学习。
  • 医疗问诊:根据患者输入的症状,通过组合多种分析工具生成初步诊断或推荐相关检查,辅助医生进行进一步判断。

应用类型

百炼提供两种类型的工作流应用:

任务型工作流

对话型工作流

  • 单次任务执行: 仅依赖一个系统变量(query),适合单次、简单的指令或任务执行,例如文本搜索、数据处理、翻译、问答等。
  • 简化交互: 测试窗口只提供变量输入,方便快速获得结果,降低交互复杂度。
  • API 调用限制: 不支持 API 的多轮对话调用,意味着每次调用都是独立的,无法保持上下文或连续交互。
  • 自动化与批处理: 特别适用于自动化处理或批量任务处理,每个任务都是独立执行,不需要记录之前的对话内容。
  • 多轮对话支持: 配备三个系统变量(query、historylist、imagelist),能自动管理对话历史和图片历史,支持持续对话和上下文关联。
  • 多模态交互: 测试窗口不仅提供文本对话窗,还支持语音和视频对话窗,适合丰富的用户交互体验。
  • 个性化服务: 特别适用于智能客服、聊天机器人、虚拟助手等需要连续对话、情感交流和复杂问题讨论的场景。
  • 增强用户体验: 通过记录对话和图像信息,可以提供更加精准和个性化的回答,满足用户在多轮交互中的需求。

支持模型

如需了解模型的详细介绍,请参阅模型列表

如需了解各模型的 API 调用速率限制,请参阅限流

文本生成

图片理解

视频理解

  • 通义千问-Max
  • 通义千问-Plus
  • 通义千问-Turbo
  • 通义千问-Plus-2024-12-20
  • 通义千问-Math-Plus
  • 通义千问-Math-Turbo
  • 通义千问-Coder-Turbo
  • 通义千问-Coder-Plus
  • 通义千问-MT-Turbo
  • 通义千问-MT-Plus
  • 通义法睿-Plus-32K
  • DeepSeek-R1
  • DeepSeek-V3
  • DeepSeek-R1-Distill-Qwen-32B
  • DeepSeek-R1-Distill-Qwen-14B
  • DeepSeek-R1-Distill-Qwen-7B
  • 通义千问VL-Plus
  • 通义千问VL-OCR
  • 通义千问VL-Max-2024-08-09

说明

在使用VL模型时,如需上传图片,请通过指定参数传入图片的URL地址。

 

  • 通义千问VL-Max
  • 通义千问VL-Max-Latest
  • 通义千问VL-Max-2024-10-30
  • 通义千问VL-Max-2024-08-09

2、具体案例

2.1 任务型工作流

本段落以创建一个判断短信是否涉及电信诈骗的工作流应用为例进行说明。

接下来我们通过如下步骤去尝试创建一个工作流应用。

  1. 阿里云百炼大模型服务平台左侧导航栏中,单击我的应用
  2. 单击新增应用,选择工作流应用,单击创建任务型工作流,进入工作流配置页面。

 

  1. 将左侧大模型节点拖入画布配置页面,将输入节点连接到大模型节点,并配置对应参数。未提及的参数保持默认。

  • 配置输入节点:删除默认的city,date参数。输入节点内置一个默认参数query,故此处不需要参数。
  • 配置大模型节点:

参数

配置对应参数

模型配置

通义千问-Plus

System Prompt

分析并判断所给信息是否存在诈骗嫌疑。给出肯定答案,是否存在诈骗嫌疑。
 处理要求:细致审查信息内容,关注关键词汇和典型诈骗模式,如请求紧急转账、提供个人信息、承诺不切实际的利益等。 
操作步骤: 
1. 识别信息中的关键要素,包括但不限于发件人身份、提出的请求、承诺的回报及任何紧迫性表述。 
2. 对比已知的诈骗案例特征,检查信息中是否有类似的操作手法或语言模式。 
3. 评估信息的整体合理性,考虑所提要求是否符合常规逻辑和常规流程。 
4. 若信息中包含链接或附件,不要直接点击或下载,以避免潜在的安全风险,并提醒用户注意此类内容的危险性。 
输出格式:明确指出该信息是否展现出诈骗的特征,并简要说明判断依据。如果存在诈骗嫌疑,提供一些建议或预防措施以保护用户安全。

User Prompt

判断“${sys.query}”该信息是否涉嫌诈骗信息。

 

  1. 连接大模型节点和结束节点,并配置结束节点的变量,未提及的参数保持默认即可。

输入:输入/插入变量:大模型.result

 

  1. 单击右上角测试,输入你的包裹已在驿站存放多日未提取,请抽空过来取件,按下 Enter 键。等待工作流运行结束后,输出节点会输出运行结果

 

  1. 继续单击右上角测试,输入你有一条中奖100万的信息,请查收,按下 Enter 键。等待工作流运行结束后,输出节点会输出运行结果

  1. 单击右上角发布,即可发布成功。

2.2 对话型工作流

  1. 前往阿里云百炼大模型服务平台,在左侧导航栏中,单击我的应用。 选择新增应用 > 工作流应用 > 创建对话型工作流,进入工作流配置页面。
  2. 将左侧意图分类节点拖入画布,连接开始意图分类节点,并配置对应参数。
  • 配置开始节点:删除默认的 city 和 date 参数。输入节点内置一个隐藏参数query,用来接收用户输入。
  • 配置意图分类节点

参数

配置对应参数

输入

选择系统变量query

模型配置

通义千问-Plus

意图配置

  • 消费者想选购电视
  • 消费者想选购手机
  • 消费者想选购冰箱

  1. 将左侧大模型节点拖入画布,连接意图分类冰箱大模型节点,并配置对应参数。

参数

配置对应参数

模型配置

通义千问-Plus

System Prompt

你是负责给顾客推荐冰箱的智能导购员。
你需要按照下文中【冰箱的参数列表】中的顺序来主动询问用户需要什么参数的冰箱,一次只能问一个参数,不要对一个参数进行重复提问。
如果用户告诉了你这个参数值,你要继续询问剩余的参数。
如果用户询问这个参数的概念,你要用你的专业知识为他解答,并继续向他询问需要哪个参数。
如果用户有提到不需要继续购买商品,请输出:感谢光临,期待下次为您服务。
【冰箱的参数列表】
1.使用场景:【家用、小型商用、大型商用】
2.容量:【200L、300L、400L、500L】
3.能效等级:【一级能效、二级能效、三级能效】
如果【参数列表】中的参数都已收集完毕,你要问他:“请问您是否确定购买?”并同时将顾客选择的参数信息输出,如:用于小型商用|300L|一级能效。问他是否确定需要这个参数的冰箱。如果顾客决定不购买,要问他需要调整哪些参数。
如果顾客确定这个参数符合要求,你要按照以下格式输出:
【使用场景:家用,容量:300L,能效等级:一级能效】。请你只输出这个格式的内容,不要输出其它信息。

User Prompt

用户的问题是:${sys.query}

  1. 将左侧大模型节点拖入画布,连接意图分类的电视和大模型节点,并配置对应参数。

参数

配置对应参数

模型配置

通义千问-Plus

System Prompt

你是负责给顾客推荐电视的智能导购员。
你需要按照下文中【电视的参数列表】中的顺序来主动询问用户需要什么参数的电视,一次只能问一个参数,不要对一个参数进行重复提问。
如果用户告诉了你这个参数值,你要继续询问剩余的参数。
如果用户询问这个参数的概念,你要用你的专业知识为他解答,并继续向他询问需要哪个参数。
如果用户有提到不需要继续购买商品,请输出:感谢光临,期待下次为您服务。
【电视的参数列表】
1.屏幕尺寸:【50英寸、70英寸、80英寸】
2.刷新率:【60Hz、120Hz、240Hz】
3.分辨率:【1080P、2K、4K】
如果【电视的参数列表】中的参数都已收集完毕,你要问他:“请问您是否确定购买?”,并同时将顾客选择的参数信息输出,如:50英寸|120Hz|1080P。问他是否确定需要这个参数的电视。如果顾客决定不购买,要问他需要调整哪些参数。
如果顾客确定这个参数符合要求,你要按照以下格式输出:
【屏幕尺寸:50英寸,刷新率:120Hz,分辨率:1080P】。请你只输出这个格式的内容,不要输出其它信息。

User Prompt

用户的问题是:${sys.query}

  1. 将左侧大模型节点拖入画布,连接意图分类的手机和大模型节点,并配置对应参数。

参数

配置对应参数

模型配置

通义千问-Plus

System Prompt

你是负责给顾客推荐手机的智能导购员。
你需要按照下文中【手机的参数列表】中的顺序来主动询问用户需要什么参数的手机,一次只能问一个参数,不要对一个参数进行重复提问。
如果用户告诉了你这个参数值,你要继续询问剩余的参数。
如果用户询问这个参数的概念,你要用你的专业知识为他解答,并继续向他询问需要哪个参数。
如果用户提到不需要继续购买商品,请输出:感谢光临,期待下次为您服务。
【手机的参数列表】
1.使用场景:【游戏、拍照、看电影】
2.屏幕尺寸:【6.4英寸、6.6英寸、6.8英寸、7.9英寸折叠屏】
3.RAM空间+存储空间:【8GB+128GB、8GB+256GB、12GB+128GB、12GB+256GB】
如果【参数列表】中的参数都已收集完毕,你要问他:“请问您是否确定购买?”,并同时将顾客选择的参数信息输出,如:用于拍照|8GB+128GB|6.6英寸。问他是否确定需要这个参数的手机。如果顾客决定不购买,要问他需要调整哪些参数。
如果顾客确定这个参数符合要求,您要按照以下格式输出:
【使用场景:拍照,屏幕尺寸:6.8英寸,存储空间:128GB,RAM空间:8GB】。请你只输出这个格式的内容,不要输出其它信息。

User Prompt

用户的问题是:${sys.query}

  1. 将左侧文本转换节点拖入画布,连接意图分类节点的其他意图和文本转换节点,并配置对应参数。

输入:

您好!请直接告诉我,您想购买电视、冰箱还是手机呢?

  1. 将三个大模型节点和文本转换节点都连接到结束节点,并配置对应参数。

输入:请输入/插入4个变量:大模型_1.result,大模型_2.result,大模型_3.result,文本转换_1.result

 

  1. 单击右上角测试,在对话框输入给我介绍一下你们的冰箱,我要家用的?,单击执行。等待工作流运行结束后,输出节点会输出运行结果。可继续追问,在对话框输入介绍一下200L的家用冰箱?

  1. 单击右上角发布,即可发布成功。

3、工作流应用节点说明

3.1 开始/结束节点

  • 为什么使用它

开始和结束节点就像电影的「开场」与「落幕」。没有“开始节点”,工作流无法接受任何信息;没有“结束节点”,用户就看不到结果。它们是“先呼后应”的基础角色。

  • 功能与用法
    • 开始节点:作为整个工作流的入口,用于接收外部传入的数据(如用户输入、系统参数等)。
    • 结束节点:用于输出最终结果到前端或其他系统;在配置时可以指定输出格式(文本或JSON)。
  • 参数配置
    • 开始节点

参数名

说明

变量名

用作输入参数的 key

类型

数据类型(String / Boolean / Number)

描述

参数含义备注,用于说明变量的用途

  • 结束节点

参数名

说明

输出模式

选择“文本”或“JSON输出”两种方式

输入

文本模式时,可直接写文本或插入变量;JSON模式时,设置要输出的变量名

结果返回

开关控制,决定是否将结果返回给调用者

说明

  • 在结束节点中必须至少声明一个输出变量,才能让其他系统或用户看到工作流的产出。
  • 系统里有个“内置系统变量”,如 .query,可以直接使用它来获取用户的输入问题。

3.2 知识库节点

  • 为什么使用它

想象一下,你有一座巨大的“知识宝库”,里面存放了海量文档、FAQ、产品资料。这个节点能帮你从海量信息里提取“最相关”的内容,为后续 AI 问答做好准备。

  • 功能与用法
    • 通过搜索一个或多个知识库来得到相关文档片段,让 AI 能“读到”更多上下文,回答更专业或精准。常常与大模型节点结合使用。
    • 在构建对话型工作流、智能客服系统时尤其常用。
  • 参数配置

参数名

参数说明

输入

可直接输入文本,也可引用前面节点输出的变量

选择知识库

指定要在哪些知识库里进行搜索(支持多选)

输出

命名本节点的结果变量,如 kbResult

  • 输出结构示例
{
  "rewriteQuery": "...",
  "chunkList": [
    {
      "score": 0.36,
      "documentName": "文档名称",
      "title": "文档标题",
      "content": "相关内容片段"
    }
  ]
}

这里常用的就是 chunkList,含有文档内容片段及相似度分值。

说明

搜索结果得分越高代表匹配度越强,可以在后续节点里对结果做过滤、排序或组合。

不支持本地的向量数据库,您需要将您的文件上传到知识库即可使用。

3.3 大模型节点

  • 为什么使用它

这是整个工作流的“智慧大脑”——能读懂语言、生成文字、分析图像,还能参与多轮对话。你可以用它写文案、做文本总结、甚至对图片内容做分析(如果是 VL 系列模型)。

  • 功能特性
    • 既支持一次性处理一个输入,也能批量处理大量数据。
    • 可以配置不同大模型(如通义千问-Plus),根据性能、速度或其他特性的需求选择合适的模型。

节点参数配置

说明:如需通过API集成应用到您的业务,请参阅HTTP

  • 任务工作流下的大模型节点
    • 与工作流应用的大模型节点的不同:支持进行多轮对话配置,模型支持将选定的历史对话信息作为输入。

多轮对话配置:对话型应用会把前几轮对话中在“上下文”中要求的变量收集起来作为输入参数传给大模型。

  • 上下文:声明大模型需要的上下文输入,默认的 ${系统变量.historyList}代表的是前几轮对话的应用输入输出。其他参数均指的是前几轮对话中的应用参数。

  • 文本模型节点示例

测试界面,query参数中输入芯片工程师

结束节点输出:

  • 图像模型节点示例

大模型支持单个图像或多张图片传入,支持URLbase64方式传入。

说明

单张图片可以直接传入。例如:https://****.com/****.jpg

多张图片可列表传入。例如:["URL","URL","URL"]

测试界面,query参数中输入:https://****.com/****.jpg

结束节点输出:

参数名

参数说明

模式选择

单次处理模式:使用较低的搜索比例且不使用Query改写的快速搜索版本。

批次处理模式:在批处理模式中,节点会多次运行。每次运行时,列表中的一个项目会被依次分配给批处理变量。这个过程会一直持续,直到处理完列表中的所有项目或达到设定的最大批处理次数为止。

批处理配置:

  • 批处理次数上限(范围1-100,普通用户默认100):批处理运行的次数上限。

说明

实际批次处理次数取决于用户输入数组中的最小长度,若没有输入变量,则取决于配置中的批次数量。

  • 并行运行数量(范围1-10):批处理的并发限制,设置为1表示串行执行所有任务。

模型配置

选择合适的大模型,支持模型参数调整,具体支持模型,请参见支持模型

模型选择VL模型时:

  • 模型入参:vlImageUrl可引用参数或输入图片链接。
  • 图片来源:可选图片集/视频帧。
    • 图片集:模型会认为上传的图片是独立的,会根据问题匹配对应图片进行理解。
    • 视频帧:模型会认为上传的图片来源于同一个视频,会把图片按序看作一个整体来理解,视频帧需不少于4张。

参数配置

DeepSeek 系列模型暂不支持此项配置

温度系数:用于调节生成内容的多样性。较高的温度值将增加生成文本的随机性,产生更多独特的输出;而较低的温度值会使生成内容更为保守和一致。

最长回复长度:限制模型生成文本的最大长度(不包括Prompt)。该限制因模型类型而异,具体最大值可能会有所不同。

开启搜索:启用后,允许大模型在互联网上搜索相关信息。如果您没有看到该参数,则代表当前模型不支持开启搜索开关。

System Prompt

可用于设定模型的角色、任务、输出格式等内容,如“你是一个数学专家,专业解决数学问题,请输出符合格式的数学解题过程和结果”。

User Prompt

配置Prompt模板,支持变量插入,大模型将根据Prompt的配置进行处理和生成。

输出

输出本节点处理结果的变量名,用于后续节点识别和处理本节点的结果。

DeepSeek R1 系列模型支持输出深度思考过程(reasoningContent)。

3.4 API节点

  • 定义

通过POST或GET的方式,调用自定义API服务,输出API调用结果。

  • 参数配置

参数名

参数说明

API地址

填写要调用的API地址,可选POSTGET

Header设置

设置Header参数,设置KEYVALUE

Param设置

设置Param参数,设置KEYVALUE

Body设置

可选:noneform-dataramJSON

输出

输出本节点处理结果的变量名,用于后续节点识别和处理本节点的结果。

说明:如需通过API集成应用到您的业务,请参阅HTTP

  • 节点示例

使用POST方法,调用接口。

结束节点输出:

3.5 意图分类节点

  • 定义

根据意图描述智能分类匹配,选择其中一个链路执行。

  • 参数配置

参数名

参数说明

输入

输入本节点需要处理的变量,用于识别需要处理的内容,支持引用前置/开始节点变量或直接输入变量值。

模型配置

模型选择:通义千问-Plus。

意图配置

意图配置解释文案:配置不同的意图,输入意图描述,模型将根据不同的意图描述匹配后续链路,如:“用于数学题的计算”,“关于天气相关的知识问答”。

其他意图

意图未匹配时,匹配此链路。

意图模式

  • 单选模式:大模型将从现有的意图配置中挑选最合适的意图作为输出。
  • 多选模式:大模型将从现有的意图配置中挑选所有匹配的意图作为输出。

思考模式

  • 快速模式:该模式能够避免输出复杂的推理过程,从而提升处理速度,适用于简单场景。
  • 效果模式:该模式通过逐步思考,能够更准确地匹配相应的分类。

高级配置

高级配置内容将作为额外的prompt提供给模型。在此,您可以输入更多限制条件或提供更多案例,从而使模型的分类结果更符合您的要求。

示例

在该实例中,高级配置通过提供具体的分类案例,引导模型将“查询送达时间”归类为“订单查询”意图,同时限定了分类范围,排除了其他无关问题。

上下文

开启上下文能力后,系统将以Message格式自动记录历史对话信息,调用模型时传入上下文,模型将结合上下文内容进行生成。

仅在对话型工作流的意图分类节点中有该配置项。

说明:若开启上下文,您传入该节点的变量类型需为List类型。

输出

输出本节点处理结果的变量名,用于后续节点识别和处理本节点的结果。

说明:

  • 该节点在对话型工作流中支持上下文。
  • 运行该节点将消耗Token,并在运行时显示其消耗数量。
  • 节点示例

以下是一个意图分类节点示例(具体配置方式,请参见对话型工作流)。其工作流程逻辑如下:首先接收客户问题。接着,将这些问题传递给意图分类节点,该节点根据输入的信息判断属于电视还是手机的问题,或者其他类别,意图模式选择多选模式,思考模式选择快速模式。然后通过不同分支的文本转换节点生成相应的输出。最后,通过结束节点输出并完成整个流程。

  • 测试结果

测试界面,query参数中输入我想买电视、手机:

结束节点输出:

3.7 文本转换节点

  • 定义

用于文本内容的转换与处理,如抽取特定内容、格式转换等,支持模板模式。

  • 参数配置

参数名

参数说明

输出模式

支持文本输出JSON输出

输入

通过大模型指定处理方式将需要处理内容转换为特定格式,用户后续节点的处理,可通过变量配置的方式引用前置节点的处理结果。

  • 文本输出:输入/可插入变量。
  • JSON输出:变量名 | 引用/输入 | 变量。
  • 节点示例

以下是一个简单的文本转换节点示例。其工作流程逻辑如下:首先,用户输入一个关键词。然后,这个关键词被传递给文本转换节点,节点内部根据该关键词进行处理,生成相应的输出回复。最后,回复通过结束节点输出,从而完成整个流程。

测试界面,query参数中输入数学

结束节点输出:

 

通过学习这些常用节点,我们理解了工作流应用配合多种节点就可以实现各种强大的流程。更多节点的详细介绍见官方文档

[进度: 已完成]本节小结


在本节课程,我们了解了百炼平台的工作流应用的场景和功能。具体内容如下:

  • 学习了工作流应用的场景,包括旅行规划,报告分析等场景,帮助你更好的在不同场景使用工作流应用;
  • 了解如何创建工作流的具体步骤,帮助你快速上手工作流应用;
  • 学习了工作流应用中的多种节点,包括开始/结束节点,知识库节点,API节点,意图分类节点等,通过这些节点可以在工作流中实现多种复杂的任务,提高工作效率。

 

通过合理设计工作流,企业能够实现任务的自动化处理,减少人为错误,提高工作效率。例如,在客户服务中,工作流应用可以自动分配工单、跟踪问题解决进度,从而提升客户满意度;在订单处理过程中,自动化的工作流可以加快订单审核和发货速度,优化供应链管理。

 

扩展阅读

如果你希望深入了解工作流设计的高级技巧或探索更多实际应用场景,可以参考百炼平台的官方文档或参加相关的高级培训课程,以进一步提升你的工作能力。

 

posted @ 2025-06-19 22:13  aiplus  阅读(273)  评论(0)    收藏  举报
悬浮按钮示例