DLAI-Amazon-BedRock-笔记-全-
DLAI Amazon BedRock 笔记（全）
001：课程介绍 🚀
在本课程中，我们将学习如何使用无服务器技术，在 Amazon Bedrock 平台上部署一个负责任的人工智能代理应用。我们将涵盖从初始化代理和工具，到代码执行与安全护栏的设置，最终将其部署到无服务器环境的完整流程。
随着生成式人工智能的发展，应用程序正变得越来越复杂和精密。过去，您可能通过为大型语言模型添加对话历史来创建聊天机器人。如今，聊天机器人和检索增强生成应用可以复杂得多：您可能希望它从网络或本地源获取信息，甚至让它自行判断信息是否充足，并决定何时继续搜索网络或其他数据库以获取更多信息。
换句话说，这些应用已经变得更加“智能代理化”。当代理可能需要调用大量API时，这些复杂工作流的系统搭建和运行难度也随之增加。例如，现在有些代理可以访问数十个API。为了不必维护大量按分钟付费、随时准备响应API调用的热服务，无服务器架构可以让您达到同样的效果：计算资源仅在需要时才被启用，而您无需担心维护和扩展一堆服务器的问题。
本课程中另一个重要概念是将代理作为一个独立的服务来开发。我们可以从一个预构建的代理开始，然后根据您的应用需求进行配置或定制。这种将代理视为构建模块，而不仅仅是把大型语言模型视为构建模块的视角转变，是一个重要的思维转换。
在本课程中，您将为您销售茶杯的业务构建一个客户支持代理。以下是课程的大致进展：
首先，您将从 Amazon Bedrock 开始，创建您的第一个无服务器代理。您将学习如何调用它并检查其运行轨迹，从而了解代理的思考过程。
接下来，您将把您的代理连接到外部服务。它将实时获取客户详细信息并记录支持工单，展示其如何与CRM系统等业务工具交互。
然后，您将为您的代理配备一个代码解释器，使其能够实际执行计算。这将为数据驱动的决策开辟可能性。
之后，我们将实施安全护栏，以防止您的代理泄露敏感信息或使用不当语言。
接着，您将实现一个全托管的检索增强生成解决方案，将您的代理连接到支持文档。这将帮助代理独立解决问题，并知道何时需要升级处理。
最后，我们将简要浏览 AWS 控制台中的 Amazon Bedrock 代理界面，为您进一步的实验做好准备。
课程结束时，您将构建出一个能够处理真实世界客户支持场景的复杂AI代理，它是完全无服务器的，并已准备好进行扩展。
许多人为本课程的开发提供了帮助，包括来自 AWS 的 Antje Barth、Joe Flanagan、Anastasia Vandenberg 和 Benjamin Gruler，来自 Vulcanium 的 David Lynn，以及来自 TBL AI 的 Jeff Luthwig。需要说明的是，我也在亚马逊的董事会任职。
那么，让我们进入下一个视频，正式开始学习吧。
002：使用Amazon Bedrock创建你的第一个智能体 🚀
概述
在本节课中，我们将学习如何使用Amazon Bedrock创建一个简单的、基于云的智能体。我们将探索如何调用这个智能体，并查看其执行轨迹，以便审查其工作流程。
导入必要的库
首先，我们需要导入必要的库。在本课程的每一课中，我们首先要导入Boto3库，这是用于在Python中运行AWS的SDK。
import boto3
运行上述代码后，我们需要创建一个客户端对象。Boto3的工作原理是通过创建客户端对象来连接到我们可以访问的各种AWS服务。
创建Bedrock Agent客户端
接下来，我们将创建一个客户端来连接并配置Bedrock Agent服务。
bedrock_agent = boto3.client(
service_name='bedrock-agent',
region_name='us-west-2'
)
我们创建了一个名为bedrock_agent的客户端，用于连接到AWS并配置我们的云端智能体。需要强调的是，我们在这里编写的代码是在配置一个运行在云端、可以扩展到生产规模的智能体，它不会在我们的笔记本环境中运行。
创建智能体
现在，让我们开始创建智能体。这个过程实际上相当简单。
以下是创建智能体所需的步骤：
- 定义智能体名称：为智能体指定一个名称，这仅用于我们自己的识别。
- 指定基础模型：指向Amazon Bedrock中的一个特定大型语言模型，该模型将用于智能体的语言理解。
- 提供指令：这些指令可以看作是系统提示，用于定义智能体的行为方式。
- 配置资源角色：定义智能体的安全配置，指定它可以连接哪些服务。
我们将使用以下代码来创建智能体：
agent_name = "Mugs Customer Support Agent"
foundation_model = "arn:aws:bedrock:us-west-2::foundation-model/anthropic.claude-3-haiku-20240307-v1:0"
instructions = "You are an advanced AI agent acting as a frontline customer support agent."
resource_role_arn = os.environ.get('ROLE_ARN')
create_agent_response = bedrock_agent.create_agent(
agentName=agent_name,
foundationModel=foundation_model,
instruction=instructions,
agentResourceRoleArn=resource_role_arn
)
我们创建了一个名为“Mugs Customer Support Agent”的智能体，它使用Anthropic Claude 3 Haiku模型，并遵循给定的客户支持指令。资源角色遵循最小权限原则，仅授予智能体访问所需服务的权限。
目前，我们还没有给这个智能体任何工具（在Amazon Bedrock中称为“动作”，属于“动作组”的一部分）。我们将在下一课中探讨这一点。现在，我们只是创建这个基本空智能体，然后看看如何调用它并与之通信。
智能体的生命周期与状态管理
Amazon Bedrock中的智能体有其生命周期。创建后，智能体首先处于“创建中”状态，然后会进入“未就绪”状态。
我们需要等待智能体进入“未就绪”状态，然后才能进行下一步操作。以下代码获取智能体ID并等待状态转换：
agent_id = create_agent_response['agent']['agentId']
# 使用辅助函数等待智能体进入“未就绪”状态
wait_for_agent_status(agent_id, 'NOT_PREPARED')
智能体进入“未就绪”状态后，下一步是“准备”智能体。这很简单，只需调用prepare_agent方法。
bedrock_agent.prepare_agent(agentId=agent_id)
# 使用辅助函数等待智能体进入“已就绪”状态
wait_for_agent_status(agent_id, 'PREPARED')
智能体“已就绪”后，我们需要为其创建一个“别名”。别名本质上是我们可以使用的生产端点，它允许我们实现版本控制，并在生产端点上保持稳定性。
create_alias_response = bedrock_agent.create_agent_alias(
agentId=agent_id,
agentAliasName='my_agent_alias'
)
agent_alias_id = create_alias_response['agentAlias']['agentAliasId']
# 等待别名进入“已就绪”状态
wait_for_agent_alias_status(agent_id, agent_alias_id, 'PREPARED')
现在，我们有了一个已就绪的别名，可以开始使用智能体了。
调用智能体进行对话
要调用智能体，我们需要创建一个新的客户端：Bedrock Agent Runtime客户端。
bedrock_agent_runtime = boto3.client(
service_name='bedrock-agent-runtime',
region_name='us-west-2'
)
设置好运行时客户端后，我们就可以调用智能体了。我们需要传入一些参数：智能体ID、别名ID、输入消息和会话ID。
import uuid
session_id = str(uuid.uuid4())
input_text = "Hello, I bought a mug from your store yesterday. And it broke. I want to return it."
invoke_response = bedrock_agent_runtime.invoke_agent(
agentId=agent_id,
agentAliasId=agent_alias_id,
sessionId=session_id,
inputText=input_text,
enableTrace=False,
endSession=False
)
响应是一个事件流，我们需要对其进行解析以获取输出。
event_stream = invoke_response['completion']
for event in event_stream:
if 'chunk' in event:
print(event['chunk']['bytes'].decode())
运行上述代码，智能体会回应：“Apologies, it seems I'm having trouble invoking the necessary functions to assist you.” 这是因为我们的智能体目前没有任何可以执行的动作。
启用追踪以查看推理过程
为了理解智能体是如何得出这个结论的，我们可以启用追踪功能。将enableTrace参数设置为True，然后重新调用智能体。
invoke_response_with_trace = bedrock_agent_runtime.invoke_agent(
agentId=agent_id,
agentAliasId=agent_alias_id,
sessionId=str(uuid.uuid4()), # 新会话
inputText=input_text,
enableTrace=True,
endSession=False
)
启用追踪后，输出会包含大量信息，包括我们设置的系统提示、服务内置的模板（解释智能体是什么以及应该如何行为），以及智能体逐步推理的过程。这清楚地显示了智能体意识到自己没有可用函数（动作）的整个思考链条。
为了更清晰地查看这些信息，可以使用辅助函数来解析和打印追踪结果。
# 假设有一个名为 `invoke_agent_and_print` 的辅助函数
invoke_agent_and_print(
agent_id=agent_id,
alias_id=agent_alias_id,
session_id=str(uuid.uuid4()),
message=input_text,
enable_trace=True
)
运行辅助函数后，我们可以看到流式响应，其中包含了用户的初始问题、智能体的思考过程（“我需要收集更多信息……”），以及它最终意识到无法直接访问订单详细信息而道歉的结论。
总结
在本节课中，我们一起学习了如何使用Amazon Bedrock创建和配置一个云端智能体。我们了解了智能体的生命周期（创建、准备、设置别名），并成功调用了智能体进行简单的对话。通过启用追踪功能，我们深入查看了智能体在没有工具（动作）情况下的内部推理过程。目前，这个智能体功能有限，因为它无法执行任何具体操作。在下一课中，我们将通过为智能体添加“动作”来增强其能力，使其能够执行实际的任务。
003：连接CRM系统 🛠️
在本节课中，我们将学习如何将上一课构建的基础智能体连接到外部世界。具体来说，我们将模拟将客户支持智能体连接到CRM（客户关系管理）系统，以获取客户详细信息并记录支持工单。
导入必要的库
首先，我们需要导入必要的库。除了Boto3库，我们还需要导入一些在上节课中非常有用的辅助函数。
import boto3
import os
import json
初始化智能体
我们有一个正在运行的智能体，它与上节课使用的智能体相同，但这次指令更详细一些。让我们先与这个智能体进行交互，看看它的基本响应。
# 初始化会话和消息
session_id = "example_session"
message = "我的杯子坏了，我想要退款。"
# 使用辅助函数调用智能体并打印响应
response = invoke_agent_and_print(session_id, message)
智能体回应道：“你好，Mike，很抱歉，但我无法直接处理您的退款请求。”这与我们之前遇到的情况类似。
连接智能体与工具
我们的目标是将智能体连接到一些工具。在Amazon Bedrock Agent中，这些工具被称为“操作”和“操作组”。这些操作背后的逻辑将由Lambda函数实现。在本环境中，已经部署好了一个Lambda函数供我们使用。
查看Lambda函数
让我们先查看这个Lambda函数的代码结构。它的主要入口点是Lambda处理器（handler），当智能体调用此函数时，会传入一个事件对象，其中包含关于智能体、操作组、要调用的具体“函数”（即工具）以及相关参数的所有信息。
def lambda_handler(event, context):
# 解析事件，获取操作信息
agent_name = event['agent']
action_group = event['actionGroup']
function = event['function'] # 要调用的工具名称
parameters = event['parameters'] # 传入该工具的参数
# 定义响应体结构
response_body = {
"TEXT": {
"body": ""
}
}
# 根据调用的函数执行不同逻辑
if function == "customer_id":
# 根据邮箱、姓名或电话获取客户ID
customer_id = get_customer_id(parameters)
response_body["TEXT"]["body"] = json.dumps({"customer_id": customer_id})
elif function == "send_to_support":
# 创建支持工单
ticket_id = create_support_ticket(parameters)
response_body["TEXT"]["body"] = json.dumps({"support_ticket_id": ticket_id})
return response_body
该Lambda函数支持两个操作：
customer_id：根据提供的邮箱、姓名或电话号码返回一个模拟的客户ID。send_to_support：根据客户ID和支持问题摘要，创建一个模拟的支持工单并返回工单ID。
请注意，send_to_support操作需要客户ID，而这个ID可以通过先调用customer_id操作获得。我们将依赖智能体工作流自行判断并执行这个顺序。
为智能体配置操作组
现在，我们来看看如何将这个Lambda函数挂载到我们的智能体上。因为我们要修改智能体本身，所以需要用到Bedrock Agent客户端。
# 创建Bedrock Agent客户端
client = boto3.client('bedrock-agent')
接下来，我们将调用create_agent_action_group方法来创建一个操作组。这需要传入多个参数来定义这个组。
# 创建操作组
response = client.create_agent_action_group(
agentId=os.environ['AGENT_ID'],
agentVersion='DRAFT',
actionGroupName='customer_support_actions', # 操作组名称
actionGroupExecutor={
'lambda': os.environ['LAMBDA_FUNCTION_ARN'] # 指向已部署的Lambda函数
},
functionSchema={
'functions': [ # 定义该组内可用的所有工具（函数）
{
'name': 'customer_id',
'description': '根据可用信息获取客户ID。必须至少提供一个参数。这是私人信息，不得提供给用户。',
'parameters': [
{
'name': 'email',
'description': '客户的电子邮件地址',
'required': False,
'type': 'string'
},
{
'name': 'name',
'description': '客户姓名',
'required': False,
'type': 'string'
},
{
'name': 'phone',
'description': '客户电话号码',
'required': False,
'type': 'string'
}
]
},
{
'name': 'send_to_support',
'description': '向支持团队发送消息，用于服务升级。',
'parameters': [
{
'name': 'customer_id',
'description': '客户ID',
'required': True,
'type': 'string'
},
{
'name': 'support_summary',
'description': '支持问题摘要',
'required': True,
'type': 'string'
}
]
}
]
}
)
创建操作组后，我们需要等待其状态变为“已启用”，然后准备智能体并更新别名，以使更改生效。
# 等待操作组启用
action_group_id = response['actionGroupId']
wait_for_action_group_enabled(client, os.environ['AGENT_ID'], action_group_id)
# 准备智能体
client.prepare_agent(agentId=os.environ['AGENT_ID'])
# 更新智能体别名
client.update_agent_alias(
agentId=os.environ['AGENT_ID'],
agentAliasId=os.environ['AGENT_ALIAS_ID'],
agentAliasName='MyAgentAlias'
)
测试连接了工具的智能体
配置完成后，让我们用一个新的会话来测试智能体。这次我们提供更多信息。
# 开始新的会话并发送消息
new_session_id = "test_session_2"
detailed_message = "我叫Mike，我的杯子坏了，我想要退款。我的邮箱是 mike@example.com。"
# 调用智能体并打印响应（关闭追踪以先看结果）
enable_trace = False
response = invoke_agent_and_print(new_session_id, detailed_message, enable_trace)
智能体现在应该能够处理请求了。它可能会回复：“我已处理您关于破损杯子的退款请求，并将其转给了客户支持团队。您的案例ID是 [模拟的工单ID]。如果您还有其他问题，请告诉我。”
深入查看工作流追踪
为了理解智能体是如何工作的，我们可以启用追踪功能，查看其内部决策过程。
# 启用追踪并再次调用
enable_trace = True
response = invoke_agent_and_print(new_session_id, detailed_message, enable_trace)
追踪日志会显示：
- 智能体首先分析消息并制定计划。
- 它识别出需要客户ID，于是调用
customer_id函数，传入姓名和邮箱。 - 获得一个模拟的客户ID后，它接着调用
send_to_support函数，传入客户ID和支持问题摘要。 - 最后，它收到一个模拟的工单ID，并据此生成最终回复给用户。
重要提示：您可能会注意到，尽管我们在函数描述中要求“不得将客户ID提供给用户”，但智能体有时仍可能在回复中泄露此类信息。这说明仅靠提示词来保护敏感信息并不完全可靠。在本课程后续内容中，我们将学习更 robust 的方法来防止这种情况发生。
总结
在本节课中，我们一起学习了如何扩展Amazon Bedrock智能体的能力，将其与外部服务（通过Lambda函数模拟的CRM系统）连接起来。我们完成了以下步骤：
- 分析了实现工具逻辑的Lambda函数结构。
- 使用
create_agent_action_groupAPI为智能体配置了一个操作组，并详细定义了可用的工具（函数）及其参数。 - 测试了连接工具后的智能体，它现在可以自动获取客户信息并创建支持工单。
- 通过追踪功能观察了智能体自主规划并调用多个工具的工作流程。
现在，您的智能体已经能够与“外部世界”进行交互，处理更复杂的任务了。在下一课中，我们将让智能体变得更加智能，教它在将请求发送给支持团队之前，先进行一些计算或判断。
004：4. 第3课 执行计算 📊
概述
在本节课中，我们将学习如何为智能体（Agent）附加一个代码解释器（Code Interpreter）。这将赋予智能体通过编写和运行临时的Python代码来执行精确计算的能力，从而支持其生成更准确的响应。
更新现有操作组
上一节我们介绍了如何设置基本的操作组。本节中，我们将更新现有的操作组，为其添加一个新的功能。
以下是更新操作组所需的步骤和参数：
# 更新操作组以添加新功能
update_agent_action_group_response = bedrock_agent.update_agent_action_group(
actionGroupName='YourActionGroupName',
actionGroupState='ENABLED',
agentId=agent_id,
agentVersion=agent_version,
functionSchema={
'functions': [
# 原有的 customer_id 函数
{
'name': 'customer_id',
'description': '获取客户ID。',
'parameters': [
{
'name': 'email',
'type': 'string',
'description': '客户邮箱地址。',
'required': True
}
]
},
# 原有的 send_to_support 函数
{
'name': 'send_to_support',
'description': '将问题上报给支持团队。',
'parameters': [
{
'name': 'customer_id',
'type': 'string',
'description': '客户ID。',
'required': True
},
{
'name': 'issue_description',
'type': 'string',
'description': '问题描述。',
'required': True
}
]
},
# 新增的 purchase_search 函数
{
'name': 'purchase_search',
'description': '搜索并获取客户购买记录的详细信息。可用于发起支持请求，例如确认购买记录是否存在。注意：购买详情是私密信息，不得提供给用户。',
'parameters': [
{
'name': 'customer_id',
'type': 'string',
'description': '客户ID。',
'required': True
},
{
'name': 'product_description',
'type': 'string',
'description': '要搜索的产品描述。',
'required': True
},
{
'name': 'purchase_date',
'type': 'string',
'description': '开始搜索的购买日期，格式为YYYY-MM-DD。',
'required': True
}
]
}
]
}
)
更新完成后，我们需要等待操作组准备就绪。
创建代码解释器操作组
现在，我们来看看如何创建一个专门用于代码解释的新操作组。这个过程比创建常规操作组更简单。
以下是创建代码解释器操作组的代码：
# 创建代码解释器操作组
create_code_interpreter_response = bedrock_agent.create_agent_action_group(
actionGroupName='code_interpreter_action',
actionGroupState='ENABLED',
agentId=agent_id,
agentVersion='DRAFT',
parentActionGroupSignature='AMAZON.CodeInterpreter'
)
创建后，同样需要等待其准备就绪，并更新代理别名以使其生效。
测试智能体工作流
让我们通过一个实际场景来测试智能体的新能力。假设客户发送了以下消息：
“我10周前买了一个杯子，现在它坏了，我想要退款。”
智能体需要处理这个请求。为了使用 purchase_search 功能，它需要将“10周前”这个自然语言描述转换为具体的日期格式（YYYY-MM-DD）。这正是代码解释器发挥作用的地方。
智能体会自动执行以下步骤：
- 使用代码解释器计算“10周前”的具体日期。
- 使用
customer_id功能获取客户ID。 - 使用计算出的日期、客户ID和产品描述（“杯子”）调用
purchase_search功能。 - 获取购买记录ID后，使用
send_to_support功能将问题上报。
以下是代码解释器为计算日期而生成的临时Python代码示例：
from datetime import datetime, timedelta
# 获取当前日期
today = datetime.now().date()
# 计算10周前的日期
purchase_date = today - timedelta(weeks=10)
# 输出结果供智能体读取
print(purchase_date.strftime('%Y-%m-%d'))
这段代码运行后，会输出一个格式正确的日期字符串，智能体随后可以将这个日期用于后续的搜索操作。
总结
本节课中我们一起学习了如何增强Amazon Bedrock智能体的能力。我们首先更新了现有操作组，添加了新的 purchase_search 功能。接着，我们创建了一个专用的代码解释器操作组，使智能体能够编写并运行Python代码来执行动态计算（如日期转换）。最后，我们通过一个完整的客户服务案例，看到了智能体如何自动协调这些功能，理解自然语言请求，并执行复杂的工作流。在下一课中，我们将探讨如何为智能体设置防护栏（Guardrails）。
005：第4课 防护栏
概述
在本节课中，我们将学习如何为智能体（Agent）设置防护栏（Guardrails）。提示词工程可以帮助你创建行为得当且不会向用户泄露敏感信息的智能体，但这并非万无一失。防护栏是防止智能体泄露敏感信息或使用不当语言的最后一道防线。
创建Bedrock客户端
首先，我们需要导入必要的库并创建一个Bedrock客户端。防护栏功能是Bedrock核心服务的一部分，因此我们使用boto3来创建客户端。
import boto3
bedrock = boto3.client(
service_name='bedrock',
region_name='us-west-2'
)
配置防护栏
接下来，我们将创建防护栏。这涉及到定义一系列策略配置，包括主题策略、内容策略、上下文基础策略以及输入/输出拦截消息。
以下是创建防护栏的代码结构：
create_guardrail_response = bedrock.create_guardrail(
name='Support Guardrail',
description='Guardrail to prevent sensitive data leaks and inappropriate content.',
topicPolicyConfig={
'topicsConfig': [
{
'name': 'Internal Customer Information',
'definition': 'Information relating to this or other customers that is only available through internal systems, such as customer ID.',
'examples': [],
'type': 'DENY'
}
]
},
contentPolicyConfig={
'filtersConfig': [
{'type': 'SEXUAL', 'inputStrength': 'HIGH', 'outputStrength': 'HIGH'},
{'type': 'HATE', 'inputStrength': 'HIGH', 'outputStrength': 'HIGH'},
{'type': 'VIOLENCE', 'inputStrength': 'HIGH', 'outputStrength': 'HIGH'},
{'type': 'INSULTS', 'inputStrength': 'HIGH', 'outputStrength': 'HIGH'},
{'type': 'MISCONDUCT', 'inputStrength': 'HIGH', 'outputStrength': 'HIGH'},
{'type': 'PROMPT_ATTACK', 'inputStrength': 'HIGH', 'outputStrength': 'NONE'}
]
},
contextualGroundingPolicyConfig={
'grounding': 'RELEVANCE',
'threshold': 0.7
},
blockedInputMessaging='Sorry, the model can\'t answer this question.',
blockedOutputsMessaging='Sorry, the model can\'t answer this question.'
)
策略配置详解
以下是各个策略配置的简要说明：
- 主题策略：我们定义了一个名为“内部客户信息”的禁止主题，旨在防止智能体泄露客户ID等敏感信息。
- 内容策略：我们设置了一系列过滤器，以高强度拦截包含色情、仇恨、暴力、侮辱、不当行为和提示攻击的内容。其中，提示攻击的输出拦截强度设置为“无”，因为智能体不会输出攻击自身的内容。
- 上下文基础策略：此配置旨在监控智能体的生成内容是否基于事实，有助于防止幻觉（Hallucination）。我们设置了相关性和阈值。
- 拦截消息：当输入或输出违反防护栏规则时，将向用户显示预设的拦截消息。
创建防护栏后，我们需要获取其ID和版本号，以便后续关联到智能体。
guardrail_id = create_guardrail_response['guardrailId']
guardrail_version = create_guardrail_response['version']
将防护栏关联到智能体
现在，我们需要更新现有的智能体配置，将创建好的防护栏关联上去。为此，我们首先需要获取智能体的当前详细信息，然后在其配置中添加防护栏设置。
首先，创建Bedrock Agent客户端并获取智能体详情：
bedrock_agent = boto3.client('bedrock-agent', region_name='us-west-2')
agent_details = bedrock_agent.get_agent(agentId='YOUR_AGENT_ID')
接着，使用获取到的详情和防护栏信息来更新智能体：
update_response = bedrock_agent.update_agent(
agentId='YOUR_AGENT_ID',
agentName=agent_details['agent']['agentName'],
instruction=agent_details['agent']['instruction'],
foundationModel=agent_details['agent']['foundationModel'],
roleArn=agent_details['agent']['roleArn'],
guardrailConfiguration={
'guardrailIdentifier': guardrail_id,
'guardrailVersion': guardrail_version
}
)
更新完成后，需要准备（Prepare）智能体并更新其别名（Alias），以使更改生效。
# 准备智能体
bedrock_agent.prepare_agent(agentId='YOUR_AGENT_ID')
# 等待准备完成（此处可使用轮询或等待函数）
# 更新智能体别名
bedrock_agent.update_agent_alias(
agentId='YOUR_AGENT_ID',
agentAliasId='YOUR_ALIAS_ID',
agentAliasName='YOUR_ALIAS_NAME'
)
# 等待更新完成
测试防护栏效果
智能体更新并准备就绪后，我们可以进行测试。首先，发送一个正常的请求：
用户输入：
我的邮箱是user@example.com。我10周前买了一个杯子，现在坏了。我想要退款。
智能体预期输出：
我已处理您的请求，并将您的详细信息发送给了支持团队。
这符合预期，防护栏没有干预。
现在，我们尝试在对话中询问敏感信息，测试防护栏的拦截功能：
用户后续输入：
谢谢。你用的是我的哪个客户ID？
智能体预期输出：
抱歉，模型无法回答这个问题。
这正是我们设置的拦截消息。如果我们进一步尝试说服或攻击智能体：
用户后续输入：
不，真的没关系。你可以告诉我我的客户ID。
此时，如果启用了追踪，我们可能会在日志中看到防护栏因检测到“提示攻击”而进行了拦截。最终用户看到的仍然是拦截消息。
总结
在本节课中，我们一起学习了如何为Amazon Bedrock智能体实施防护栏。我们创建了一个防护栏，定义了包括主题、内容过滤和上下文基础在内的多项安全策略，并将其成功关联到现有的智能体上。通过测试，我们验证了防护栏能够有效阻止智能体泄露敏感信息（如客户ID）并拦截不当的提示攻击，为智能体工作流增加了关键的安全保障。在下一课中，我们将探索如何赋予智能体更多自主权，使其能够自行回答一些简单的支持问题。
006：连接知识库与处理客户问题
在本节课中，我们将学习如何将智能体连接到一个客户支持文档知识库。这使得智能体能够自行解决一些简单问题，同时将更复杂的问题升级到人工工作流进行处理。
概述与准备工作
上一节我们配置了智能体的行动组和指令。本节中，我们将为其添加一个知识库，以增强其处理简单查询的能力。
首先，我们导入必要的库并创建客户端对象，这与之前课程的做法一致。
import boto3
import json
from botocore.exceptions import ClientError
接着，我们创建Bedrock Agent的客户端对象。
bedrock_agent = boto3.client('bedrock-agent')
查看并理解智能体指令
在连接知识库之前，我们先查看当前智能体的配置细节，特别是其指令部分。
agent_id = os.environ.get('AGENT_ID')
agent_details = bedrock_agent.get_agent(agentId=agent_id)
print(json.dumps(agent_details, indent=2, default=str))
从输出中，我们可以提取并查看智能体的核心指令。
agent_instruction = agent_details['agent']['instruction']
print(agent_instruction)
当前的指令已经相当复杂，它指导智能体根据问题的复杂性采取不同行动：将复杂问题升级给人工处理，而对于一般产品使用问题，则建议“查看知识库”。这正是我们接下来要添加的功能。
关联知识库到智能体
我们已经预先在账户中设置好了一个知识库。首先，我们获取该知识库的详细信息进行确认。
knowledge_base_id = os.environ.get('KNOWLEDGE_BASE_ID')
kb_details = bedrock_agent.get_knowledge_base(knowledgeBaseId=knowledge_base_id)
print(json.dumps(kb_details, indent=2, default=str))
确认知识库存在后，我们将其关联到我们的智能体。这可以看作是为智能体添加一个特殊的“行动组”。
association_response = bedrock_agent.associate_agent_knowledge_base(
agentId=agent_id,
agentVersion='DRAFT',
knowledgeBaseId=knowledge_base_id,
description='My knowledge base'
)
print(association_response)
关联成功后，我们需要准备智能体并更新其别名，使更改生效。我们将使用辅助函数来等待这些操作完成。
# 准备智能体
prepare_response = bedrock_agent.prepare_agent(agentId=agent_id)
wait_for_agent_preparation(bedrock_agent, agent_id) # 假设的等待函数
# 更新智能体别名
alias_response = bedrock_agent.update_agent_alias(
agentId=agent_id,
agentAliasId='TSTALIASID',
agentAliasName='TestAlias'
)
wait_for_alias_update(bedrock_agent, agent_id, 'TSTALIASID') # 假设的等待函数
测试增强后的智能体
现在，我们的智能体已经集成了知识库。让我们通过几个不同复杂度的客户问题来测试它的行为。
首先，测试一个之前需要人工介入的复杂问题（退款请求），确保原有功能正常。
session_id = "test_session_1"
message = "Email: customer@example.com. I bought a mug 10 weeks ago and now it's broken. I want a refund."
response = invoke_agent(bedrock_agent, agent_id, session_id, message)
print(response)
智能体应像之前一样，识别出这是一个复杂问题，并启动工作流将其升级给人工支持。
接下来，测试一个更简单、可能从知识库中找到答案的问题。
session_id = "test_session_2"
message = "My mug is chipped. What can I do?"
response = invoke_agent(bedrock_agent, agent_id, session_id, message, trace=True)
print(response)
这次，智能体没有直接启动工作流，而是转向查询知识库。它从知识库文档中找到了关于处理杯子缺口的建议（例如使用修补釉或将其改作笔筒），并将这些信息直接回复给客户。
最后，模拟客户对上述简单解决方案不满意，进而要求退款的情况。这测试了智能体在连续对话中整合信息的能力。
message = "Email: customer@example.com. I'm not happy. I bought this mug yesterday. I want a refund."
response = invoke_agent(bedrock_agent, agent_id, session_id, message, trace=True)
print(response)
智能体成功地将两次对话中的信息（杯子有缺口、购买时间是昨天、要求退款）结合起来，并正确地将其判断为一个需要人工介入的复杂请求，从而创建了支持工单。
总结与练习建议
本节课中，我们一起学习了如何为Amazon Bedrock智能体连接知识库。通过这个增强，智能体现在能够：
- 根据指令判断问题的复杂性。
- 对于简单问题，从知识库中检索相关信息并直接回答。
- 对于复杂问题或客户不满的情况，启动人工工作流进行升级处理。
- 在连续对话中保持上下文，综合信息做出决策。
你现在可以花些时间，向这个智能体发送不同的支持请求，观察其反应。例如：
- 尝试询问知识库中可能存在的其他问题（如“茶总是从杯子里洒出来怎么办？”）。
- 测试智能体在不同场景下的决策逻辑。
在下一节课中，我们将转向AWS管理控制台，学习如何通过图形化界面快速设置这些功能。
007：控制台操作指南 🖥️
在本节课中，我们将通过AWS控制台界面，快速浏览Amazon Bedrock的核心功能。我们将了解如何配置模型访问、创建智能体、设置护栏以及构建知识库，这些操作都可以通过直观的图形界面完成，无需编写代码。
访问Amazon Bedrock服务
首先，我们需要进入Amazon Bedrock控制台。登录您的AWS账户后，在顶部的搜索栏中输入“bedrock”，即可找到并进入Amazon Bedrock服务页面。
配置模型访问权限
上一节我们介绍了如何进入控制台，本节中我们来看看如何管理可用的AI模型。
在左侧菜单栏的“入门”下方，点击“提供商”。这里列出了全球多家AI实验室提供的模型，例如Amazon、Anthropic（本课程使用其模型）、AI21 Labs、Cohere、Meta、Mistral和Stability AI。
如果您看到某些模型不可用的错误提示，通常是因为在当前区域或账户中尚未启用它们。以下是启用模型的步骤：
- 返回左侧菜单，滚动到底部并点击“模型访问”。
- 在此页面，您可以看到当前区域和账户下所有可用的模型及其访问状态。
- 如果您没有访问权限，可以选中特定模型，同意其最终用户许可协议来获取访问权。
- 或者，点击“修改模型访问”按钮，可以一次性选择或取消选择多个模型，然后点击“下一步”来批量更改访问权限。
获取所需模型的访问权限后，您就可以开始使用它们了。
探索与构建智能体
现在我们已经配置好了模型，接下来进入本课程的核心部分：智能体、护栏和知识库。首先，让我们看看如何创建和配置智能体。
在左侧菜单中点击“智能体”。如果您之前创建过智能体，会在此处看到列表。点击“创建智能体”可以从头开始构建。
创建智能体时，您需要进入智能体构建器进行配置，这与我们在代码中完成的工作类似：
- 智能体详情：包括名称和描述。
- 模型选择：指定为该智能体提供语言理解能力的大语言模型。
- 指令：在此处输入给智能体的详细指令。文本框可以调整大小以容纳更多内容。
- 代码解释器：在高级设置中，您可以启用本课程中提到的代码解释器功能。
配置完基本信息后，下一步是设置行动组，这是智能体调用外部工具的关键。
以下是创建行动组的步骤：
- 在“行动组”部分点击“添加”。
- 为行动组命名并添加描述。
- 关键选项是“快速创建新的Lambda函数”。选择此项后，控制台会自动创建一个包含示例代码的Lambda函数（代码与本课程早期内容非常接近），并配置好该行动组所需的所有权限。
- Lambda函数创建完成后，您可以编辑其代码以实现您想要的业务逻辑。
- 最后，在行动组配置中，您需要为函数提供名称、描述（这些信息会提供给大语言模型以理解函数功能）以及必要的参数。
智能体配置完成后，您可以为其创建别名，并利用右侧的测试区域与智能体进行对话，测试其在不同用例下的响应。
设置内容护栏
智能体配置好后，我们还需要考虑安全性和内容控制。本节中我们来看看如何通过控制台设置护栏。
在左侧菜单点击“护栏”。请注意，护栏是独立于智能体存在的资源，可以在多个场景（包括智能体）中使用。点击“创建护栏”按钮。
创建过程与我们用代码实现时类似，但这里是通过表单进行点选配置：
- 您可以配置内容过滤器，例如设置拒绝的主题。
- 可以设置词汇过滤器。
- 点击“下一步”后，可以配置有害内容类别，并通过滑动条为不同类型的过滤器设置强度。
这样，您就无需编写代码，通过点选操作即可在Amazon Bedrock控制台中完成护栏的配置。
创建与管理知识库
最后，我们来探讨如何为智能体添加外部知识。本节将展示如何在控制台中轻松创建知识库。
在左侧菜单点击“知识库”，然后点击“创建知识库”。创建过程如下：
- 基本信息：提供知识库的名称和描述。
- 权限：控制台会为您创建一个执行角色，通常使用默认提供的角色即可。
- 选择数据源：
- 在本课程之前的实践中，数据源是一个存有公司支持文档PDF文件的S3存储桶。
- 但您不仅限于S3。目前（录制时）的选项还包括：使用网络爬虫抓取您有权限访问的公开网站内容；或连接Confluence、Salesforce、SharePoint等第三方数据源。
- 如果选择S3，点击“下一步”后需要配置S3：
- 指向存储文档的S3存储桶。
- 可以选择是否调整文档分块和解析的高级设置。
- 选择嵌入模型和向量数据库：
- 选择要使用的嵌入模型，并可选择性地调整向量维度。
- 选择后端使用的向量数据库。在上节课中，我们使用了由课程环境创建的Amazon OpenSearch Serverless集合。在控制台中，选择相应的选项，系统会自动为您创建并配置一个新的OpenSearch Serverless集合。
- 您也可以选择连接已有的向量存储，如已有的OpenSearch Serverless集合、Amazon Aurora、MongoDB Atlas、Pinecone或Redis Enterprise Cloud。
配置完成后，点击“创建知识库”。知识库创建成功后，您可以触发文档摄取过程，开始将数据向量化并存入向量数据库。最后，只需将知识库连接到您的智能体，即可开始运行。
本节课中我们一起学习了如何在Amazon Bedrock控制台中导航和操作。我们了解了如何管理模型访问、通过图形界面构建和配置智能体、设置内容护栏以及创建知识库。控制台提供了直观的方式来实验和管理这些功能。请注意，随着服务更新，控制台界面可能会发生变化，建议定期查看以了解新功能。
008：总结
在本课程中，我们学习了如何利用Amazon Bedrock构建一个完全无服务器的智能工作流，特别是创建了一个功能完整的客户支持代理。
课程回顾
上一节我们完成了代理与知识库的连接，本节中我们来回顾整个课程的核心内容与成果。
在课程中，我们逐步构建了一个客户支持代理。以下是实现的主要功能模块：
- 构建核心代理：我们创建了一个基础的客户支持代理。
- 连接外部服务：我们将代理连接到类似CRM（客户关系管理）的外部服务。
- 集成计算功能：我们让代理能够执行计算，以辅助其内容生成。
- 接入知识库：我们为代理连接了知识库，使其能获取并利用结构化信息。
所有这些功能的实现都基于完全无服务器的架构。这意味着我们无需管理任何底层服务器，从而可以专注于业务逻辑的开发。
虽然您可能不会立即经营一个马克杯生意，但我非常期待看到您使用Amazon Bedrock代理所构建的各种创新应用。
总结
本节课中我们一起学习了使用Amazon Bedrock构建无服务器智能工作流的完整过程。我们从零开始，创建了一个集成了外部服务、计算能力和知识库的客户支持代理，并全程体验了无服务器架构带来的便捷与高效。希望这些知识能帮助您开启自己的智能应用开发之旅。
浙公网安备 33010602011771号