使用 Amazon Bedrock 流构建端到端生成式人工智能工作流
Amazon Bedrock 流让您能够使用受支持的基础模型(FM)通过关联提示、基础模型和其他 AWS 服务来创建端到端解决方案,从而构建工作流。
借助流,您可以使用可视化生成器快速构建复杂的生成式人工智能工作流,并轻松与 Amazon Bedrock 产品(如 FM、知识库)以及 AWS Lambda 等其他 AWS 服务集成(通过在它们之间传输数据并部署不可变的工作流),只需单击几下即可从测试环境转向生产环境。
有关 Amazon Bedrock 流的更多信息,请参阅以下资源:
-
Amazon Bedrock 流的定价取决于您使用的资源。例如,如果您使用 Amazon Titan 模型的提示节点调用工作流,则需要支付调用该模型的费用。有关更多信息,请参阅 Amazon Bedrock 定价
。 -
要查看流的配额,请参阅 AWS 一般参考中的 Amazon Bedrock 端点和配额。
以下是一些任务示例,您可以在 Amazon Bedrock 中为其构建流:
-
创建并发送电子邮件邀请 – 创建连接提示节点、知识库节点和 Lambda 函数节点的流。提供以下提示以生成电子邮件正文:
Send invite to John Smith’s extended team for in-person documentation read for an hour at 2PM EST next Tuesday。处理完提示后,流会查询知识库以查找 John Smith 扩展团队的电子邮件地址,然后将输入发送到 Lambda 函数,以向列表中的所有团队成员发送邀请。 -
使用错误消息和导致错误的资源 ID 进行故障排除 – 流从文档知识库中查找可能的错误原因,提取系统日志和其他有关资源的相关信息,并更新资源的错误配置和值。
-
生成报告 – 构建流,为热门产品生成指标。流在数据库中查找销售指标、汇总指标,生成热门产品购买的汇总报告,然后在指定的门户网站上发布报告。
-
从指定数据集摄取数据 – 提供如下提示:
Start ingesting new datasets added after 3/31 and report failures。流开始准备数据以供摄取,并不断报告状态。数据准备完成后,流将启动摄取过程,筛选掉失败的数据。数据摄取完成后,流会汇总失败并发布失败报告。
借助 Amazon Bedrock 的流,您可以轻松关联基础模型(FM)、提示和其他 AWS 服务,以快速创建、测试和运行流。您可以使用 Amazon Bedrock 控制台中的可视化生成器或通过 API 来管理流。
创建、测试和部署流的一般步骤如下:
创建流:
-
指定流名称、描述和相应的 IAM 权限。
-
通过确定要使用的节点来设计流。
-
创建或定义每个节点所需的所有资源。例如,如果您计划使用 AWS Lambda 函数,请定义节点完成任务所需的函数。
-
将节点添加到流,对其进行配置,并通过将一个节点的输出链接到流中另一个节点的输入在节点之间建立连接。
测试流:
-
准备流,将最新更改应用于流的工作草稿(即流的一个版本),您可以用它来迭代测试和更新您的流。
-
通过使用示例输入调用流并查看生成的输出,来测试流。
-
如果您对流的配置感到满意,可以通过发布版本来创建其快照。版本会保留创建时的流定义。版本是不可更改的,因为它们是流在创建时的快照。
部署流:
-
创建一个别名,指向要在应用程序中使用的流版本。
-
设置应用程序,以向别名发送
InvokeFlow请求。如果需要恢复到旧版本或升级到新版本,您可以更改别名的路由配置。