本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。
模式 5:接地代理 AI 工作流程
大型语言模型 (LLMs) 功能强大,但默认情况下它们是无限的。他们缺乏对专有数据、业务规则或操作限制的认识,这使得他们面临与用户或系统直接交互的风险。
企业面临以下共同挑战:
-
LLMs 当他们不知道答案时会产生幻觉,从而对信任和合规构成风险。
-
回应缺乏以特定领域的事实、政策或实时状态(例如订单、账户和权利)为依据。
-
动态任务自动化(例如,订单查询、支持分类和 IT 运营)通常需要调用真实 APIs 和工具,而不仅仅是生成文本。
-
构建传统的意图路由器、对话管理器和基于规则的流程成本高昂、脆弱且不可扩展。
为了应对这些挑战,企业希望代理人能够明智地推理、自主行动并以事实为依据。
根深蒂固的代理 AI 工作流程:具有信任和情境的自主智能
根深蒂固的代理 AI 工作流程模式使用 Amazon Bedrock Agents 来协调语义推理、工具调用和知识基础。这些代理使 AI 助手能够使用企业和文档获取用户输入、了解意图 APIs 并完成多步骤任务。
与简单的聊天机器人或静态 LLM 提示不同,Amazon Bedrock 代理:
-
解释自然语言目标。
-
动态选择和调用工具(通过使用 AWS Lambda 函数)。
-
搜索或查询知识库以扎根于企业真相。
-
返回符合情境的多步骤响应,具有可追溯性和可操作性。
参考架构按如下方式实现每个层:
-
事件触发 — 使用 Amazon API Gateway、聊天机器人用户界面或支持门户通过 Amazon Bedrock 触发代理互动
-
处理 — 实施 Lambda 来格式化输入、应用安全上下文(例如,用户角色或授权)以及丰富元数据
-
推理 — 使用 Amazon Bedrock 代理接收提示、调用 Lambda 工具(例如
getOrderStatus)、通过知识库进行基础研究以及汇编最终响应 -
后处理-使用 Lambda 检查代理输出(例如,如果 “订单丢失” 则上报并通知支持团队)
-
输出 — 返回代理对 UI 的响应或将其记录到亚马逊简单存储服务 (Amazon S3) 或亚马逊 OpenSearch 服务进行审计、培训或分析
用例:零售客户服务代理
一家全球零售商希望自动回复常见的客户询问,例如:“我的订单在哪里?” ,“我想退回这双鞋。 “,以及 “我需要支付退货运费吗?”
答案取决于诸如买家的实时订单数据、退货资格和时间表以及特定地区的政策等因素。
针对此用例,基于代理的工作流程遵循以下步骤:
-
用户使用应用程序或聊天输入查询。
-
API Gateway 将查询路由到亚马逊 Bedrock 代理。
-
代理执行以下操作:
-
解析意图(“退货请求”)
-
调用 Lambda 工具
lookupOrderStatus -
通过知识库执行策略查询
-
initiateReturn如果符合条件,请致电 -
撰写完整的回复:“您的退货已启动。期望在电子邮件中收到标签。”
-
所有操作都已接地、记录在案,并在企业护栏内执行。
Amazon Bedrock Agents 在这种模式中的主要特征
对于接地代理 AI 工作流程模式,Amazon Bedrock 代理提供以下主要功能和优点:
-
工具选择使代理能够为每项任务选择正确的 Lambda 函数(工具)。
-
内存和会话状态允许代理跨轮流维护上下文。
-
有@@ 根据的答案从存储在 Amazon S3 中的知识库中检索权威数据。
-
思维链(CoT)推理使代理能够将复杂的提示分解为子目标并按顺序采取行动。
-
安全上下文允许使用 AWS Identity and Access Management (IAM) 和上下文参数,根据租户、用户或角色来确定工具的范围。
接地代理 AI 工作流程模式的治理和控制最佳实践
要使根深蒂固的代理 AI 工作流程为企业做好准备,组织应考虑以下控制措施:
-
版本控制代理配置(例如,工具、说明和知识库)。
-
使用结构化日志和跟踪来提高 IDs 可审计性。
-
应用提示政策、许可名单和审核检查。
-
定义后备流程(例如,升级到人工或重新路由到静态常见问题解答)。
这些控件可以使用 Lambda、 EventBridge、以及AWS Step Functions围绕代理核心进行编排。
接地代理 AI 工作流程模式的商业价值
这种模式在以下领域提供了价值:
-
客户体验 — 无需上报即可自助解决 70-80% 的查询
-
运营效率 — 减少支持请求量和分类开销
-
是时候解决问题了 — 使用真实数据提供即时答案,无需等待人工代理
-
可扩展性 — 处理数千次并发互动,而不会增加人手
-
跨域重复使用 — 将相同的模式应用于多个领域,例如 IT 支持、人力资源服务台、法律问答等
扎根的代理 AI 工作流程使企业能够超越静态问答,转向目标驱动的自动化,而不会牺牲控制力、合规性或准确性。通过将 LLM 推理与安全的无服务器 API 执行和知识检索相结合,Amazon Bedrock Agents 提供可起作用的 AI 功能,而不仅仅是响应。
扎根的代理是智能企业交互架构,模块化、接地且随时可以扩展。