View a markdown version of this page

升级 AI 提示和 AI 代理的模型 - Amazon Connect Customer

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

升级 AI 提示和 AI 代理的模型

当您在 Amazon Connect 中自定义 AI 提示或 AI 代理时,与每个 AI 提示关联的模型将决定哪个大型语言模型 (LLM) 处理这些指令。随着时间的推移,会有更新、功能更强的型号问世。本主题介绍如何在几个常见场景中升级模型。

  • 您有一个自定义 AI 代理,其中包含一个或多个使用已弃用模型的自定义 AI 提示

  • 你有一个没有提示覆盖的自定义 AI 代理

  • 您使用的是旧版本的系统 AI 代理。

先决条件

在升级模型之前,请确保您具备以下条件:

何时升级

当模型计划弃用时,Amazon Connect 会通知您。在任何模型过了弃用日期后,Amazon Connect 会自动将 LLM 推理重定向到支持的模型,因此不会中断服务。但是,通过在弃用日期之前手动升级,您可以选择替换型号并在您的环境中对其进行测试。使用以下步骤来确定哪些方案适用于您。

步骤 1:检查是否有自定义 AI 代理。在管理员网站中,导航到 AI 代理设计器AI 代理。查看 “类型” 列。系统代理在类型名称后显示 -“系统”(例如,“答案建议-系统”)。没有此后缀的代理是您创建的自定义代理。

  • 如果您的自定义 AI 代理分配了一个或多个自定义 AI 提示 → 场景 1(如果您仅覆盖某些提示类型,则未设置的提示会自动升级;您只需要升级自定义提示即可)

  • 如果你有一个没有提示覆盖的自定义 AI 代理 → 场景 2(提示自动升级,无需执行任何操作)

  • 如果您没有任何自定义 AI 代理,请跳至步骤 2。

步骤 2:检查默认 AI 代理配置。在同一 AI 代理页面上,滚动至默认 AI 代理配置部分。如果有任何用例固定到特定版本(未设置为 “最新”),则可以对其进行更新 → 场景 3。这适用于所有客户,即使您没有定制代理也是如此。

模型分辨率的工作原理

配置单个 AI 代理时,您可以选择让 Connect 为每个提示选择使用哪个 LLM,选择您希望每个提示使用的模型,或者选择两个选项的组合。

  • 每个 AI 提示都有一个模型属性,用于指定要使用哪个 LLM。

  • 每个 AI 代理都引用一个或多个 AI 提示版本。版本是提示的不可变快照,包括其模型选择。

  • 当您创建自定义 AI 代理并仅覆盖与该代理关联的部分提示时,其余类型将在运行时使用系统默认值填充。您明确设置的提示将固定到您选择的版本。系统填写的提示使用最新的系统默认值。此按提示类型分辨率适用于非代理 AI 代理类型,例如答案推荐、手动搜索和自助服务。 Non-Agentic

  • 可用型号取决于您的 Amazon Connect 实例的 AWS 区域。有关每个地区支持的型号列表,请参阅支持的 system/custom 提示器型号

场景 1:带有自定义 AI 提示的自定义 AI 代理

在这种情况下,您创建了一个自定义 AI 代理并为其分配了一个或多个自定义 AI 提示。自定义提示将固定在您发布时选择的模型上。

自定义提示不会自动接收模型升级。您必须手动更新模型、发布新的提示版本并更新 AI 代理。

如果你只覆盖某些提示类型

某些 AI 代理类型支持多种提示类型。例如,答案推荐 AI 代理支持三种提示类型:意图标签生成、查询重新表述和答案生成。如果您仅将其中一些设置为自定义提示,而未设置其余提示,则以下内容适用:

  • 您明确设置的提示类型(通过管理网站或 CLI)将固定到您选择的特定提示版本。除非你更新它们,否则它们不会改变。对于每个自定义提示,请按照以下升级步骤操作。

  • 未设置的提示类型不会存储在 AI 代理配置中。在运行时,Amazon Connect 会根据当前的系统默认值解析这些问题。这些类型始终使用最新的系统提示版本,包括任何模型升级。对于未设置的提示类型,无需执行任何操作。

使用管理员网站升级

步骤 1:使用更新的模型创建新的提示版本

  1. 登录 Amazon Connect 管理网站。

  2. 在导航菜单中,选择 AI 代理设计器AI 提示

  3. 从 “提示” 列表中,选择要升级的自定义 AI 提示。

  4. AI 提示生成器中选择 “编辑”(右上角)。

  5. 右上角的下拉列表显示 “最新:草稿”。这是您将要修改的工作副本。

  6. 模型部分中,使用下拉列表选择新模型。

  7. 选择发布。这将使用新模型创建提示的新版本。

  8. 向下滚动到同一页面上的 “版本” 部分。您可以确认新版本已创建。

  9. 要验证新版本,请导航回 AI 代理设计器AI 会提示。从列表中选择提示,然后使用版本下拉菜单(右上角)选择新版本。述部分显示更新的型号 ID。

步骤 2:更新 AI 代理以使用新的提示版本

  1. 导航到 AI 代理设计器AI 代理

  2. 选择引用此提示的自定义 AI 代理。

  3. 在 AI 代理生成器中选择编辑以打开代理生成器页面。

  4. 选择 “添加提示”。将出现一个弹出窗口,其中包含可用的提示。

  5. 选择新的提示版本,然后选择 “添加”。弹出窗口关闭,提示将添加到代理中。

  6. 选择发布。这将使用带有更新模型的自定义提示来创建新的 AI 代理版本。

  7. 向下滚动到 “版本” 部分,确认显示新的 AI 代理版本。

  8. (可选)从右上角的下拉列表中选择最新版本。“提示” 部分显示新的提示版本。

步骤 3:将新的 AI 代理版本设置为默认版本

  1. 导航到 AI 代理设计器AI 代理

  2. 默认 AI 代理配置部分,找到使用自定义 AI 代理的用例并将其更新到新版本。

  3. 选择复选标记图标 (✓) 进行保存。

  4. 为避免每次都手动更新版本,请从版本下拉列表中选择 “最新”。这会自动使用最新发布的 AI 代理版本。

使用 AWS CLI 进行升级

使用新模型更新 AI 提示:

aws qconnect update-ai-prompt \ --assistant-id assistant-id \ --ai-prompt-id custom-prompt-id \ --model-id new-model-id

发布提示的新版本:

aws qconnect create-ai-prompt-version \ --assistant-id assistant-id \ --ai-prompt-id custom-prompt-id

更新 AI 代理以引用新的提示版本:

aws qconnect update-ai-agent \ --assistant-id assistant-id \ --ai-agent-id custom-agent-id \ --configuration '{ "agentTypeConfiguration": { "promptTypeAIPromptId": "custom-prompt-id:new-version-number" } }'

发布 AI 代理的新版本:

aws qconnect create-ai-agent-version \ --assistant-id assistant-id \ --ai-agent-id custom-agent-id

将新的 AI 代理版本设置为默认版本:

aws qconnect update-assistant-ai-agent \ --assistant-id assistant-id \ --ai-agent-type AGENT_TYPE \ --configuration '{ "aiAgentId": "custom-agent-id:new-version-number" }'

场景 2:没有提示覆盖的自定义 AI 代理

在这种情况下,您创建了一个自定义 AI 代理来自定义诸如区域设置或知识库配置之类的设置,但您没有覆盖任何提示类型。所有提示均已从系统默认值中解析。

自动升级

当 Amazon Connect 发布新的系统 AI 代理和带有升级模型的提示版本时,您的自定义 AI 代理会自动获取最新的系统提示版本。无需采取行动。

这是因为未设置的提示类型是在运行时从当前的系统默认值中解析出来的,这些默认值始终指向最新的系统提示符版本。

在系统升级之前强制使用特定型号

如果你想在 Amazon Connect 将其作为系统默认版本推出之前使用更新的型号,请执行以下操作:

  1. 通过复制要升级的系统提示来创建自定义 AI 提示。

  2. 将模型更改为所需的较新型号。

  3. 发布自定义提示音。

  4. 编辑您的自定义 AI 代理并将自定义提示添加到所需类型。

  5. 发布 AI 代理。

这会将该提示类型转换为场景 1 的配置。

场景 3:更新默认 AI 代理配置

AI 代理概述页面上的默认 AI 代理配置部分控制每个用例(答案推荐、手动搜索、自助服务等)处于活动状态的 AI 代理版本。

创建 Amazon Connect 实例时,系统会自动为每个用例配置特定的系统 AI 代理版本。这些版本已固定,当 Amazon Connect 发布新的系统 AI 代理版本或您发布新的自定义 AI 代理版本时,它们不会自动更新。您必须手动选择新版本。

使用管理员网站升级

  1. 导航到 AI 代理设计器AI 代理

  2. 默认 AI 代理配置部分,找到要更新的用例(例如,答案建议)。

  3. 从版本下拉列表中,选择新的 AI 代理版本。

  4. 选择保存

  5. 为避免每次都手动更新版本,请从版本下拉列表中选择 “最新”。这会自动使用最新发布的 AI 代理版本。

使用 AWS CLI 进行升级

aws qconnect update-assistant-ai-agent \ --assistant-id assistant-id \ --ai-agent-type AGENT_TYPE \ --configuration '{ "aiAgentId": "ai-agent-id:new-version-number" }'

替换为AGENT_TYPE用例类型(例如ANSWER_RECOMMENDATIONMANUAL_SEARCHSELF_SERVICE)。

Summary

# 场景 Auto-upgrades? 所需操作
1 带有自定义 AI 提示的自定义 AI 代理 自定义提示:否。 未设置的提示:是 编辑提示、更改模型、发布提示、更新代理、发布代理。取消设置会提示自动升级。
2 不带提示的自定义 AI 代理会被覆盖 无需采取任何行动
3 更新默认 AI 代理配置 未设置的用例:是。明确设置:否 明确固定的版本:选择新版本并保存

重要注意事项

  • 测试:在广泛推出变更之前,先在非生产环境中测试模型升级。使用 update-session API 为特定会话设置 AI 代理版本。

  • 基础设施即代码:如果您通过 CloudFormation 或管理 AI 提示和 AI 代理 AWS CDK,请更新模板中的资源属性(例如,开ModelIdAWS::Wisdom::AIPrompt)并部署堆栈。本主题中描述的提示类型行为同样适用,即在运行时未设置AWS::Wisdom::AIAgent解析中的提示类型,而不是系统默认值。

  • 区域可用性:型号的可用性因 AWS 区域而异。在选择型号之前,请查看支持的型号表。有关更多信息,请参阅 支持的 system/custom 提示器型号

  • Session-level 覆盖:在会话中设置的 AI 代理版本优先于助手级别的默认值,后者优先于系统默认值。如果您在会话级别设置 AI 代理版本,则还必须更新这些引用。

  • 恢复为系统默认值:要使用管理网站将用例切换回系统 AI 代理,请导航到 AI 代理设计器,即 A I 代理。在默认 AI 代理配置部分,找到用例,从代理下拉列表中选择系统 AI 代理,选择所需的版本或最新,然后选择保存。使用 CLI,运行list-ai-agents --origin SYSTEM查找该用例类型的系统 AI 代理 ID,然后使用进行设置update-assistant-ai-agent