View a markdown version of this page

AI 提示和 AI 代理器的升級模型 - Amazon Connect 客戶

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

AI 提示和 AI 代理器的升級模型

當您在 Amazon Connect 中自訂 AI 提示或 AI 代理器時,與每個 AI 提示相關聯的模型會決定哪些大型語言模型 (LLM) 處理指示。隨著時間的推移,更新且功能更強大的模型將變得可用。本主題說明如何在幾個常見案例中升級模型。

  • 您有一個自訂 AI 代理程式,其中包含一或多個使用已棄用模型的自訂 AI 提示

  • 您有沒有提示覆寫的自訂 AI 代理器

  • 您正在使用較舊版本的系統 AI 代理程式。

先決條件

升級模型之前,請確定您有下列項目:

何時升級

Amazon Connect 會在模型排定取代時通知您。在任何模型超過其棄用日期後,Amazon Connect 會自動將 LLM 推論重新導向至支援的模型,因此不會中斷服務。不過,在棄用日期之前手動升級可讓您選擇替代模型,並在您的環境中進行測試。使用下列步驟來判斷適用於您的案例。

步驟 1:檢查是否有自訂 AI 代理器。在管理員網站中,導覽至 AI 代理程式設計工具 AI 代理程式。查看類型欄。系統客服人員顯示 - 類型名稱後面的系統 (例如,「Answer Recommendation - System」)。沒有此尾碼的代理程式是您建立的自訂代理程式。

  • 如果您有指派一或多個自訂 AI 提示的自訂 AI 代理程式 → 案例 1 (如果您僅覆寫某些提示類型,則取消設定提示會自動升級;您只需要升級自訂提示)

  • 如果您有沒有提示覆寫的自訂 AI 代理程式 → 案例 2 (提示自動升級,不需要任何動作)

  • 如果您沒有任何自訂 AI 代理器,請跳到步驟 2。

步驟 2:檢查預設 AI 代理程式組態。在相同的 AI 代理程式頁面上,捲動至預設 AI 代理程式組態區段。如果任何使用案例固定到特定版本 (未設定為最新),您可以更新它 → 案例 3。即使您沒有自訂客服人員,這也適用於所有客戶。

模型解析度的運作方式

設定個別 AI 代理程式時,您可以選擇讓 Connect 選擇要為每個提示使用的 LLM、選擇您希望每個提示使用的模型,或選擇兩個選項的組合。

  • 每個 AI 提示都有一個模型屬性,指定要使用的 LLM。

  • 每個 AI 代理器都會參考一或多個 AI 提示版本。版本是提示的不可變快照,包括其模型選擇。

  • 當您建立自訂 AI 代理程式並僅覆寫與代理程式相關聯的部分提示時,剩餘的類型會在執行時間從系統預設值中填入。您明確設定的提示會固定到您選擇的版本。系統填入的提示會使用最新的系統預設值。此per-prompt-type解析適用於非代理程式 AI 代理程式類型,例如 Answer Recommendation、Manual Search 和非 Agentic Self Service。

  • 可用的模型取決於 Amazon Connect 執行個體的 AWS 區域。如需每個區域的支援模型清單,請參閱 系統/自訂提示支援的模型

案例 1:具有自訂 AI 提示的自訂 AI 代理器

在此案例中,您已建立自訂 AI 代理程式,並為其指派一或多個自訂 AI 提示。自訂提示會固定到您在發佈時選取的模型。

自訂提示不會自動接收模型升級。您必須手動更新模型、發佈新的提示版本,以及更新 AI 代理器。

如果您只覆寫某些提示類型

有些 AI 代理器類型支援多種提示類型。例如,回答建議 AI 代理器支援三種提示類型:意圖標記產生、查詢重新格式化和答案產生。如果您只將其中一些設定為自訂提示,並保持未設定其餘提示,則適用下列條件:

  • 您明確設定的提示類型 (透過管理員網站或 CLI) 會固定到您選擇的特定提示版本。除非您更新它們,否則它們不會變更。請遵循以下每個自訂提示的升級步驟。

  • 您未設定的提示類型不會存放在 AI 代理器組態中。在執行時間,Amazon Connect 會從目前的系統預設值解析它們。這些類型一律使用最新的系統提示版本,包括任何模型升級。取消設定提示類型不需要任何動作。

使用管理員網站升級

步驟 1:使用更新後的模型建立新的提示版本

  1. 登入 Amazon Connect 管理員網站。

  2. 在導覽功能表中,選擇 AI 代理程式設計工具AI 提示

  3. 提示清單中,選取您要升級的自訂 AI 提示。

  4. 選擇 AI Prompt Builder 中的編輯 (右上角)。

  5. 右上角下拉式清單會顯示最新:草稿。這是您將修改的工作副本。

  6. 模型區段中,使用下拉式清單選取新模型。

  7. 選擇發布。這會使用新模型建立新的提示版本。

  8. 向下捲動至相同頁面上的版本區段。您可以確認已建立新版本。

  9. 若要驗證新版本,請導覽回 AI 代理程式設計工具AI 提示。從清單中選擇提示,然後使用版本下拉式清單 (右上角) 選取新版本。概觀區段會顯示更新的模型 ID。

步驟 2:更新 AI 代理器以使用新的提示版本

  1. 導覽至 AI 代理程式設計工具 AI 代理程式

  2. 選擇參考此提示的自訂 AI 代理器。

  3. AI Agent Builder 中選擇編輯,以開啟 Agent Builder 頁面。

  4. 選擇新增提示。隨即出現快顯視窗,其中包含可用的提示。

  5. 選取新的提示版本,然後選擇新增。快顯會關閉,並將提示新增至客服人員。

  6. 選擇發布。這會使用更新模型的自訂提示建立新的 AI 代理程式版本。

  7. 向下捲動至版本區段,確認新的 AI 代理程式版本出現。

  8. 或者,從右上角下拉式清單中選取最新版本。提示區段會顯示新的提示版本。

步驟 3:將新的 AI 代理程式版本設定為預設值

  1. 導覽至 AI 代理程式設計工具 AI 代理程式

  2. 預設 AI 代理程式組態區段中,尋找使用自訂 AI 代理程式的使用案例,並將其更新為新版本。

  3. 選擇要儲存的核取記號圖示 (✓)。

  4. 若要避免每次手動更新版本,請從版本下拉式清單中選取最新。這會自動使用最新發佈的 AI 代理程式版本。

使用 AWS CLI 升級

使用新模型更新 AI 提示:

aws qconnect update-ai-prompt \ --assistant-id assistant-id \ --ai-prompt-id custom-prompt-id \ --model-id new-model-id

發佈新版本的提示:

aws qconnect create-ai-prompt-version \ --assistant-id assistant-id \ --ai-prompt-id custom-prompt-id

更新 AI 代理器以參考新的提示版本:

aws qconnect update-ai-agent \ --assistant-id assistant-id \ --ai-agent-id custom-agent-id \ --configuration '{ "agentTypeConfiguration": { "promptTypeAIPromptId": "custom-prompt-id:new-version-number" } }'

發佈新版本的 AI 代理器:

aws qconnect create-ai-agent-version \ --assistant-id assistant-id \ --ai-agent-id custom-agent-id

將新的 AI 代理程式版本設定為預設值:

aws qconnect update-assistant-ai-agent \ --assistant-id assistant-id \ --ai-agent-type AGENT_TYPE \ --configuration '{ "aiAgentId": "custom-agent-id:new-version-number" }'

案例 2:沒有提示覆寫的自訂 AI 代理器

在此案例中,您建立了自訂 AI 代理器來自訂設定,例如地區設定或知識庫組態,但並未覆寫任何提示類型。所有提示都會從系統預設值中解析。

自動升級

當 Amazon Connect 發佈具有升級模型的新系統 AI 代理程式和提示版本時,您的自訂 AI 代理程式會自動挑選最新的系統提示版本。無需採取任何動作。

這是因為未設定的提示類型會在執行時間從目前的系統預設值解析,這一律指向最新的系統提示版本。

在系統升級之前強制特定模型

如果您想要在 Amazon Connect 將其推出為系統預設值之前使用較新的模型:

  1. 透過複製您要升級的系統提示來建立自訂 AI 提示。

  2. 將模型變更為所需的較新模型。

  3. 發佈自訂提示。

  4. 編輯您的自訂 AI 代理程式,並將自訂提示新增至所需的類型。

  5. 發佈 AI 代理程式。

這會將該提示類型轉換為案例 1 組態。

案例 3:更新預設 AI 代理程式組態

AI 代理器概觀頁面上的預設 AI 代理程式組態區段會控制每個使用案例 (答案建議、手動搜尋、自助服務等) 作用中的 AI 代理程式版本。

建立 Amazon Connect 執行個體時,會使用特定的系統 AI 代理程式版本自動設定每個使用案例。這些版本是固定的,當 Amazon Connect 發佈新的系統 AI 代理程式版本或發佈新的自訂 AI 代理程式版本時,它們不會自動更新。您必須手動選取新版本。

使用管理員網站升級

  1. 導覽至 AI 代理程式設計工具AI 代理程式

  2. 預設 AI 代理程式組態區段中,尋找您要更新的使用案例 (例如,回答建議)。

  3. 從版本下拉式清單中,選取新的 AI 代理程式版本。

  4. 選擇儲存

  5. 若要避免每次手動更新版本,請從版本下拉式清單中選取最新。這會自動使用最新發佈的 AI 代理程式版本。

使用 AWS CLI 升級

aws qconnect update-assistant-ai-agent \ --assistant-id assistant-id \ --ai-agent-type AGENT_TYPE \ --configuration '{ "aiAgentId": "ai-agent-id:new-version-number" }'

AGENT_TYPE 取代為使用案例類型 (例如,、ANSWER_RECOMMENDATIONMANUAL_SEARCHSELF_SERVICE)。

摘要

# 案例 自動升級? 需執行的動作
1 具有自訂 AI 提示的自訂 AI 代理程式 自訂提示:否。取消設定提示:是 編輯提示、變更模型、發佈提示、更新代理程式、發佈代理程式。取消設定提示自動升級。
2 沒有提示覆寫的自訂 AI 代理器 不需要任何動作
3 更新預設 AI 代理程式組態 取消設定使用案例:是。明確設定:否 明確鎖定的版本:選取新版本並儲存

重要考量

  • 測試:在非生產環境中測試模型升級,然後再廣泛推出變更。使用 update-session API 為特定工作階段設定 AI 代理程式版本。

  • 基礎設施即程式碼:如果您透過 CloudFormation 或 管理 AI 提示和 AI 代理器 AWS CDK,請更新範本中的資源屬性 (例如,ModelId在 上AWS::Wisdom::AIPrompt) 並部署堆疊。本主題中描述的提示類型行為套用方式相同 — 在執行時間從系統預設值中取消設定AWS::Wisdom::AIAgent解析中的提示類型。

  • 區域可用性:模型可用性因 AWS 區域而異。選取模型之前,請檢查支援的模型資料表。如需詳細資訊,請參閱系統/自訂提示支援的模型

  • 工作階段層級覆寫:在工作階段上設定的 AI 代理程式版本優先於助理層級預設值,其優先於系統預設值。如果您在工作階段層級設定 AI 代理器版本,您也必須更新這些參考。

  • 還原至系統預設值:若要使用管理員網站將使用案例切換回系統 AI 代理程式,請導覽至 AI 代理程式設計工具 AI 代理程式。在預設 AI 代理程式組態區段中,尋找使用案例,從代理程式下拉式清單中選取系統 AI 代理程式,選擇所需的版本或最新,然後選擇儲存。使用 CLI,執行 list-ai-agents --origin SYSTEM 來尋找使用案例類型的系統 AI 代理器 ID,然後使用 進行設定update-assistant-ai-agent