本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。
AI 提示和 AI 代理器的升級模型
當您在 Amazon Connect 中自訂 AI 提示或 AI 代理器時,與每個 AI 提示相關聯的模型會決定哪些大型語言模型 (LLM) 處理指示。隨著時間的推移,更新且功能更強大的模型將變得可用。本主題說明如何在幾個常見案例中升級模型。
-
您有一個自訂 AI 代理程式,其中包含一或多個使用已棄用模型的自訂 AI 提示
-
您有沒有提示覆寫的自訂 AI 代理器
-
您正在使用較舊版本的系統 AI 代理程式。
先決條件
升級模型之前,請確定您有下列項目:
-
啟用 AI 代理程式設計工具的 Amazon Connect 執行個體。
-
管理員帳戶,或其安全性設定檔中具有 AI 代理程式設計工具許可的帳戶。
何時升級
Amazon Connect 會在模型排定取代時通知您。在任何模型超過其棄用日期後,Amazon Connect 會自動將 LLM 推論重新導向至支援的模型,因此不會中斷服務。不過,在棄用日期之前手動升級可讓您選擇替代模型,並在您的環境中進行測試。使用下列步驟來判斷適用於您的案例。
步驟 1:檢查是否有自訂 AI 代理器。在管理員網站中,導覽至 AI 代理程式設計工具 AI 代理程式。查看類型欄。系統客服人員顯示 - 類型名稱後面的系統 (例如,「Answer Recommendation - System」)。沒有此尾碼的代理程式是您建立的自訂代理程式。
-
如果您有指派一或多個自訂 AI 提示的自訂 AI 代理程式 → 案例 1 (如果您僅覆寫某些提示類型,則取消設定提示會自動升級;您只需要升級自訂提示)
-
如果您有沒有提示覆寫的自訂 AI 代理程式 → 案例 2 (提示自動升級,不需要任何動作)
-
如果您沒有任何自訂 AI 代理器,請跳到步驟 2。
步驟 2:檢查預設 AI 代理程式組態。在相同的 AI 代理程式頁面上,捲動至預設 AI 代理程式組態區段。如果任何使用案例固定到特定版本 (未設定為最新),您可以更新它 → 案例 3。即使您沒有自訂客服人員,這也適用於所有客戶。
模型解析度的運作方式
設定個別 AI 代理程式時,您可以選擇讓 Connect 選擇要為每個提示使用的 LLM、選擇您希望每個提示使用的模型,或選擇兩個選項的組合。
-
每個 AI 提示都有一個模型屬性,指定要使用的 LLM。
-
每個 AI 代理器都會參考一或多個 AI 提示版本。版本是提示的不可變快照,包括其模型選擇。
-
當您建立自訂 AI 代理程式並僅覆寫與代理程式相關聯的部分提示時,剩餘的類型會在執行時間從系統預設值中填入。您明確設定的提示會固定到您選擇的版本。系統填入的提示會使用最新的系統預設值。此per-prompt-type解析適用於非代理程式 AI 代理程式類型,例如 Answer Recommendation、Manual Search 和非 Agentic Self Service。
-
可用的模型取決於 Amazon Connect 執行個體的 AWS 區域。如需每個區域的支援模型清單,請參閱 系統/自訂提示支援的模型。
案例 1:具有自訂 AI 提示的自訂 AI 代理器
在此案例中,您已建立自訂 AI 代理程式,並為其指派一或多個自訂 AI 提示。自訂提示會固定到您在發佈時選取的模型。
自訂提示不會自動接收模型升級。您必須手動更新模型、發佈新的提示版本,以及更新 AI 代理器。
如果您只覆寫某些提示類型
有些 AI 代理器類型支援多種提示類型。例如,回答建議 AI 代理器支援三種提示類型:意圖標記產生、查詢重新格式化和答案產生。如果您只將其中一些設定為自訂提示,並保持未設定其餘提示,則適用下列條件:
-
您明確設定的提示類型 (透過管理員網站或 CLI) 會固定到您選擇的特定提示版本。除非您更新它們,否則它們不會變更。請遵循以下每個自訂提示的升級步驟。
-
您未設定的提示類型不會存放在 AI 代理器組態中。在執行時間,Amazon Connect 會從目前的系統預設值解析它們。這些類型一律使用最新的系統提示版本,包括任何模型升級。取消設定提示類型不需要任何動作。
使用管理員網站升級
步驟 1:使用更新後的模型建立新的提示版本
-
登入 Amazon Connect 管理員網站。
-
在導覽功能表中,選擇 AI 代理程式設計工具、AI 提示。
-
從提示清單中,選取您要升級的自訂 AI 提示。
-
選擇 AI Prompt Builder 中的編輯 (右上角)。
-
右上角下拉式清單會顯示最新:草稿。這是您將修改的工作副本。
-
在模型區段中,使用下拉式清單選取新模型。
-
選擇發布。這會使用新模型建立新的提示版本。
-
向下捲動至相同頁面上的版本區段。您可以確認已建立新版本。
-
若要驗證新版本,請導覽回 AI 代理程式設計工具、AI 提示。從清單中選擇提示,然後使用版本下拉式清單 (右上角) 選取新版本。概觀區段會顯示更新的模型 ID。
步驟 2:更新 AI 代理器以使用新的提示版本
-
導覽至 AI 代理程式設計工具 AI 代理程式。
-
選擇參考此提示的自訂 AI 代理器。
-
在 AI Agent Builder 中選擇編輯,以開啟 Agent Builder 頁面。
-
選擇新增提示。隨即出現快顯視窗,其中包含可用的提示。
-
選取新的提示版本,然後選擇新增。快顯會關閉,並將提示新增至客服人員。
-
選擇發布。這會使用更新模型的自訂提示建立新的 AI 代理程式版本。
-
向下捲動至版本區段,確認新的 AI 代理程式版本出現。
-
或者,從右上角下拉式清單中選取最新版本。提示區段會顯示新的提示版本。
步驟 3:將新的 AI 代理程式版本設定為預設值
-
導覽至 AI 代理程式設計工具 AI 代理程式。
-
在預設 AI 代理程式組態區段中,尋找使用自訂 AI 代理程式的使用案例,並將其更新為新版本。
-
選擇要儲存的核取記號圖示 (✓)。
-
若要避免每次手動更新版本,請從版本下拉式清單中選取最新。這會自動使用最新發佈的 AI 代理程式版本。
使用 AWS CLI 升級
使用新模型更新 AI 提示:
aws qconnect update-ai-prompt \ --assistant-idassistant-id\ --ai-prompt-idcustom-prompt-id\ --model-idnew-model-id
發佈新版本的提示:
aws qconnect create-ai-prompt-version \ --assistant-idassistant-id\ --ai-prompt-idcustom-prompt-id
更新 AI 代理器以參考新的提示版本:
aws qconnect update-ai-agent \ --assistant-idassistant-id\ --ai-agent-idcustom-agent-id\ --configuration '{ "agentTypeConfiguration": { "promptTypeAIPromptId": "custom-prompt-id:new-version-number" } }'
發佈新版本的 AI 代理器:
aws qconnect create-ai-agent-version \ --assistant-idassistant-id\ --ai-agent-idcustom-agent-id
將新的 AI 代理程式版本設定為預設值:
aws qconnect update-assistant-ai-agent \ --assistant-idassistant-id\ --ai-agent-typeAGENT_TYPE\ --configuration '{ "aiAgentId": "custom-agent-id:new-version-number" }'
案例 2:沒有提示覆寫的自訂 AI 代理器
在此案例中,您建立了自訂 AI 代理器來自訂設定,例如地區設定或知識庫組態,但並未覆寫任何提示類型。所有提示都會從系統預設值中解析。
自動升級
當 Amazon Connect 發佈具有升級模型的新系統 AI 代理程式和提示版本時,您的自訂 AI 代理程式會自動挑選最新的系統提示版本。無需採取任何動作。
這是因為未設定的提示類型會在執行時間從目前的系統預設值解析,這一律指向最新的系統提示版本。
在系統升級之前強制特定模型
如果您想要在 Amazon Connect 將其推出為系統預設值之前使用較新的模型:
-
透過複製您要升級的系統提示來建立自訂 AI 提示。
-
將模型變更為所需的較新模型。
-
發佈自訂提示。
-
編輯您的自訂 AI 代理程式,並將自訂提示新增至所需的類型。
-
發佈 AI 代理程式。
這會將該提示類型轉換為案例 1 組態。
案例 3:更新預設 AI 代理程式組態
AI 代理器概觀頁面上的預設 AI 代理程式組態區段會控制每個使用案例 (答案建議、手動搜尋、自助服務等) 作用中的 AI 代理程式版本。
建立 Amazon Connect 執行個體時,會使用特定的系統 AI 代理程式版本自動設定每個使用案例。這些版本是固定的,當 Amazon Connect 發佈新的系統 AI 代理程式版本或發佈新的自訂 AI 代理程式版本時,它們不會自動更新。您必須手動選取新版本。
使用管理員網站升級
-
導覽至 AI 代理程式設計工具、AI 代理程式。
-
在預設 AI 代理程式組態區段中,尋找您要更新的使用案例 (例如,回答建議)。
-
從版本下拉式清單中,選取新的 AI 代理程式版本。
-
選擇儲存。
-
若要避免每次手動更新版本,請從版本下拉式清單中選取最新。這會自動使用最新發佈的 AI 代理程式版本。
使用 AWS CLI 升級
aws qconnect update-assistant-ai-agent \ --assistant-idassistant-id\ --ai-agent-typeAGENT_TYPE\ --configuration '{ "aiAgentId": "ai-agent-id:new-version-number" }'
將 AGENT_TYPE 取代為使用案例類型 (例如,、ANSWER_RECOMMENDATIONMANUAL_SEARCH、SELF_SERVICE)。
摘要
| # | 案例 | 自動升級? | 需執行的動作 |
|---|---|---|---|
| 1 | 具有自訂 AI 提示的自訂 AI 代理程式 | 自訂提示:否。取消設定提示:是 | 編輯提示、變更模型、發佈提示、更新代理程式、發佈代理程式。取消設定提示自動升級。 |
| 2 | 沒有提示覆寫的自訂 AI 代理器 | 是 | 不需要任何動作 |
| 3 | 更新預設 AI 代理程式組態 | 取消設定使用案例:是。明確設定:否 | 明確鎖定的版本:選取新版本並儲存 |
重要考量
-
測試:在非生產環境中測試模型升級,然後再廣泛推出變更。使用
update-sessionAPI 為特定工作階段設定 AI 代理程式版本。 -
基礎設施即程式碼:如果您透過 CloudFormation 或 管理 AI 提示和 AI 代理器 AWS CDK,請更新範本中的資源屬性 (例如,
ModelId在 上AWS::Wisdom::AIPrompt) 並部署堆疊。本主題中描述的提示類型行為套用方式相同 — 在執行時間從系統預設值中取消設定AWS::Wisdom::AIAgent解析中的提示類型。 -
區域可用性:模型可用性因 AWS 區域而異。選取模型之前,請檢查支援的模型資料表。如需詳細資訊,請參閱系統/自訂提示支援的模型。
-
工作階段層級覆寫:在工作階段上設定的 AI 代理程式版本優先於助理層級預設值,其優先於系統預設值。如果您在工作階段層級設定 AI 代理器版本,您也必須更新這些參考。
-
還原至系統預設值:若要使用管理員網站將使用案例切換回系統 AI 代理程式,請導覽至 AI 代理程式設計工具 AI 代理程式。在預設 AI 代理程式組態區段中,尋找使用案例,從代理程式下拉式清單中選取系統 AI 代理程式,選擇所需的版本或最新,然後選擇儲存。使用 CLI,執行
list-ai-agents --origin SYSTEM來尋找使用案例類型的系統 AI 代理器 ID,然後使用 進行設定update-assistant-ai-agent。