View a markdown version of this page

AI Agent 效能儀表板 - Amazon Connect 客戶

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

AI Agent 效能儀表板

您可以使用 AI Agent 效能儀表板來檢視 AI Agent 效能,並取得跨 AI Agent 和一段時間的洞見。

儀表板提供單一位置來檢視彙總的 AI Agent 效能。使用儀表板檢視您的 AI 代理器指標,例如調用計數、延遲和成功率。

啟用對儀表板的存取

確保將適當的安全性設定檔許可指派給使用者:

存取指標 - 存取許可或儀表板 - 存取許可。如需行為差異的詳細資訊,請參閱 指派在 Amazon Connect 中檢視儀表板和報告的許可

至少需要下列其中一個安全性設定檔許可,才能存取 AI Agent Performance 儀表板:

  • AI 代理程式設計工具 - AI 代理程式檢視許可

  • AI 代理程式設計工具 - AI 提示檢視許可

  • AI 代理程式設計工具 - AI 護欄檢視許可

  • 客服人員應用程式 - Connect 助理檢視許可

儀表板可在以下位置取得:分析和最佳化 > 分析儀表板 > AI 代理器效能

指定「時間範圍」和「比較對象」基準

使用時間範圍篩選條件來指定您要在儀表板中檢視資料的日期和時間。

根據預設,儀表板會顯示上週的資料。您可以自訂時間範圍,以檢視最近 15 分鐘的 資料,或最多 3 個月的歷史記錄。

使用比較來篩選,以選取要比較目前資料的時段。這可讓您識別趨勢,並追蹤一段時間內的改善或問題。

自助式 AI 效能摘要

本節顯示 AI 代理程式起始的自助式互動的運作狀態。它會針對依「自助服務」使用案例篩選的所選時段顯示下列關鍵指標:

  • AI 相關的聯絡人

    AI 客服人員在不涉及人工客服人員的情況下解決客戶查詢時處理的聯絡案例總數。

  • 作用中 AI 代理器

    唯一 AI 代理器的總數,其中每個代理器都是透過名稱和版本的唯一組合來識別。

  • 回應完成率

    成功回應傳入請求的 AI 代理程式工作階段百分比。

  • 交接率

    AI 代理器處理的自助服務聯絡人百分比,標記為需要額外支援,包括但不限於人力代理器。

  • 目標成功率

    AI 代理器成功解決客戶問題的工作階段比例。值介於 0-1 之間,其中 1 表示所有工作階段成功解析。

  • 宗教分數

    對對話內容保持信任的 AI 客服人員回應比例,包括訊息和工具呼叫結果。值介於 0-1 之間,其中 1 表示完美的內容逼真度。

下圖顯示自助式 AI 效能摘要圖表範例。

自助式 AI 代理器效能摘要圖表。

客服人員協助 AI 效能摘要

此小工具會顯示您的客服人員協助互動的運作狀態,其中 AI 為人力客服人員提供支援。它會針對「客服人員協助」使用案例篩選的所選時段顯示下列關鍵指標。

  • AI 相關的聯絡人

    AI 客服人員協助人力客服人員解決客戶查詢的聯絡案例總數。

  • 作用中 AI 代理器

    唯一 AI 代理器的總數,其中每個代理器都是透過名稱和版本的唯一組合來識別。

  • 回應完成率

    成功回應傳入請求的 AI 代理程式工作階段百分比。

  • 主動意圖參與率

    人力客服人員點選的偵測到主動意圖百分比。

  • 宗教分數

    對對話內容保持信任的 AI 客服人員回應比例,包括訊息和工具呼叫結果。值介於 0-1 之間,其中 1 表示完美的內容逼真度。

下圖顯示客服人員協助 AI 效能摘要圖表的範例。

客服人員協助 AI 效能摘要圖表。

AI 代理器效能

此資料表提供 AI 代理器效能的深入檢視,從使用案例到個別代理程式版本及其關鍵效能指標。

資料表會顯示兩個層級的效能指標:

  • AI 使用案例層級

    使用案例中所有客服人員版本的彙總指標 (終端客戶自助服務、客服人員協助)。

  • AI 代理器版本層級

    每個代理程式版本的個別效能指標。

您可以展開或摺疊使用案例資料列,以深入了解特定的代理程式版本。若要查看每個版本如何有助於整體使用案例效能,請檢視每個客服人員版本列的個別指標。

顯示的指標:

  • AI 代理器調用計數

    AI 代理程式版本被調用的總次數。

  • AI 代理器調用成功率

    成功執行的 AI 代理器調用百分比。

  • 平均值。AI 代理程式對話輪流

    平均對話次數會讓 AI 代理器達到成果。

  • 有用的回應

    評定為對大拇指有幫助的 AI 建議計數。

  • 無幫助的回應

    被評定為無幫助的拇指向下 AI 建議計數。

  • 工具使用率準確性

    AI 代理器正確工具使用率的速率。值介於 0-1 之間,其中 1 表示完美使用率。

  • 工具選擇準確度

    AI 代理器選取正確工具的速率。值介於 0-1 之間,其中 1 表示最佳選擇。

  • 工具參數準確度

    AI 代理器提供正確參數的工具調用速率。值介於 0-1 之間,其中 1 表示完美的參數準確度。

下圖顯示 AI 代理器效能資料表範例。

AI 代理器效能資料表。

AI 代理器調用成功率

AI 代理器透過調用成功率圖表顯示每個 AI 代理器的調用成功率。您可以透過直接從此圖表篩選特定 AI 代理器、AI 代理器類型、AI 使用案例或其他維度,進一步設定此小工具。

下圖顯示調用成功率圖表的範例 AI 代理器

AI 代理器透過調用成功率圖表。

知識庫用量

此資料表提供 AI 代理器參考之知識庫文章的深入檢視。您可以依 AI 代理器類型和 AI 代理器資料列進行擴展,以深入了解特定的知識庫名稱,以查看 AI 代理器參考知識庫的次數。

顯示的指標:

  • 參考計數 – AI 代理器參考文章的次數。

下圖顯示知識庫用量資料表範例。

知識庫用量資料表。

AI 代理器效能趨勢

AI 代理器效能趨勢是一個時間序列圖表,顯示 AI 代理器調用成功率 (藍條)、誠實度分數 (紅線) 和工具使用率準確性 (綠線),依間隔 (15 分鐘、每日、每週、每月) 細分。您可以使用視窗小工具中的「間隔」按鈕,設定不同的時間範圍間隔。您可以選擇的間隔視頁面層級時間範圍篩選條件而定。

例如:

  • 如果您的儀表板頂端有「今天」時間範圍篩選條件,您只能以 15 分鐘的間隔看到過去 24 小時的資料。

  • 如果儀表板頂端有「日期」時間範圍篩選條件,則可以看到之後的 8 天間隔趨勢,或 15 分鐘間隔的 24 小時趨勢。

  • 如果您的儀表板頂端有「週」時間範圍篩選條件,您可以看到每日或每週間隔趨勢。

  • 如果您的儀表板頂端有「月」時間範圍篩選條件,您可以看到每日或每月間隔趨勢。

下圖顯示 AI 代理器效能趨勢圖範例。

AI 代理器效能趨勢圖。

AI 工具用量

此資料表會比較叫用的工具實作 (例如 MCP - 模型內容通訊協定、Return-to-Control)、平均延遲和叫用成功率,以及工具使用率準確性。

例如,您可以選取 AI 代理程式類型 (例如協調或回答建議),並檢視不同工具和其版本在該代理程式類型中的執行方式。您可以使用 AI 工具調用計數AI 工具調用成功率或平均來排序資料欄,以識別哪些工具版本需要最佳化。AI 工具調用延遲

資料表顯示三個層級的效能指標:

  • AI 代理器類型層級

    代理程式類型中所有工具和版本的彙總指標。

  • AI 工具類型層級

    特定工具類型所有版本的彙總指標。

  • AI 工具

    每個工具版本的個別效能指標。

您可以展開或摺疊 AI 代理器類型和工具類型資料列,以深入了解特定的工具版本。若要查看每個版本如何對整體工具類型效能做出貢獻,請檢視每個工具版本列的個別指標。

顯示的指標:

  • AI 工具調用計數

    AI 工具版本被叫用的總次數。

  • 平均值。AI 工具調用延遲

    工具版本的平均調用延遲,以毫秒為單位。

  • AI 工具調用成功率

    成功執行的 AI 工具調用百分比。

  • 工具使用率準確性

    AI 代理器正確工具使用率的速率。值介於 0-1 之間,其中 1 表示完美使用率。

  • 工具選擇準確度

    AI 代理器選取正確工具的速率。值介於 0-1 之間,其中 1 表示最佳選擇。

  • 工具參數準確度

    AI 代理器提供正確參數的工具調用速率。值介於 0-1 之間,其中 1 表示完美的參數準確度。

下圖顯示範例 AI 工具用量表。

AI 工具用量表。

AI 提示效能

此資料表提供 AI 提示效能的深入檢視。您可以展開 AI 代理器類型和提示類型資料列,以深入了解特定的提示版本。若要查看每個版本如何對整體提示類型效能做出貢獻,請檢視每個提示版本列的個別指標。

資料表顯示三個層級的效能指標:

  • AI 代理器類型層級

    AI 代理程式類型之所有提示和版本的彙總指標。

  • AI 提示類型層級

    特定 AI 提示類型所有版本的彙總指標。

  • AI 提示版本層級

    每個 AI 提示版本的個別效能指標。

顯示的指標:

  • AI 提示叫用計數

    AI 提示版本被叫用的總次數。

  • AI 提示調用成功率

    成功執行的 AI 提示叫用百分比。

  • 平均值。AI 提示叫用延遲

    AI 提示版本的平均調用延遲,以毫秒為單位。

除了使用頁面篩選條件之外,您還可以將特定 AI 代理器、AI 提示、時間範圍或其他維度的篩選條件新增至資料表。

下圖顯示 AI 提示效能表範例。

AI 提示效能資料表。

主動意圖趨勢

主動意圖趨勢圖顯示在指定期間內偵測到的主動意圖 (藍條)、主動意圖參與率 (紅線) 和主動意圖回應率 (綠線),依間隔 (15 分鐘、每日、每週、每月) 細分。您可以使用視窗小工具中的「間隔」按鈕,設定不同的時間範圍間隔。您可以選擇的間隔視頁面層級時間範圍篩選條件而定。

顯示的指標:

  • 偵測到主動意圖

    AI 工作階段期間針對客服人員協助使用案例偵測到的主動意圖 (客戶查詢) 數量。

  • 主動意圖參與率

    針對客服人員協助使用案例,偵測到由人力客服人員按一下或與其互動的主動意圖百分比。

  • 主動意圖回應率

    AI 代理器成功履行的參與主動意圖百分比,適用於代理程式協助使用案例。

下圖顯示主動意圖趨勢圖範例。

主動意圖趨勢圖。

呼叫延遲的 AI 提示

AI 提示透過調用延遲圖表顯示每個 AI 提示的平均調用延遲,以毫秒為單位。您可以篩選特定 AI 提示、AI 提示類型、AI 代理器、AI 代理器類型、AI 使用案例或直接從此圖表的其他維度,進一步設定此小工具。

下圖顯示調用延遲圖表的範例 AI 提示

AI 會依調用延遲圖表提示。

呼叫成功率的 AI 提示

AI 提示透過調用成功率圖表顯示每個 AI 提示的調用成功率。您可以篩選特定 AI 提示、AI 提示類型、AI 代理器、AI 代理器類型、AI 使用案例或直接從此圖表的其他維度,進一步設定此小工具。

下圖顯示調用成功率圖表的範例 AI 提示

AI 透過調用成功率圖表提示。