資料、操作和測試 - AWS 方案指引

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

資料、操作和測試

代理程式和資料擁有權

客服人員實作的檢閱反白顯示了客服人員倚賴指定租戶資料的案例。在此執行個體中,請考慮資料生命週期,更重要的是,考慮其存放位置。這對資料性質影響代理程式存取方式的產業和使用案例尤其重要。

AaaS 供應商必須評估如何解決多租戶環境中的資料問題,這可能會影響客服人員的加入、隔離和操作。適用的細微差別和策略會根據您使用的工具、技術和資料而有所不同。您可以透過許多方式處理此問題,這是您在建立任何 AaaS 產品時需要注意的事項。

多租戶客服人員操作

當您建構代理程式環境時,請考慮如何操作和管理代理程式。身為供應商,您需要指標、資料、洞見和日誌,可讓您監控客服人員的運作狀態、規模和活動。這在多租用戶代理程式環境中更為明顯,您會希望了解個別租用戶如何使用代理程式資源。

當您需要客服人員互動的洞察時,這在多客服人員設定中更為重要。能夠分析和追蹤客服人員之間的活動,對於疑難排解影響系統規模、準確性和效能的問題至關重要。

營運團隊也可以描述 LLM 互動,以更好地了解客服人員在 LLMs 上放置的負載。此資料對於精簡代理程式實作至關重要。它也可以讓營運團隊了解客服人員和租用如何影響系統的整體成本設定檔。

訓練和測試多租戶代理程式

與建置代理程式相關聯的一個挑戰是他們預期會學習和發展。這也表示,在將代理程式移至生產環境之前,我們必須測試代理程式、精簡代理程式,並提高其準確性。您可以在許多領域檢查和評估客服人員是否正確評估和分類意圖,或選擇和叫用適當的工具和動作。變數清單很廣泛,但這最終是為了確保您的代理程式找到可實現目標的結果。

檢查與測試代理程式相關的所有移動組件和原則超出本文件的範圍,但請注意,測試策略會增加多租戶 AaaS 環境的複雜性。例如,如果代理程式具有資料、記憶體和其他關聯式套用至每個租用戶的建構,則每個租用戶資源都可以塑造代理程式的結果。

如果您使用 代理程式來模擬案例,您可能需要針對租戶特定的使用案例擴展模擬。相應地,您必須精簡驗證程序,以允許每個租用戶驗證條件不同的執行個體。