使用記憶體保留跨多個工作階段的對話內容 - Amazon Bedrock

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

使用記憶體保留跨多個工作階段的對話內容

記憶體可讓您的代理程式保留跨多個工作階段的對話內容,並重新呼叫過去的動作和行為。根據預設,您的代理程式會保留單一工作階段的對話內容。若要設定代理程式的記憶體,請啟用代理程式的記憶體設定,並指定保留記憶體的儲存持續時間。

對話內容會以工作階段形式存放在記憶體中,每個工作階段都會指定您在調用代理程式時提供的工作階段識別符 (ID)。您可以跨請求指定相同的工作階段 ID,以繼續相同的對話。

為代理程式啟用記憶體後,當您使用與目前工作階段相同的 sessionId 調用代理程式,並將 endSessions 設定為 'true',或當為代理程式設定的 idleSessionTimeout 逾時時,目前的工作階段會與特定記憶體內容建立關聯。此記憶體內容會提供唯一的記憶體識別符。您的代理程式會使用記憶體內容來存取和利用儲存的對話歷史記錄和對話摘要來產生回應。

如果您有多個使用者,請務必為相同的使用者提供相同的記憶體識別符 (memoryId)。代理程式會根據 memoryId 存放每個使用者的記憶體資訊,下次使用相同的 memoryId 調用代理程式時,儲存在記憶體中的每個工作階段的摘要會載入目前的工作階段。

您可以隨時存取記憶體,以檢視儲存在記憶體中的工作階段摘要版本。您也可以隨時刪除儲存在記憶體中的所有工作階段來清除記憶體。

記憶體摘要

您的代理程式使用記憶體摘要使用 Amazon Bedrock 中的進階提示範本提高代理程式的準確性來呼叫基礎模型,其中包含摘要所有工作階段的指導方針。您可以選擇性地修改預設提示範本,或提供自己的自訂剖析器來剖析模型輸出。

由於摘要程序會在工作階段結束後以非同步流程進行,因此摘要中任何因覆寫範本或剖析器而失敗的日誌都會發佈到您的 AWS 帳戶。如需啟用日誌的詳細資訊,請參閱啟用記憶體摘要日誌交付

記憶體持續時間

如果啟用記憶體,您的代理程式會在記憶體中保留工作階段最多 365 天。您可以選擇性地設定保留期,方法是指定 1 到 365 天的持續時間。超過此持續時間的所有工作階段摘要都會遭到刪除。