使用 Amazon Bedrock 中的進階提示範本提高代理程式的準確性 - Amazon Bedrock
術語

本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

使用 Amazon Bedrock 中的進階提示範本提高代理程式的準確性

建立後，代理程式會設定下列四個預設基本提示範本，其中概述代理程式如何在代理程式序列的每個步驟建構提示以傳送至基礎模型。如需每個步驟包含內容的詳細資訊，請參閱 執行時期程序。

  • 預先處理

  • 協同運作

  • 產生知識庫回應

  • 後續處理 (預設為停用)

  • 記憶體摘要

  • 路由分類器

提示範本會定義代理程式執行下列動作的方式：

  • 處理基礎模型 (FM) 中的使用者輸入文字和輸出提示

  • 在 FM、動作群組和知識庫之間協同運作

  • 格式化並將回應傳回給使用者

透過使用進階提示，您可以透過修改這些提示範本來提供詳細組態，以增強代理程式的準確性。您也可以為少量樣本提示提供手動策劃的範例，透過為特定任務提供標籤範例來改善模型效能。

選取主題以進一步了解進階提示。

主題

進階提示術語

以下術語有助於了解進階提示的運作方式。

  • 工作階段 – 向同一代理程式發出的一組具有相同工作階段 ID 的 InvokeAgent 請求。當您提出 InvokeAgent 請求時，您可以重複使用先前呼叫之回應所傳回的 sessionId，以便繼續與代理程式進行相同的工作階段。只要在代理程式組態中的 idleSessionTTLInSeconds 時間尚未過期，就會與代理程式維持相同的工作階段。

  • 轉彎 — 單一 InvokeAgent 呼叫。工作階段包含一或多個回合。

  • 迭代 – 下列動作的序列：

    1. (必要) 呼叫基礎模型

    2. (選用) 動作群組調用

    3. (選用) 知識庫調用

    4. (選用) 對使用者要求提供更多資訊的回應

    動作可能會略過，取決於代理程式的組態或目前代理程式的需求。轉彎由一或多個迭代組成。

  • 提示 — 提示由代理程式、內容和文字輸入的指示組成。文字輸入可以來自使用者，或來自代理程式序列中其他步驟的輸出。提示會提供給基礎模型，以判斷代理程式回應使用者輸入的下一個步驟

  • 基本提示範本 - 組成提示的結構元素。範本由預留位置組成，會在執行時期填入使用者輸入、代理程式組態和內容，以便在代理程式到達該步驟時為基礎模型建立要處理的提示。如需這些預留位置的詳細資訊，請參閱 在 Amazon Bedrock 代理程式提示範本中使用預留位置變數。透過進階提示，您可以編輯這些範本。

  • 承載參考 – 用於多代理協同作業的提示壓縮功能，預設對主要代理程式啟用。它有助於減少主要代理程式用來與子代理程式或最終使用者通訊的輸出字符，從而有助於降低成本。如果提示中有重複的承載，也會減少對話歷史記錄的大小。