View a markdown version of this page

在您的應用程式中使用 InvokeGuardrailChecks API - Amazon Bedrock
支援的區域

本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

在您的應用程式中使用 InvokeGuardrailChecks API

使用 InvokeGuardrailChecks API，您可以在應用程式中的任何時間點評估使用者提示和模型回應，並採用特定保護措施，例如內容篩選條件、提示攻擊偵測和敏感資訊篩選條件，而無需建立個別的護欄資源。您可以在各種應用程式中使用此 API，包括涉及多轉對話的代理式 AI 工作流程，其中每個轉彎都需要內容評估。API 僅供偵測：它會偵測不需要的內容，並傳回每個安全檢查的數值分數，讓您可以定義閾值，並在應用程式邏輯中採取必要的動作。透過這些分數，您可以根據您的自訂閾值和應用程式需求，建置自適應回應邏輯，例如區塊、繞過、重試或路由以進行人工檢閱。

InvokeGuardrailChecks API 的功能：

  • 彈性 – 您可以使用 InvokeGuardrailChecks API 叫用任何安全檢查，並將其整合到應用程式中的任何位置。您可以在傳送提示至 LLM 之前、收到 LLM 的回應之後、執行模型想要呼叫的工具之前、工具傳回結果之後，或您想要評估內容的任何其他時間點，使用任何安全檢查來呼叫 API。例如，您可以包含輸入提示的提示攻擊偵測，以及內容篩選條件的內容管制，但檢查是否有敏感資訊洩漏，例如含模型回應的 PII 內容。

  • 無需預先建立資源 – 您不需要建立護欄資源，即可使用 API 叫用必要的保護措施。您不需要包含CreateGuardrail步驟，也不需要追蹤個別護欄 IDs 或版本。這對於代理式 AI 工作流程特別有用，因為迴圈中的不同步驟需要不同的安全狀態。您可以在不同步驟中套用個別防護，而無需在每個步驟中建立防護機制資源，這樣可以避免營運開銷。

  • 僅限偵測 – InvokeGuardrailChecks API 會傳回每個安全檢查的調查結果，其數值分數介於 0 到 1 之間。API 不會封鎖、傳遞或修訂內容。您可以根據您的應用程式需求決定必要的動作，例如封鎖內容、修訂 PII 比對，或發出警告。

  • 支援的保護措施 – InvokeGuardrailChecks API 支援 Amazon Bedrock Guardrails 提供的下列保護措施：

主題

支援的區域

InvokeGuardrailChecks API 可在下列 AWS 區域使用：

  • 美國東部 (維吉尼亞北部)

  • 美國東部 (俄亥俄)

  • 美國西部 (奧勒岡)

  • 歐洲 (倫敦)

  • 歐洲 (斯德哥爾摩)

  • 亞太地區 (東京)

  • 亞太地區 (悉尼)