Amazon Bedrock 防護機制的使用案例 - Amazon Bedrock

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

Amazon Bedrock 防護機制的使用案例

建立防護機制之後,您可以使用下列功能來套用:

  • 模型推論 – 在模型上執行推論時,將防護機制套用至提交的提示和產生的回應。

  • 代理程式 – 將防護機制與代理程式建立關聯,以將其套用至傳送給代理程式的提示,以及從中傳回的回應。

  • 知識庫 – 在查詢知識庫並從中產生回應時,套用防護機制。

  • 流程 – 將防護機制新增至流程中的提示節點或知識庫節點,以將其套用至這些節點的輸入和輸出。

下表說明如何使用 AWS 管理主控台 或 Amazon Bedrock API 包含這些功能的防護機制。

使用案例 主控台 API
模型推論 使用遊樂場時,請選取防護機制。 InvokeModelInvokeModelWithResponseStream 請求的標頭中指定,或在 ConverseConverseStream 請求內文的 guardrailConfig 欄位中包含。
與代理程式建立關聯 當您建立或更新代理程式時,請在代理程式建置器防護機制詳細資訊區段中指定。 CreateAgentUpdateAgent 請求的內文中包含 guardrailConfiguration 欄位。
查詢知識庫時使用 請遵循查詢組態 防護機制 區段中的步驟。設定組態時新增防護機制。 RetrieveAndGenerate 請求內文中包含 guardrailConfiguration 欄位。
在流程的提示節點中包含 當您建立更新流程時,請選取提示節點,並在設定區段中指定防護機制。 當您在 CreateFlowUpdateFlow 請求的 nodes 欄位中定義提示節點時,請在 PromptFlowNodeConfiguration 中包含 guardrailConfiguration 欄位。
在流程的知識庫節點中包含 當您建立更新流程時,請選取知識庫節點,並在設定區段中指定防護機制。 當您在 CreateFlowUpdateFlow 請求的 nodes 欄位中定義知識庫節點時,請在 KnowledgeBaseFlowNodeConfiguration 中包含 guardrailConfiguration 欄位。

本節涵蓋使用具有模型推論和 Amazon Bedrock API 的防護機制。您可以使用基本推論操作 (InvokeModelInvokeModelWithResponseStream) 以及 Converse API (ConverseConverseStream)。您可以透過這兩組操作來使用具有同步和串流模型推論的防護機制。您也可以選擇性地評估使用者輸入,並設定串流回應行為。