Amazon Bedrock 防護機制的運作方式 - Amazon Bedrock
如何使用 Amazon Bedrock 防護機制計算費用

本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

Amazon Bedrock 防護機制的運作方式

Amazon Bedrock 防護機制透過評估使用者輸入和模型回應，協助確保生成式 AI 應用程式的安全。

您可以根據下列考量，為您的應用程式設定防護機制：

  • 一個帳戶可以有多個防護機制，每個防護機制都有不同的組態，並自訂為特定的使用案例。

  • 防護機制是針對提示和回應設定的多個政策的組合，包括內容篩選條件、拒絕主題、敏感資訊篩選條件、單字篩選條件和影像內容篩選條件。

  • 您可以使用單一政策或多個政策的組合來設定防護機制。

  • 防護機制可在模型推論期間參考防護機制，以搭配任何文字或影像基礎模型 (FM) 使用。

  • 您可以搭配 Amazon Bedrock 代理程式和 Amazon Bedrock 知識庫使用防護機制。

在 InvokeModel、InvokeModelWithResponseStream、Converse 或 ConverseStream 操作中使用防護機制時，它會在推論呼叫期間運作如下。(運作方式取決於您如何設定政策來處理輸入和輸出。)

  • 系統會根據防護機制中指定的已設定政策來評估輸入。此外，為了改善延遲，會針對每個設定的政策平行評估輸入。

  • 如果輸入評估導致防護機制介入，則會傳回設定的封鎖訊息回應，並捨棄基礎模型推論。

  • 如果輸入評估成功，則模型回應隨後會根據防護機制中設定的政策進行評估。

  • 如果回應導致防護機制介入或違規，則會根據您的政策組態，以預先設定的封鎖訊息或敏感資訊遮罩覆寫該回應。

  • 如果回應的評估成功，則回應會傳回給應用程式，而不會進行任何修改。

如需 Amazon Bedrock 防護機制定價的相關資訊，請參閱 Amazon Bedrock 定價。

如何計算 Amazon Bedrock 防護機制的費用

Amazon Bedrock 防護機制的費用只會針對在防護機制中設定的政策產生。Amazon Bedrock 定價提供每種政策類型的價格。

  • 如果防護機制封鎖輸入提示，則會向您收取防護機制評估的費用。基礎模型推論呼叫不收取費用。

  • 如果防護機制封鎖模型回應，則會向您收取防護機制評估輸入提示和模型回應的費用。在這種情況下，除了在防護機制評估之前產生的模型回應之外，還會向您收取基礎模型推論呼叫的費用。

  • 如果防護機制未封鎖輸入提示和模型回應，則除了基礎模型推論之外，還會向您收取防護機制評估提示和模型回應的費用。