View a markdown version of this page

アプリケーションで InvokeGuardrailChecks API を使用する - Amazon Bedrock
サポート対象のリージョン

翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

アプリケーションで InvokeGuardrailChecks API を使用する

InvokeGuardrailChecks API を使用すると、個々のガードレールリソースを作成することなく、アプリケーションの任意の時点で、コンテンツフィルター、プロンプト攻撃検出、機密情報フィルターなどの特定の保護手段を使用して、ユーザープロンプトとモデルレスポンスを評価できます。この API は、ターンごとにコンテンツ評価が必要なマルチターン会話を含むエージェント AI ワークフローなど、さまざまなアプリケーションで使用できます。API は検出専用です。望ましくないコンテンツを検出し、安全チェックごとに数値スコアを返します。これにより、しきい値を定義し、アプリケーションロジック内で必要なアクションを実行できます。これらのスコアを使用すると、カスタムしきい値とアプリケーション要件に基づいて、人間によるレビューのためのブロック、バイパス、再試行、ルートなどのアダプティブレスポンスロジックを構築できます。

InvokeGuardrailChecks API の機能:

  • 柔軟性 – InvokeGuardrailChecks API を使用して任意の安全チェックを呼び出し、アプリケーション内の任意の場所に統合できます。LLM にプロンプトを送信する前、LLM からレスポンスを受信した後、モデルが呼び出すツールを実行する前、ツールが結果を返した後、またはコンテンツを評価するその他の時点で、API を任意の安全チェックで呼び出すことができます。たとえば、入力プロンプトのプロンプト攻撃検出とコンテンツフィルターによるコンテンツモデレーションを含めるが、モデルレスポンスを含む PII コンテンツなどの機密情報の漏洩をチェックできます。

  • リソースを事前に作成する必要はありません – API で必要な保護を呼び出す前にガードレールリソースを作成する必要はありません。CreateGuardrail ステップを含める必要はなく、個々のガードレール IDs またはバージョンを追跡する必要もありません。これは、ループ内の異なるステップが異なる安全体制を必要とするエージェント AI ワークフローに特に役立ちます。各ステップでガードレールリソースを作成することなく、異なるステップで個別の保護を適用できるため、運用上のオーバーヘッドを回避できます。

  • 検出のみ – InvokeGuardrailChecks API は、各安全チェックの結果を 0～1 の数値スコアで返します。API はコンテンツをブロック、渡す、または編集しません。コンテンツのブロック、PII 一致の編集、警告の表示など、アプリケーションの要件に基づいて必要なアクションを決定します。

  • サポートされている保護 – InvokeGuardrailChecks API は、Amazon Bedrock ガードレールによって提供される以下の保護をサポートしています。

トピック

サポート対象のリージョン

InvokeGuardrailChecks API は、次の AWS リージョンで使用できます。

  • 米国東部 (バージニア北部)

  • 米国東部 (オハイオ)

  • 米国西部 (オレゴン)

  • 欧州 (ロンドン)

  • 欧州 (ストックホルム)

  • アジアパシフィック (東京)

  • アジアパシフィック (シドニー)