翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

Amazon Bedrock ガードレールに自動推論チェックを追加して精度を向上させる

Amazon Bedrock ガードレールの自動推論チェックは、定義されたポリシーに照らして自然言語の内容を数学的に検証し、ガードレールへの厳密な準拠を確保します。このチェックにより、有害または非準拠のコンテンツをユーザーに届く前に体系的にブロックできるようになります。自動推論は、パターンマッチングアプローチとは異なり、特に複雑なポリシー要件に対して誤検出を減らしてより高い精度を実現します。精度を優先する顧客の場合、ポリシールールをカスタマイズして、明確なロジックステートメントを通じてガードレールの有効性を高めることができます。

大規模言語モデル (LLM) の主な課題は、レスポンスの精度を確保することです。検証しないと、LLM はハルシネーションや不正確な情報を生成して信頼を損なう可能性があります。

Amazon Bedrock ガードレールの自動推論チェックは、数学的な手法を使用して次の問題を解決します。

この機能は、以下のような状況で LLM のレスポンスの事実に基づく根拠を示す必要がある場合に特に役立ちます。

Amazon Bedrock ガードレールの自動推論チェックは、プロンプトインジェクション攻撃からの防御にはなりません。このチェックでは、送信した内容を正確に検証します。悪意のあるコンテンツや操作されたコンテンツを入力として指定した場合、検証はそのコンテンツに対してそのまま実行されます (ガベージイン・ガベージアウト)。プロンプトインジェクション攻撃を検出してブロックするには、コンテンツフィルターを自動推論チェックと組み合わせて使用します。

自動推論は、自動推論ポリシーに関連するテキストのみを分析して検出します。その他のコンテンツは無視され、回答がトピック外であるかどうかをデベロッパーに伝えることはできません。トピック外のレスポンスを検出する必要がある場合は、トピックポリシーなどの他のガードレールコンポーネントを使用します。

制約事項と考慮事項

自動推論チェックを実装する前に、以下の重要な制限事項に注意してください。

ベストプラクティス

自動推論ポリシーの効果を最大化するには、以下のベストプラクティスに従います。

料金

Amazon Bedrock ガードレールの自動推論チェックは、処理された検証リクエストの数に基づいて課金されます。現在の料金については、「Amazon Bedrock の料金」ページを参照してください。

結果 (VALID、INVALID、TRANSLATION_AMBIGUOUS など) に関係なく、検証リクエストごとに料金が発生します。以下を実行してコストを最適化します。

ポリシーオペレーションのクロスリージョン推論

自動推論は、クロスリージョン推論を活用して、ポリシーの作成およびテストオペレーションのパフォーマンスと可用性を最適化します。特定の API オペレーションは、信頼性の高いサービス提供を確保するために、地理的境界内の AWS リージョン全体に処理を自動的に分散します。

次の自動推論 API オペレーションでは、クロスリージョン推論を使用します。

これらのオペレーションは、大規模言語モデルを呼び出して、ソースドキュメントから形式論理ルールを抽出し、自然言語コンストラクトを構造化された論理表現に翻訳します。最適なパフォーマンスと可用性を確保するために、リクエスト処理は次の地理的ルーティングに従って分散されます。

クロスリージョン推論は、顧客設定を必要とせずに透過的に動作します。API 機能は、リクエストを処理する特定のリージョンに関係なく、一貫性を維持します。

Amazon Bedrock ガードレールで自動推論チェックを使用するには、次の手順に従います。

ワークフローは次のように視覚化できます。

Source Document → Extracted Policy → Testing → Deployment → Runtime Validation
    (rules)        (formal logic)    (verify)   (activate)    (check responses)
  

ポリシー

自動推論ポリシーは、ソースドキュメントから自動的に抽出されるロジックルールと変数を含む、精度検証の基盤です。これらのポリシーはビジネスルールの数学的表現として機能し、基盤モデルのレスポンスが定義された制約に準拠しているかどうかをシステムが体系的に検証できるようにします。アプリケーションで自動推論チェックを実行するには、特定のドメインと検証要件に一致するポリシーを使用するようにガードレールを設定します。

Rules

ルールは、自動推論によってソースドキュメントから抽出されるロジックです。これは if-then ステートメントとして記述される場合があります。ルール形式の例をいくつか示します。

<claim> is true if <premise>

[変数]

変数は、自然言語を形式論理に変換するときに値を割り当てることができる自動推論ポリシーの概念を表します。ポリシールールは、これらの変数の有効な値または無効な値に対する制約を定義します。

変数には、名前、タイプ、説明があります。例えば、従業員の福利厚生に関するポリシーには、「employee_age」という名前、「integer」というタイプ、「従業員の年齢」という説明の変数があるとします。この変数には、アプリケーションへのプロンプトの自然言語に基づいて 25 のような値を割り当てることができます。

例えば、HR ポリシーの is_full_time 変数には、ソースドキュメントから直接引用された「週に 20 時間以上勤務する従業員」という説明が含まれているとします。チャットボットを使用する場合、ユーザーは「週に 20 時間以上働いています」ではなく「フルタイムです」と言うことのほうが多くなります。

自然言語から形式論理への変換の精度は、変数の説明の品質に大きく依存します。変換が完了すると推論プロセスは妥当なものになりますが、明確で包括的な変数の説明によってユーザープロンプトが正しく解釈されます。変数の完全な説明がないと、自動推論は入力された自然言語を形式論理表現に変換できないため、NO_DATA を返す可能性があります。

このようなシナリオを考慮するには、変数の説明が重要です。包括的な変数の説明には、「週に 20 時間以上勤務する従業員はフルタイムです。ユーザーは、この値を true に設定するにはフルタイムと言い、false に設定するにはパートタイムと言います」

定義済みの変数タイプ

次の表に、ポリシーで使用できる定義済みの変数タイプを示します。