翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

Amazon Bedrock ガードレールに自動推論チェックを追加して精度を向上させる

Amazon Bedrock ガードレールの自動推論チェックでは、定義されたポリシーに照らして自然言語の内容を数学的に検証し、ガードレールに厳密に準拠します。これらのチェックは、ユーザーに到達する前に、有害または非準拠のコンテンツを体系的にブロックするのに役立ちます。パターンマッチングアプローチとは異なり、Automated Reasoning は、特に複雑なポリシー要件に対して、誤検出を減らしてより高い精度を提供します。精度を優先する顧客の場合、ポリシールールをカスタマイズして、明確なロジックステートメントを通じてガードレールの有効性を高めることができます。

大規模言語モデル (LLMs) の主な課題は、レスポンスの精度を確保することです。検証しないと、LLMs信頼を損なう幻覚や不正確な情報を生成することがあります。

Amazon Bedrock ガードレールの自動推論チェックは、数学的手法を使用して次の問題を解決します。

この機能は、以下における LLM のレスポンスの事実に基づく根拠を示す必要がある場合に特に役立ちます。

Amazon Bedrock ガードレールの自動推論チェックは、プロンプトインジェクション攻撃から保護しません。これらのチェックでは、送信した内容を正確に検証します。悪意のあるコンテンツや操作されたコンテンツを入力として指定した場合、検証はそのコンテンツに対してそのまま実行されます (ガベージイン、ガベージアウト）。プロンプトインジェクション攻撃を検出してブロックするには、コンテンツフィルターを自動推論チェックと組み合わせて使用します。

Automated Reasoning は、Automated Reasoning ポリシーに関連するテキストのみを分析および検出します。残りのコンテンツは無視され、回答がトピック外であるかどうかをデベロッパーに伝えることはできません。トピック外のレスポンスを検出する必要がある場合は、トピックポリシーなどの他のガードレールコンポーネントを使用します。

制約事項と考慮事項

自動推論チェックを実装する前に、以下の重要な制限事項に注意してください。

ベストプラクティス

自動推論ポリシーの効果を最大化するには、次のベストプラクティスに従います。

料金

Amazon Bedrock ガードレールの自動推論チェックは、処理された検証リクエストの数に基づいて課金されます。現在の料金情報については、Amazon Bedrock の料金ページを参照してください。

結果 (VALID、INVALID、TRANSLATION_AMBIGUOUS など) に関係なく、検証リクエストごとに料金が発生します。コストを最適化するには：

ポリシーオペレーションのクロスリージョン推論

Automated Reasoning は、クロスリージョン推論を活用して、ポリシーの作成およびテストオペレーションのパフォーマンスと可用性を最適化します。特定の API オペレーションは、信頼性の高いサービス提供を確保するために、地理的境界内の AWS リージョン全体に処理を自動的に分散します。

次の自動推論 API オペレーションでは、クロスリージョン推論を使用します。

これらのオペレーションは、大規模言語モデルを呼び出して、ソースドキュメントから正式なロジックルールを抽出し、自然言語コンストラクトを構造化された論理表現に変換します。最適なパフォーマンスと可用性を確保するために、リクエスト処理は次の地理的ルーティングに従って分散されます。

クロスリージョン推論は、顧客設定を必要とせずに透過的に動作します。API 機能は、リクエストを処理する特定のリージョンに関係なく一貫しています。

Amazon Bedrock ガードレールで自動推論チェックを使用するには、次の手順に従います。

ワークフローは次のように視覚化できます。

Source Document → Extracted Policy → Testing → Deployment → Runtime Validation
    (rules)        (formal logic)    (verify)   (activate)    (check responses)
  

ポリシー

自動推論ポリシーは、ソースドキュメントから自動的に抽出されるロジックルールと変数を含む、精度検証の基盤です。これらのポリシーはビジネスルールの数学的表現として機能し、システムが基盤モデルのレスポンスが定義された制約に準拠しているかどうかを体系的に検証できるようにします。アプリケーションで自動推論チェックを実行するには、特定のドメインと検証要件に一致するポリシーを使用するようにガードレールを設定します。

ルール

ルールは、Automated Reasoning がソースドキュメントから抽出するロジックです。これらは if-then ステートメントとして記述される場合があります。ルール形式の例をいくつか示します。

if <premise>, then <claim>

<premise> is true

[変数]

変数は、自然言語を正式なロジックに変換するときに値を割り当てることができる自動推論ポリシーの概念を表します。ポリシールールは、これらの変数の有効または無効な値に対する制約を定義します。

変数には、名前、タイプ、説明があります。たとえば、従業員のメリットに関するポリシーには、「employee_age」という名前、「integer」というタイプ、「従業員の年数」という説明の変数がある場合があります。この変数には、アプリケーションへのプロンプトの自然言語に基づいて 25 のような値を割り当てることができます。

たとえば、HR ポリシーの is_full_time変数には、ソースドキュメントからの直接引用符である「週に 20 時間以上勤務する従業員」という説明が含まれている場合があります。チャットボットを使用する場合、ユーザーは「私はフルタイムです」と言う可能性が高く、「週に 20 時間以上働いています」と言う可能性は高くなります。

自然言語から形式ロジックへの翻訳の精度は、可変記述の品質に大きく依存します。翻訳が完了すると推論プロセスが聞こえますが、明確で包括的な変数の説明により、ユーザープロンプトが正しく解釈されます。変数の完全な説明がないと、入力自然言語を正式なロジック表現に変換できないNO_DATAため、自動推論が戻る可能性があります。

このようなシナリオを考慮するには、変数の説明が重要です。包括的な変数の説明には、「週に 20 時間以上勤務する従業員はフルタイムです。ユーザーはフルタイムでこの値を true に設定するか、パートタイムで false に設定すると言います。」

事前定義された変数タイプ

次の表に、ポリシーで使用できる事前定義された変数のタイプを示します。