Amazon Bedrock ガードレールを使用して有害なコンテンツを検出してフィルタリングする

有害なユーザー入力と有害なモデルレスポンスをフィルタリングするのに役立つチャットボットアプリケーション。

違法な投資アドバイスを求めたり提供したりすることに関連するユーザークエリやモデルレスポンスをブロックするのに役立つバンキングアプリケーション。

コールセンターでユーザーとエージェントの会話を文字で起こして要約するアプリケーションで、ガードレールを使用して個人を特定できる情報 (PII) を秘匿化し、ユーザーのプライバシーを保護できます。

コンテンツフィルター – このフィルターは、入力プロンプトまたはモデルレスポンスで有害なテキストまたは画像コンテンツを検出してフィルタリングするのに役立ちます。フィルタリングは、ヘイト、侮辱、性的、暴力、不正行為、プロンプト攻撃など、事前に定義された特定の有害なコンテンツカテゴリの検出に基づいて行われます。ユースケースに基づいて、これらのカテゴリごとにフィルタ強度を設定できます。これらのカテゴリは、クラシック階層とスタンダード階層の両方でサポートされています。標準階層では、望ましくないコンテンツの検出が拡張され、コメント、変数名と関数名、文字列リテラルなどのコード要素内に導入された有害なコンテンツから保護されます。

拒否されたトピック – アプリケーションのコンテキストで望ましくない一連のトピックを定義できます。定義したトピックがユーザークエリやモデルレスポンスで検出された場合に、ブロックできます。標準階層では、望ましくないコンテンツの検出が拡張され、コメント、変数、関数名、文字列リテラルなどのコード要素内に導入された有害なコンテンツから保護されます。

単語フィルター – エンドユーザーと生成 AI アプリケーション間のやり取りをブロックする一連のカスタム単語またはフレーズ (完全一致) を定義できます。たとえば、冒涜的な言葉をブロック (ready-to-useオプションを使用) したり、競合相手の名前などのカスタム単語をブロックしたりできます。

機密情報フィルター – このフィルターを設定して、ユーザー入力やモデルレスポンスで個人を特定できる情報 (PII) などの機密情報をブロックまたはマスクできます。ブロックまたはマスキングは、SSN 番号、生年月日、住所などのエンティティ内の の機密情報の確率的検出に基づいて行われます。このフィルターでは、パターン (カスタム正規表現) の正規表現ベースの検出を設定することもできます。

コンテキストグラウンディングチェック – このフィルターは、モデルレスポンスの幻覚がソースでグラウンディングされていない (事実上不正確であるか、新しい情報を追加している) か、ユーザーのクエリとは無関係であるかを検出するのに役立ちます。たとえば、取得拡張生成 (RAG) アプリケーションでレスポンスをブロックまたはフラグ付けできます。モデルレスポンスが取得されたソースの情報から逸脱した場合、またはユーザーからの質問に回答しない場合。

自動推論チェック – このフィルターは、一連の論理ルールに対する基盤モデルレスポンスの精度を検証するのに役立ちます。自動推論チェックを使用すると、ハルシネーションを検出したり、修正を提案したり、モデルレスポンスで記述されていない仮定を強調したりすることができます。