Amazon Bedrock ガードレールを使用して有害なコンテンツを検出してフィルタリングする

チャットボットアプリケーションでガードレールを使用して、有害なユーザー入力と毒性のあるモデルレスポンスをフィルタリングできます。

銀行アプリケーションでガードレールを使用して、投資アドバイスを求めるユーザークエリや、投資アドバイスを行うモデルレスポンスをブロックできます。

コールセンターでユーザーとエージェントの会話を文字で起こして要約するアプリケーションで、ガードレールを使用して個人を特定できる情報 (PII) を秘匿化し、ユーザーのプライバシーを保護できます。

コンテンツフィルター – 入力プロンプトまたはモデルレスポンスで有害なテキストまたは画像コンテンツを検出してフィルタリングします。フィルタリングは、ヘイト、侮辱、性的、暴力、不正行為、プロンプト攻撃など、事前に定義された特定の有害なコンテンツカテゴリの検出に基づいて行われます。これらのカテゴリごとにフィルター強度を調整することもできます。これらのカテゴリは、クラシック階層とスタンダード階層の両方でサポートされています。標準階層では、望ましくないコンテンツの検出が拡張され、コメント、変数名と関数名、文字列リテラルなど、コード要素内で発生する有害なコンテンツから保護されます。

拒否トピック – アプリケーションのコンテキストでは望ましくない一連のトピックを定義しておきます。定義したトピックがユーザークエリやモデルレスポンスで検出された場合に、ブロックできます。標準階層では、望ましくないコンテンツの検出が拡張され、コメント、変数、関数名、文字列リテラルなどのコード要素内に導入された有害なコンテンツから保護されます。

ワードフィルター - 望ましくない単語、フレーズ、冒涜的な表現 (完全一致) をブロックするようにフィルターを設定します。対象となる単語は、不快な用語、競合相手の名前などです。

機密情報フィルター – ユーザー入力やモデルレスポンスで、個人を特定できる情報 (PII) などの機密情報やカスタムの正規表現をブロックまたはマスク処理するようにフィルターを設定します。ブロックまたはマスキングは、SSN 番号、生年月日、住所などのエンティティの標準形式の機密情報の確率的検出に基づいて行われます。識別子のパターンの正規表現ベースの検出を設定することもできます。

コンテキストグラウンディングチェック – 情報源の接続 (グラウンディング) やユーザークエリとの関連性に基づいて、モデルレスポンスのハルシネーション (事実に基づかない誤情報が生成されること) を検出し、フィルタリングすることができます。

自動推論チェック – 一連の論理ルールに対する基盤モデルレスポンスの精度を検証するのに役立ちます。自動推論チェックを使用すると、ハルシネーションを検出したり、修正を提案したり、モデルレスポンスで記述されていない仮定を強調したりすることができます。