翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

Amazon Bedrock ガードレールのコンテンツフィルターを設定する

Amazon Bedrock ガードレールを使用すると、有害なコンテンツを含むテキストやイメージのモデルプロンプトやレスポンスを自然言語でブロックするようにコンテンツフィルターを設定できます。たとえば、e コマースサイトは、不適切な言語やイメージを使用しないようにオンラインアシスタントを設計できます。

フィルターの分類とブロックレベル

フィルタリングは、6 つの各カテゴリにわたるユーザー入力と FM レスポンスの信頼度分類に基づいて行われます。すべてのユーザー入力と FM レスポンスは、NONE、LOW、MEDIUM、HIGH の 4 つの強度レベルに分類されます。例えば、ステートメントが HIGH 信頼度で [憎悪] に分類される場合、そのステートメントは憎悪的なコンテンツを表す可能性は高くなります。1 つのステートメントを、さまざまな信頼レベルを持つ複数のカテゴリに分類できます。例えば、1 つのステートメントを、HIGH 信頼度で [憎悪]、LOW 信頼度で [侮辱]、NONE 信頼度で [性的]、MEDIUM 信頼度で [暴力] に分類できます。

フィルターの強度

コンテンツフィルターカテゴリごとにフィルターの強度を設定できます。フィルターの強度は、有害なコンテンツをフィルタリングする感度を決定します。フィルターの強度が高くなると、有害なコンテンツをフィルタリングする確率が高くなり、アプリケーションに有害なコンテンツが表示される可能性が低くなります。

フィルター強度には 4 つのレベルがあります。