Amazon Rekognition でヒューマンループのアクティベーション条件 JSON スキーマを使用する - Amazon SageMaker AI
ModerationLabelConfidenceCheck 入力入力のサンプリング例

翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

Amazon Rekognition でヒューマンループのアクティベーション条件 JSON スキーマを使用する

Amazon A2I で使用する場合、Amazon Rekognition DetectModerationLabels オペレーションでは、ConditionType パラメータで次の入力がサポートされます。

  • ModerationLabelConfidenceCheck - この条件タイプを使用することにより、指定した 1 つ以上のラベルの推論の信頼度が低い場合にヒューマンループを作成します。

  • Sampling - この条件を使用することにより、人間によるレビュー用に送るすべての推論の割合を指定します。この条件を使用して、次のオペレーションを行います。

    • ML モデルのすべての推論からランダムにサンプリングして、指定した割合をヒューマンレビューに送ることにより、モデルを監査します。

    • ModerationLabelConfidenceCheck 条件を使用して、ModerationLabelConfidenceCheck で指定したヒューマンループを開始するための条件と一致する推論の何割かをランダムにサンプリングし、その指定した割合のみをヒューマンレビューに送ります。

注記

同じリクエストを DetectModerationLabels に複数回送っても、その入力の推論に対する Sampling の結果は変わりません。例えば、DetectModerationLabels へのリクエストを 1 回行って Sampling によってヒューマンループが開始されなかった場合、同じ設定で DetectModerationLabels に続けてリクエストを行ってもヒューマンループは開始されません。

フロー定義を作成するときに、Amazon SageMaker AI コンソールの「ヒューマンレビューワークフロー」セクションで提供されているデフォルトのワーカータスクテンプレートを使用する場合、これらのアクティベーション条件によってヒューマンレビューのために送信された推論は、ワーカーがタスクを開くときにワーカー UI に含まれます。カスタムワーカータスクテンプレートを使用する場合は、それらの推論にアクセスするにはカスタム HTML 要素の <task.input.selectedAiServiceResponse.blocks> を含める必要があります。この HTML 要素を使用するカスタムテンプレートの例については、「Amazon Rekognition のカスタムテンプレートの例」を参照してください。

ModerationLabelConfidenceCheck 入力

ModerationLabelConfidenceCheck ConditionType では、以下の ConditionParameters がサポートされています。

  • ModerationLabelName - Amazon Rekognition DetectModerationLabelsオペレーションによって検出された ModerationLabel の正確な (大文字と小文字を区別する) 名前。特別なキャッチオール値 (*) を指定して、モデレーションラベルを示すことができます。

  • ConfidenceEquals

  • ConfidenceLessThan

  • ConfidenceLessThanEquals

  • ConfidenceGreaterThan

  • ConfidenceGreaterThanEquals

ModerationLabelConfidenceCheck ConditionType を使用すると、Amazon A2I によって、人間によるレビューのために ModerationLabelName で指定されているラベルの推論が送られます。

入力のサンプリング

Sampling ConditionType では、RandomSamplingPercentage ConditionParameters がサポートされています。RandomSamplingPercentage パラメータの入力は、0.01～100 の実数である必要があります。この数値は、ヒューマンレビューの対象となる推論の割合を表し、その数量がヒューマンレビューに送られます。Sampling 条件をその他の条件を指定せずに使用する場合、この数値は 1 つの DetectModerationLabel リクエストによって行われたすべての推論に対する割合を表し、その割合がヒューマンレビューに送られます。

例

例 1: ModerationLabelConfidenceCheck を And オペレーターで使用する

この HumanLoopActivationConditions 条件の例では、次の 1 つ以上の条件が満たされた場合にヒューマンループが開始されます。

  • Amazon Rekognition は、90 ～ 99 の信頼度を持つ Graphic Male Nudity モデレーションラベルを検出します。

  • Amazon Rekognition は、80 ～ 99 の信頼度を持つ Graphic Female Nudity モデレーションラベルを検出します。

このロジックのモデル化には、論理演算子の Or と And が使用されていることに注意してください。

ヒューマンループが作成されるために Or 演算子によって true と評価される必要がある条件は 2 つのうちの 1 つのみですが、Amazon Augmented AI はすべての条件を評価します。人間によるレビュー担当者は、true と評価されたすべての条件のモデレーションラベルを確認するように求められます。

{
     "Conditions": [{
         "Or": [{
                 "And": [{
                         "ConditionType": "ModerationLabelConfidenceCheck",
                         "ConditionParameters": {
                             "ModerationLabelName": "Graphic Male Nudity",
                             "ConfidenceLessThanEquals": 99
                         }
                     },
                     {
                         "ConditionType": "ModerationLabelConfidenceCheck",
                         "ConditionParameters": {
                             "ModerationLabelName": "Graphic Male Nudity",
                             "ConfidenceGreaterThanEquals": 90
                         }
                     }
                 ]
             },
             {
                 "And": [{
                         "ConditionType": "ModerationLabelConfidenceCheck",
                         "ConditionParameters": {
                             "ModerationLabelName": "Graphic Female Nudity",
                             "ConfidenceLessThanEquals": 99
                         }
                     },
                     {
                         "ConditionType": "ModerationLabelConfidenceCheck",
                         "ConditionParameters": {
                             "ModerationLabelName": "Graphic Female Nudity",
                             "ConfidenceGreaterThanEquals": 80
                         }
                     }
                 ]
             }
         ]
     }]
}

例 2: ModerationLabelConfidenceCheck をキャッチオール値 (*)で使用する

次の例では、信頼度が 75 以上のモデレーションラベルが検出された場合にヒューマンループが開始されます。ヒューマンレビュー担当者には、信頼スコアが 75 以上のすべてのモデレーションラベルをレビューすることが求められます。

{
    "Conditions": [
        {
            "ConditionType": "ModerationLabelConfidenceCheck",
            "ConditionParameters": {
                "ModerationLabelName": "*",
                "ConfidenceGreaterThanEquals": 75
            }
        }
    ]
}

例 3: Sampling を使用する

次の例では、DetectModerationLabels リクエストによって行われた Amazon Rekognition の推論の 5% が人間のワーカーに送られます。SageMaker AI コンソールで提供されているデフォルトのワーカータスクテンプレートを使用する場合、Amazon Rekognition によって返されるすべてのモデレーションラベルがレビューのためにワーカーに送信されます。

{
  "Conditions": [
    {
      "ConditionType": "Sampling",
      "ConditionParameters": {
        "RandomSamplingPercentage": 5
      }
    }
  ]
}

例 4: サンプリングと ModerationLabelConfidenceCheck を And オペレーターで使用する

この例では、Amazon Rekognition の信頼度が 50 より上の Graphic Male Nudity モデレーションラベルの推論の 5% がレビュー用にワーカーに送られます。SageMaker AI コンソールで提供されているデフォルトのワーカータスクテンプレートを使用する場合、Graphic Male Nudityラベルの推論のみがレビューのためにワーカーに送信されます。

{
  "Conditions": [
    {
      "And": [
        {
          "ConditionType": "Sampling",
          "ConditionParameters": {
            "RandomSamplingPercentage": 5
          }
        },
        {
          "ConditionType": "ModerationLabelConfidenceCheck",
          "ConditionParameters": {
            "ModerationLabelName": "Graphic Male Nudity",
            "ConfidenceGreaterThan": 50
          }
        }
      ]
    }
  ]
}

例 5: サンプリングと ModerationLabelConfidenceCheck を And オペレーターで使用する

この例では、指定したラベルの信頼度の低い推論は常に人間によるレビュー用に送られ、ラベルの信頼度の高い推論は指定した割合でサンプリングされるように人間によるレビューワークフローを設定します。

この例では、人間によるレビューは次のいずれかの方法で開始されます。

  • 信頼スコアが 60 未満の Graphic Male Nudity モデレーションラベルの推論は常にヒューマンレビューに送られます。Graphic Male Nudity ラベルのみがレビューのためにワーカーに送られます。

  • 信頼スコアが 90 より上の Graphic Male Nudity モデレーションラベルのすべての推論の 5% が人間によるレビュー用に送られます。Graphic Male Nudity ラベルのみがレビューのためにワーカーに送られます。

{
  "Conditions": [
    {
      "Or": [
        {
          "ConditionType": "ModerationLabelConfidenceCheck",
          "ConditionParameters": {
            "ModerationLabelName": "Graphic Male Nudity",
            "ConfidenceLessThan": 60
          }
        },
        {
            "And": [
                {
                    "ConditionType": "Sampling",
                    "ConditionParameters": {
                        "RandomSamplingPercentage": 5
                    }
                },
                {
                    "ConditionType": "ModerationLabelConfidenceCheck",
                    "ConditionParameters": {
                        "ModerationLabelName": "Graphic Male Nudity",
                        "ConfidenceGreaterThan": 90
                    }
                }
            ]
        }
      ]
    }
  ]
}

例 6: サンプリングと ModerationLabelConfidenceCheck を Or オペレーターで使用する

次の例では、Amazon Rekognition からの推論レスポンスに「Graphic Male Nudity」ラベルが含まれていて、推論の信頼度が 50 より上の場合にヒューマンループが作成されます。また、その他のすべての推論の 5% によって、ヒューマンループが開始されます。

{
  "Conditions": [
    {
      "Or": [
        {
          "ConditionType": "Sampling",
          "ConditionParameters": {
            "RandomSamplingPercentage": 5
          }
        },
        {
          "ConditionType": "ModerationLabelConfidenceCheck",
          "ConditionParameters": {
            "ModerationLabelName": "Graphic Male Nudity",
            "ConfidenceGreaterThan": 50
          }
        }
      ]
    }
  ]
}