Utilisation du schéma JSON pour les conditions d'activation de boucle humaine avec Amazon Rekognition - Amazon SageMaker AI
ModerationLabelConfidenceCheck EntréesEntrées d'échantillonnageExemples

Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

Utilisation du schéma JSON pour les conditions d'activation de boucle humaine avec Amazon Rekognition

Lorsqu'elle est utilisée avec Amazon A2I, l’opération Amazon Rekognition DetectModerationLabels prend en charge les entrées suivantes dans les paramètres ConditionType :

  • ModerationLabelConfidenceCheck Utilisez ce type de condition pour créer une boucle humaine lorsque la fiabilité de l'inférence est faible pour une ou plusieurs étiquettes spécifiées.

  • Sampling Utilisez cette condition pour spécifier un pourcentage de toutes les inférences à soumettre à vérification humaine. Utilisez cette condition pour effectuer les opérations suivantes :

    • Auditer votre modèle ML en effectuant un échantillonnage aléatoire de toutes les inférences de votre modèle et en soumettant un pourcentage spécifié à vérification humaine.

    • En utilisant la condition ModerationLabelConfidenceCheck, effectuez un échantillonnage aléatoire d'un pourcentage des inférences qui ont rempli les conditions spécifiées dans ModerationLabelConfidenceCheck pour démarrer une boucle humaine et soumettre à vérification humaine uniquement le pourcentage spécifié.

Note

Si vous envoyez la même demande à DetectModerationLabels plusieurs fois, le résultat de Sampling ne changera pas pour l'inférence de cette entrée. Par exemple, si vous effectuez une demande DetectModerationLabels une fois, et que Sampling n'initie pas de boucle humaine, les demandes suivantes adressées à DetectModerationLabels avec la même configuration n'initieront pas de boucle humaine.

Lorsque vous créez une définition de flux, si vous utilisez le modèle de tâche de collaborateur par défaut fourni dans la section Workflows de révision humaine de la console Amazon SageMaker AI, les inférences envoyées pour examen humain selon ces conditions d'activation sont incluses dans l'interface utilisateur du travailleur lorsqu'un collaborateur ouvre votre tâche. Si vous utilisez un modèle de tâche d'employé personnalisé, vous devez inclure l'élément HTML personnalisé <task.input.selectedAiServiceResponse.blocks> pour accéder à ces inférences. Pour obtenir un exemple de modèle personnalisé utilisant cet élément HTML, veuillez consulter Exemple de modèle personnalisé pour Amazon Rekognition.

ModerationLabelConfidenceCheck Entrées

Pour ModerationLabelConfidenceCheck ConditionType, les ConditionParameters suivants sont pris en charge :

  • ModerationLabelName— Le nom exact (distinguant majuscules et minuscules) d'une personne ModerationLabeldétectée par l'opération Amazon Rekognition. DetectModerationLabels Vous pouvez spécifier la valeur passe-partout spéciale (*) pour indiquer n'importe quelle étiquette de modération.

  • ConfidenceEquals

  • ConfidenceLessThan

  • ConfidenceLessThanEquals

  • ConfidenceGreaterThan

  • ConfidenceGreaterThanEquals

Lorsque vous utilisez ModerationLabelConfidenceCheck ConditionType, Amazon A2I envoie des inférences d'étiquette pour les étiquettes que vous avez spécifiées dans ModerationLabelName afin qu'elles soient soumises à vérification humaine.

Entrées d'échantillonnage

Sampling ConditionType prend en charge RandomSamplingPercentage ConditionParameters. L'entrée du paramètre RandomSamplingPercentage doit être un nombre réel compris entre 0,01 et 100. Ce nombre représente le pourcentage d'inférences pouvant faire l'objet d'une vérification humaine et qui sont soumises à vérification humaine. Si vous utilisez la condition Sampling sans aucune autre condition, ce nombre représente le pourcentage de toutes les inférences obtenues par une seule demande DetectModerationLabel qui sont soumises à vérification humaine.

Exemples

Exemple 1 : utilisation de ModerationLabelConfidenceCheck avec l'opérateur And

L'exemple suivant d'une condition HumanLoopActivationConditions initie une boucle HumanLoop lorsqu'une ou plusieurs des conditions suivantes sont remplies :

  • Amazon Rekognition détecte l'étiquette de modération Graphic Male Nudity avec une fiabilité comprise entre 90 et 99.

  • Amazon Rekognition détecte l'étiquette de modération Graphic Female Nudity avec une fiabilité comprise entre 80 et 99.

Notez l'utilisation des opérateurs logiques Or et And pour modéliser cette logique.

Même si une seule des deux conditions sous l'opérateur Or doit avoir pour valeur true pour qu'une boucle humaine soit créée, Amazon Augmented AI évalue en fait toutes les conditions. Les vérificateurs humains sont chargés de passer en revue les étiquettes de modération pour toutes les conditions qui équivalaient à true.

{
     "Conditions": [{
         "Or": [{
                 "And": [{
                         "ConditionType": "ModerationLabelConfidenceCheck",
                         "ConditionParameters": {
                             "ModerationLabelName": "Graphic Male Nudity",
                             "ConfidenceLessThanEquals": 99
                         }
                     },
                     {
                         "ConditionType": "ModerationLabelConfidenceCheck",
                         "ConditionParameters": {
                             "ModerationLabelName": "Graphic Male Nudity",
                             "ConfidenceGreaterThanEquals": 90
                         }
                     }
                 ]
             },
             {
                 "And": [{
                         "ConditionType": "ModerationLabelConfidenceCheck",
                         "ConditionParameters": {
                             "ModerationLabelName": "Graphic Female Nudity",
                             "ConfidenceLessThanEquals": 99
                         }
                     },
                     {
                         "ConditionType": "ModerationLabelConfidenceCheck",
                         "ConditionParameters": {
                             "ModerationLabelName": "Graphic Female Nudity",
                             "ConfidenceGreaterThanEquals": 80
                         }
                     }
                 ]
             }
         ]
     }]
}

Exemple 2 : utilisation de ModerationLabelConfidenceCheck avec la valeur catch-all (*)

Dans l'exemple suivant, en cas de détection d'une étiquette de modération avec une fiabilité supérieure ou égale à 75, une boucle humaine est initiée. Les intervenants humains sont chargés de passer en revue toutes les étiquettes de modération dont les scores de fiabilité sont supérieurs ou égaux à 75.

{
    "Conditions": [
        {
            "ConditionType": "ModerationLabelConfidenceCheck",
            "ConditionParameters": {
                "ModerationLabelName": "*",
                "ConfidenceGreaterThanEquals": 75
            }
        }
    ]
}

Exemple 3 : Utiliser l'échantillonnage

Dans l'exemple suivant, 5 % des inférences Amazon Rekognition découlant d'une demande DetectModerationLabels sont soumises à vérification humaine. Lorsque vous utilisez le modèle de tâches de travail par défaut fourni dans la console SageMaker AI, toutes les étiquettes de modération renvoyées par Amazon Rekognition sont envoyées aux travailleurs pour examen.

{
  "Conditions": [
    {
      "ConditionType": "Sampling",
      "ConditionParameters": {
        "RandomSamplingPercentage": 5
      }
    }
  ]
}

Exemple 4 : utilisation d’un échantillonnage et ModerationLabelConfidenceCheck avec l’opérateur And

Dans cet exemple, 5 % des inférences Amazon Rekognition de l'étiquette de modération Graphic Male Nudity avec un indice de fiabilité supérieur à 50 sont soumises à vérification humaine. Lorsque vous utilisez le modèle de tâches de travail par défaut fourni dans la console SageMaker AI, seules les inférences de l'Graphic Male Nudityétiquette sont envoyées aux travailleurs pour examen. 

{
  "Conditions": [
    {
      "And": [
        {
          "ConditionType": "Sampling",
          "ConditionParameters": {
            "RandomSamplingPercentage": 5
          }
        },
        {
          "ConditionType": "ModerationLabelConfidenceCheck",
          "ConditionParameters": {
            "ModerationLabelName": "Graphic Male Nudity",
            "ConfidenceGreaterThan": 50
          }
        }
      ]
    }
  ]
}

Exemple 5 : utilisation d'un échantillonnage et ModerationLabelConfidenceCheck avec l'opérateur And

Utilisez cet exemple pour configurer votre flux de vérification humaine afin qu'il soumette toujours à vérification humaine les inférences de faible fiabilité d'une étiquette spécifiée, ainsi qu'un échantillon d'inférence de haute fiabilité d'une étiquette à un taux spécifié.

Dans l'exemple suivant, une vérification humaine est initiée de l'une des manières suivantes :

  • Les inférences pour l'étiquette de modération Graphic Male Nudity dont les scores de fiabilité sont inférieurs à 60 sont toujours soumises à vérification humaine. Seule l'étiquette Graphic Male Nudity est soumise à vérification humaine.

  • 5 % de toutes les inférences de l'étiquette de modération Graphic Male Nudity dont les indices de fiabilité sont supérieurs à 90 sont soumises à vérification humaine. Seule l'étiquette Graphic Male Nudity est soumise à vérification humaine. 

{
  "Conditions": [
    {
      "Or": [
        {
          "ConditionType": "ModerationLabelConfidenceCheck",
          "ConditionParameters": {
            "ModerationLabelName": "Graphic Male Nudity",
            "ConfidenceLessThan": 60
          }
        },
        {
            "And": [
                {
                    "ConditionType": "Sampling",
                    "ConditionParameters": {
                        "RandomSamplingPercentage": 5
                    }
                },
                {
                    "ConditionType": "ModerationLabelConfidenceCheck",
                    "ConditionParameters": {
                        "ModerationLabelName": "Graphic Male Nudity",
                        "ConfidenceGreaterThan": 90
                    }
                }
            ]
        }
      ]
    }
  ]
}

Exemple 6 : utilisation d'un échantillonnage et ModerationLabelConfidenceCheck avec l'opérateur Or

Dans l'exemple suivant, une boucle humaine est créée si la réponse d'inférence Amazon Rekognition contient l'étiquette « Nudité masculine explicite (Graphic Male Nudity) » avec une fiabilité d'inférence supérieure à 50. De plus, 5 % de toutes les autres inférences initient une boucle humaine. 

{
  "Conditions": [
    {
      "Or": [
        {
          "ConditionType": "Sampling",
          "ConditionParameters": {
            "RandomSamplingPercentage": 5
          }
        },
        {
          "ConditionType": "ModerationLabelConfidenceCheck",
          "ConditionParameters": {
            "ModerationLabelName": "Graphic Male Nudity",
            "ConfidenceGreaterThan": 50
          }
        }
      ]
    }
  ]
}