Vérification de contenu inappropriée avec Amazon Augmented AI

Exécution DetectModerationLabels avec Amazon A2I

1. Remplissez les conditions requises répertoriées dans Getting Started with Amazon Augmented AI dans la documentation sur l'SageMaker IA.

   N'oubliez pas non plus de configurer vos autorisations IAM comme indiqué sur la page Autorisations et sécurité dans Amazon Augmented AI de la documentation sur l'SageMaker IA.

2. Suivez les instructions de création d'un flux de travail de révision humain dans la documentation de l'SageMaker IA.

   Un workflow de vérification humaine gère le traitement d’une image. Il contient les conditions qui déclenchent une vérification humaine, l’équipe de travail à laquelle l’image est envoyée, le modèle d’interface utilisateur utilisé par l’équipe de travail et le compartiment Amazon S3 vers lequel les résultats de l’équipe de travail sont envoyés.

   Au cours de votre CreateFlowDefinition appel, vous devez HumanLoopRequestSource régler le « AWS/Rekognition/DetectModerationLabels/Image/V 3 ». Après cela, vous devez décider comment vous souhaitez configurer vos conditions qui déclenchent la vérification humaine.

   Avec Amazon Rekognition, vous disposez de deux options pour ConditionType : ModerationLabelConfidenceCheck, et Sampling.

   ModerationLabelConfidenceCheck crée une boucle humaine lorsque la confiance d’une étiquette de modération se situe dans une plage. Enfin, Sampling envoie un pourcentage aléatoire des documents traités pour vérification humaine. Chaque ConditionType utilise un ensemble différent de ConditionParameters pour définir les résultats de la vérification humaine.

   ModerationLabelConfidenceCheck a ConditionParameters ModerationLableName qui définit la clé qui doit être vérifiée par les opérateurs. De plus, il a confiance, qui définit la fourchette de pourcentage pour l'envoi à une évaluation humaine avec LessThan GreaterThan, et Equals. Samplinga RandomSamplingPercentage défini un pourcentage de documents qui seront soumis à un examen humain.

   L’exemple de code suivant est un appel partiel de CreateFlowDefinition. Il envoie une image pour vérification humaine si elle est évaluée à moins de 98% sur l’étiquette « Suggestif », et à plus de 95% sur l’étiquette « Maillots de bain ou sous-vêtements féminins ». Cela signifie que si l’image n’est pas considérée comme suggestive, mais comporte une femme en sous-vêtements ou maillot de bain, vous pouvez vérifier l’image en utilisant la vérification humaine.

   
       def create_flow_definition():
       '''
       Creates a Flow Definition resource
   
       Returns:
       struct: FlowDefinitionArn
       '''
       humanLoopActivationConditions = json.dumps(
           {
               "Conditions": [
                   {
                     "And": [
                       {
                           "ConditionType": "ModerationLabelConfidenceCheck",
                           "ConditionParameters": {
                               "ModerationLabelName": "Suggestive",
                               "ConfidenceLessThan": 98
                           }
                       },
                       {
                           "ConditionType": "ModerationLabelConfidenceCheck",
                           "ConditionParameters": {
                               "ModerationLabelName": "Female Swimwear Or Underwear",
                               "ConfidenceGreaterThan": 95
                           }
                       }
                     ]
                  }
               ]
           }
       )
   
          

   CreateFlowDefinition renvoie un FlowDefinitionArn, que vous utilisez à l’étape suivante lorsque vous appelez DetectModerationLabels.

   Pour plus d'informations, consultez CreateFlowDefinitionle Guide de référence des API d' SageMaker IA.

3. Définissez le paramètre HumanLoopConfig lorsque vous appelez DetectModerationLabels, comme dans Détection d’images inappropriées. Consultez l’étape 4 pour des exemples d’un appel DetectModerationLabels avec définition HumanLoopConfig.

   1. Dans le paramètre HumanLoopConfig, définissez FlowDefinitionArn sur l’ARN de la définition de flux que vous avez créée à l’étape 2.

   2. Définissez votre HumanLoopName. Cela doit être unique dans une région et en minuscules.

   3. (Facultatif) Vous pouvez utiliser DataAttributes pour définir si l’image que vous avez transmise à Amazon Rekognition est exempte ou non de données d'identification personnelle (PII). Vous devez définir ce paramètre pour envoyer des informations à Amazon Mechanical Turk.

4. Exécutez DetectModerationLabels.

   Les exemples suivants montrent comment utiliser le HumanLoopConfig set AWS CLI et AWS SDK pour Python (Boto3) pour l'exécuter DetectModerationLabels avec.

   AWS SDK pour Python (Boto3)

   L’exemple de demande suivant utilise le SDK for Python (Boto3). Pour de plus amples informations, veuillez consulter detect_moderation_labels dans la référence d’API du AWS SDK for Python (Boto).

   import boto3
   
   rekognition = boto3.client("rekognition", aws-region)
   
   response = rekognition.detect_moderation_labels( \
           Image={'S3Object': {'Bucket': bucket_name, 'Name': image_name}}, \
           HumanLoopConfig={ \
               'HumanLoopName': 'human_loop_name', \
               'FlowDefinitionArn': , "arn:aws:sagemaker:aws-region:aws_account_number:flow-definition/flow_def_name" \
               'DataAttributes': {'ContentClassifiers': ['FreeOfPersonallyIdentifiableInformation','FreeOfAdultContent']}
            })
   

   AWS CLI

   L'exemple de demande suivant utilise la AWS CLI. Pour plus d’informations, consultez detect-moderation-labels dans la Référence des commandes de l’AWS CLI.

   $ aws rekognition detect-moderation-labels \
       --image "S3Object={Bucket='bucket_name',Name='image_name'}" \
       --human-loop-config HumanLoopName="human_loop_name",FlowDefinitionArn="arn:aws:sagemaker:aws-region:aws_account_number:flow-definition/flow_def_name",DataAttributes='{ContentClassifiers=["FreeOfPersonallyIdentifiableInformation", "FreeOfAdultContent"]}'
   

   $ aws rekognition detect-moderation-labels \
       --image "S3Object={Bucket='bucket_name',Name='image_name'}" \
       --human-loop-config \
           '{"HumanLoopName": "human_loop_name", "FlowDefinitionArn": "arn:aws:sagemaker:aws-region:aws_account_number:flow-definition/flow_def_name", "DataAttributes": {"ContentClassifiers": ["FreeOfPersonallyIdentifiableInformation", "FreeOfAdultContent"]}}'
   

   Lorsque vous exécutez la DetectModerationLabels commande HumanLoopConfig Activé, Amazon Rekognition SageMaker appelle l'opération d'API AI. StartHumanLoop Cette commande prend la réponse auprès de DetectModerationLabels et la vérifie par rapport aux conditions de la définition de flux dans l’exemple. Si elle remplit les conditions d’examen, elle renvoie un HumanLoopArn. Cela signifie que les membres de l’équipe de travail que vous définissez dans votre définition de flux peuvent maintenant vérifier l’image. L’appel de l’opération d’exécution Amazon Augmented AI DescribeHumanLoop fournit des informations sur le résultat de la boucle. Pour plus d'informations, consultez DescribeHumanLoopla documentation de référence de l'API Amazon Augmented AI.

   Une fois l’image révisée, vous pouvez voir les résultats dans le compartiment spécifié dans le chemin de sortie de votre définition de flux. Amazon A2I vous informera également par le biais d'Amazon CloudWatch Events lorsque la révision sera terminée. Pour connaître les événements à rechercher, consultez la section CloudWatch Événements de la documentation sur l'SageMaker IA.

   Pour plus d'informations, consultez Getting Started with Amazon Augmented AI dans la documentation sur l'SageMaker IA.