Génération de réponses dans la console à l’aide de terrains de jeu

Pour utiliser un terrain de jeu

1. Si ce n’est pas déjà fait, demandez l’accès aux modèles que vous souhaitez utiliser. Pour de plus amples informations, veuillez consulter Accès aux modèles de fondation Amazon Bedrock.

2. Connectez-vous au AWS Management Console avec une identité IAM autorisée à utiliser la console Amazon Bedrock. Ouvrez ensuite la console Amazon Bedrock à l'adresse https://console.aws.amazon.com/bedrock.

3. Dans le volet de navigation, sous Terrains de jeu, choisissez Chat/Texte ou Image.

4. Si vous êtes dans le terrain de jeu Chat/texte sélectionnez un Mode.

5. Choisissez Sélectionner le modèle, puis sélectionnez un fournisseur, un modèle et un débit. Pour plus d’informations sur l’augmentation du débit, consultez Augmentez le débit grâce à l’inférence entre régions et Augmentez la capacité d'invocation des modèles grâce au débit provisionné dans Amazon Bedrock.

6. Soumettez les informations suivantes pour générer une réponse :

   • Invite : une ou plusieurs phrases de texte qui définissent un scénario, une question ou une tâche pour un modèle. Pour plus d’informations sur la création d’invites, consultez Concepts d’ingénierie de requête.

     Si vous utilisez le mode chat du chat/text Playground, certains modèles (voirModèles et fonctionnalités des modèles pris en charge) vous permettent d'inclure un fichier de la manière suivante :

     • Sélectionnez l’icône de pièce jointe et choisissez le fichier à charger.

     • Sélectionnez l’icône de pièce jointe et choisissez un objet Amazon S3 à charger.

     • Faites glisser un fichier sur l’invite.

     Incluez des fichiers pour compléter votre invite. Vous pouvez faire référence au fichier dans le texte d’invite. Par exemple, vous pouvez écrire Summarize this document for me ou Tell me what's in this image. Vous pouvez inclure les types de fichiers suivants :

     • Documents : ajoutez des documents pour compléter l’invite. Pour obtenir la liste des types de fichiers pris en charge, consultez le format champ dans DocumentBlock.

       Avertissement

       Les noms de document sont vulnérables aux injections d’invite, car le modèle risque de l’interpréter par inadvertance comme des instructions. Par conséquent, nous vous recommandons de spécifier un nom neutre.

     • Images : ajoutez des images pour compléter l’invite, si le modèle prend en charge les entrées d’image et de texte multimodales. Pour obtenir la liste des types de fichiers pris en charge, consultez le format champ dans le ImageBlock.

     • Vidéos : ajoutez des vidéos pour compléter l’invite, si le modèle prend en charge les entrées vidéo et texte multimodales. Pour obtenir la liste des types de fichiers pris en charge, consultez le format champ dans le VideoBlock.

   • Configurations : paramètres que vous ajustez pour modifier la réponse du modèle. Les configurations incluent les suivantes :

     • Paramètres d’inférence : valeurs qui affectent ou limitent la façon dont le modèle génère la réponse. Pour de plus amples informations, veuillez consulter Génération de réponse d’influence à l’aide de paramètres d’inférence. Pour voir les paramètres d’inférence pour des modèles spécifiques, consultez Paramètres de demande d’inférence et champs de réponse pour les modèles de fondation.

     • Invites système : invites qui fournissent des instructions ou du contexte au modèle à propos de la tâche qu’il doit exécuter ou de la persona qu’il doit adopter. Ils ne sont disponibles qu'en mode chat du chat/text terrain de jeu. Pour plus d’informations et pour obtenir la liste des modèles compatibles avec les invites du système, consultez Mener une conversation avec les opérations d’API Converse.

     • Barrières de protection : filtre le contenu nuisible ou indésirable dans les invites et modélise les réponses. Pour de plus amples informations, veuillez consulter Détection et filtrage des contenus préjudiciables à l’aide des barrières de protection Amazon Bedrock.

7. (Facultatif) Si un modèle prend en charge le streaming, le comportement par défaut dans le chat/text terrain de jeu consiste à diffuser les réponses. Vous pouvez désactiver le streaming en choisissant l’icône des options ( ) et en modifiant l’option Préférence de streaming.

8. (Facultatif) Dans le mode chat du chat/text Playground, vous pouvez comparer les réponses de différents modèles en procédant comme suit :

   1. Activez le mode Comparaison.

   2. Choisissez Sélectionner le modèle, puis sélectionnez un fournisseur, un modèle et un débit.

   3. Cliquez sur l’icône de configuration ( ) pour modifier les configurations à utiliser.

   4. Pour ajouter d’autres modèles à comparer, cliquez sur l’icône + sur la droite, sélectionnez un modèle et modifiez les configurations si nécessaire.

9. (Facultatif) Si un modèle prend en charge la mise en cache des invites, vous pouvez ouvrir le panneau Configurations et activer la mise en cache des invites pour activer la mise en cache de vos entrées et des réponses du modèle afin de réduire les coûts et la latence. Pour de plus amples informations, veuillez consulter Mise en cache des invites pour une inférence de modèle plus rapide.

10. Pour exécuter l’invite, choisissez ensuite Exécuter. Amazon Bedrock ne stocke aucun texte, image ou document que vous fournissez. Les données ne sont utilisées que pour générer la réponse.

    Note

    Si la réponse enfreint la politique de modération du contenu, Amazon Bedrock ne l’affiche pas. Si vous avez activé le streaming, Amazon Bedrock efface l’intégralité de la réponse si celle-ci génère du contenu qui enfreint le règlement. Pour plus d’informations, accédez à la console Amazon Bedrock, sélectionnez Fournisseurs et lisez le texte dans la section Limitations relatives au contenu.

11. Le modèle renvoie la réponse. Si vous utilisez le mode chat du chat/text Playground, vous pouvez envoyer une invite pour répondre à la réponse et générer une autre réponse.

12. Une fois la réponse générée, vous disposez des options suivantes :

    • Pour exporter la réponse sous forme de fichier JSON, choisissez l’icône d’options ( ) et sélectionnez Exporter au format JSON.

    • Pour consulter la demande d’API que vous avez faite, cliquez sur l’icône d’options ( ) et sélectionnez Afficher la demande d’API.

    • Dans le mode chat du chat/text Playground, vous pouvez consulter les statistiques dans la section Mesures du modèle. Les mesures de modèle suivantes sont disponibles :

      • Latence : délai entre le moment où la demande est reçue par Amazon Bedrock et le moment où la réponse est renvoyée (pour les réponses autres que le streaming) ou le moment où le flux de réponse est terminé (pour les réponses en streaming).

      • Nombre de jetons d’entrée : nombre de jetons introduits dans le modèle en tant qu’entrée lors de l’inférence.

      • Nombre de jetons de sortie : nombre de jetons générés en réponse à une invite. Les réponses longues et plus conversationnelles nécessitent plus de jetons.

      • Coût : coût du traitement de l’entrée et de la génération des jetons de sortie.

      Pour définir les critères métriques auxquels vous souhaitez que la réponse corresponde, choisissez Définir les critères métriques et définissez les conditions auxquelles le modèle doit correspondre. Une fois que vous avez appliqué les critères, la section Métriques du modèle indique combien et quels critères ont été remplis par la réponse.

      Si les critères ne sont pas satisfaits, vous pouvez choisir un autre modèle, réécrire l’invite ou modifier les configurations et réexécuter l’invite.