Bonnes pratiques d’invite pour les modèles de compréhension Amazon Nova - Amazon Nova

Bonnes pratiques d’invite pour les modèles de compréhension Amazon Nova

L’ingénierie de requête désigne la pratique consistant à optimiser les entrées textuelles d’un grand modèle de langage (LLM) afin d’améliorer les résultats et d’obtenir les réponses que l’on veut. Les invites aident un LLM à effectuer une grande variété de tâches, notamment la classification, la réponse aux questions, la génération de code, l’écriture créative, etc. La qualité des invites que vous fournissez à un LLM peut avoir un impact sur la qualité des réponses du modèle. Cette section fournit les informations nécessaires pour faire vos premiers pas avec l’ingénierie de requête. Elles couvrent également les outils qui vous aideront à trouver le format d’invite le plus adapté à votre cas d’utilisation lors de l’utilisation d’un LLM dans Amazon Bedrock.

L’efficacité des invites dépend de la qualité des informations fournies et de la qualité de l’invite elle-même. Les invites peuvent inclure des instructions, des questions, des détails contextuels, des entrées et des exemples afin de guider efficacement le modèle et d’améliorer la qualité des résultats. Ce document présente des stratégies et des tactiques visant à optimiser les performances de la famille de modèles Amazon Nova. Les méthodes présentées ici peuvent être utilisées dans différentes combinaisons afin d’amplifier leur efficacité. Nous encourageons les utilisateurs à mener des expériences afin d’identifier les approches les mieux adaptées à leurs besoins spécifiques.

Avant de commencer l’ingénierie de requête, nous vous recommandons de mettre en place les éléments suivants afin de pouvoir développer de manière itérative la requête la plus optimale pour votre cas d’utilisation :

  1. Définir votre cas d’utilisation : définissez le cas d’utilisation que vous voulez réaliser selon 4 dimensions

    1. Quelle est la tâche : définissez la tâche que vous voulez accomplir à partir du modèle

    2. Quel est le rôle : définissez le rôle que le modèle doit assumer pour accomplir cette tâche

    3. Quel est le style de réponse ? : définissez la structure ou le style de réponse à suivre en fonction du destinataire du résultat.

    4. Quel ensemble d’instructions doit être suivi ? : définissez l’ensemble d’instructions que le modèle doit suivre pour répondre conformément aux critères de réussite

  2. Critères de réussite : définissez clairement les critères de réussite ou d’évaluation. Cela peut prendre la forme d’une liste à puces ou être aussi spécifique que certains indicateurs de métrique (par exemple : vérification de la longueur, score BLEU, rouge, format, factualité, fidélité).

  3. Brouillon d’invite : enfin, un brouillon d’invite est nécessaire pour lancer le processus itératif d’ingénierie de requête.

La famille de modèles Amazon Nova comprend deux grandes catégories de modèles : les modèles de compréhension (Amazon Nova Micro, Lite, Pro et Premier) et les modèles de génération de contenu (Amazon Nova Canvas et Reel). Les conseils suivants concernent le modèle de compréhension de texte et les modèles de compréhension visuelle. Pour obtenir des conseils sur la génération d’images, consultez Bonne pratique pour les invites Amazon Nova Canvas et pour obtenir des conseils sur la génération de vidéos, consultez Bonne pratique pour les invites Amazon Nova Reel.