Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

Réflexion approfondie dans Amazon Nova 2

Amazon Nova 2 Lite introduit des capacités de réflexion étendues qui permettent au modèle d'engager un raisonnement plus approfondi pour des problèmes complexes. Cette fonctionnalité optionnelle vous permet de contrôler quand et comment le modèle alloue des ressources informatiques supplémentaires pour effectuer des tâches difficiles.

Comment fonctionne la pensée étendue

Amazon Nova 2 introduit la pensée étendue en tant que capacité hybride. Vous avez le contrôle total :

Effort de raisonnement

Ce qui suit montre les différents niveaux d'effort de raisonnement.

Faible effort (MaxReasoningEffort : « faible »)

Idéal pour : les tâches plus complexes qui nécessitent une réflexion structurée. Par exemple, vous pouvez l'utiliser pour la révision du code et les suggestions d'amélioration lorsque le modèle doit prendre en compte attentivement la qualité du code existant, pour les tâches d'analyse qui nécessitent une prise en compte approfondie de plusieurs facteurs ou pour les scénarios de résolution de problèmes bénéficiant d'une approche méthodique. Le faible niveau d'effort est idéal pour les tâches complexes où le raisonnement de base améliore la précision sans nécessiter une planification approfondie en plusieurs étapes.

Effort moyen (maxReasoningEffort« moyen »)

Idéal pour : les tâches en plusieurs étapes et les flux de travail de codage. Par exemple, vous pouvez l'utiliser pour le développement et le débogage de logiciels lorsque le modèle doit comprendre la structure de code existante avant d'implémenter des modifications, pour générer du code nécessitant une coordination entre plusieurs fichiers ou composants, pour des calculs en plusieurs étapes avec interdépendances ou pour planifier des tâches avec plusieurs contraintes. Un effort moyen est optimal pour les flux de travail agentiques qui coordonnent plusieurs outils et nécessitent que le modèle maintienne le contexte de plusieurs opérations séquentielles.

Effort élevé (effort de raisonnement maximal : « élevé »)

Idéal pour : le raisonnement STEM et la résolution avancée de problèmes. Par exemple, vous pouvez l'utiliser pour des problèmes mathématiques avancés et des preuves qui nécessitent une step-by-step vérification rigoureuse, des analyses scientifiques et des tâches de recherche exigeant une investigation approfondie, une conception de systèmes complexes avec des considérations architecturales à plusieurs dimensions, ou des scénarios de prise de décision critiques ayant des implications importantes. Un effort élevé permet d'obtenir une précision maximale pour les tâches nécessitant un raisonnement sophistiqué, une évaluation minutieuse des alternatives et une validation approfondie des conclusions.

Démarrage rapide : activation de la pensée étendue

La pensée étendue est contrôlée par le reasoningConfig paramètre.

import boto3

bedrock = boto3.client('bedrock-runtime', region_name='us-east-1')

response = bedrock.converse(
    modelId='us.amazon.nova-2-lite-v1:0',
    system=[{"text": "You are a highly capable personal assistant"}],
    messages=[{
        "role": "user",
        "content": [{"text": "Provide a meal plan for a gluten free family of 4."}]
    }],
    inferenceConfig={
        "temperature": 0.7,
        "topP": 0.9,
        "maxTokens": 10000
    },
    additionalModelRequestFields={
        "reasoningConfig": {
            "type": "enabled",
            "maxReasoningEffort": "low"
        }
    }
)

content_list = response["output"]["message"]["content"]

for item in content_list:
    if "reasoningContent" in item:
        reasoning_text = item["reasoningContent"]["reasoningText"]["text"]
        print("=== REASONING ===")
        print(reasoning_text)
        print()
    elif "text" in item:
        print("=== ANSWER ===")
        print(item["text"])

Paramètres de raisonnement :

Pour des exemples complets de code utilisant la pensée étendue, voirBibliothèque de codes.

Structure de réponse

Lorsque vous activez la pensée étendue, les réponses incluent des reasoningContent blocs suivis de blocs de text contenu :

{
    "output": {
        "message": {
            "role": "assistant",
            "content": [
                {
                    "reasoningContent": {
                        "reasoningText": {
                            "text": "[REDACTED]"
                        }
                    }
                },
                {
                    "text": "Based on the premises, we can conclude..."
                }
            ]
        }
    },
    "stopReason": "end_turn"
}

Options de configuration

Amazon Nova 2 introduit un nouveau reasoningConfig paramètre que vous pouvez ajouter à votre structure de demande converse existante pour permettre le raisonnement :

additionalModelRequestFields={
    "reasoningConfig": {
        "type": "enabled",  # or "disabled" (default)
        "maxReasoningEffort": "high"  # "low", "medium", or "high"
    }
}

Paramètres :

Modèles pris en charge

Extended Thinking est actuellement disponible dans : Amazon Nova 2 Lite (us.amazon.nova-2-lite-v 1:0)

Réflexion approfondie avec utilisation d’outils

La réflexion approfondie fonctionne parfaitement avec l'appel d'outils, ce qui permet à Amazon Nova de réfléchir aux outils à utiliser et à la manière d'interpréter leurs résultats.

Comprendre les jetons de raisonnement et les prix

Types de jetons

Les jetons Extended Thinking sont facturés comme des jetons de sortie :

Répartition de l'utilisation

Les trois types de jetons sont inclus dans vos statistiques d'utilisation et dans votre facturation. Le prix des jetons de raisonnement est le même que celui des jetons de sortie et apparaîtront comme « SUPPRIMÉ » dans la réponse du modèle ».

  {
  "usage": {
    "inputTokens": 45,
    "outputTokens": 1240,
    "totalTokens": 1285
  }
}
  

Questions fréquentes (FAQ)