Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

Utilisation de l’API Converse

L'API Converse fournit une interface unifiée pour interagir avec les modèles Amazon Nova. Il élimine les détails spécifiques au modèle et fournit une méthode cohérente pour gérer les conversations à plusieurs tours, les instructions du système et les réponses en streaming sur tous les modèles Amazon Nova.

Structure de la demande

Une requête d'API Converse de base inclut l'ID du modèle et une liste de messages :

import boto3

bedrock = boto3.client('bedrock-runtime', region_name='us-east-1')

response = bedrock.converse(
    modelId='us.amazon.nova-2-lite-v1:0',
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'What is machine learning?'}]
        }
    ]
)

content_list = response["output"]["message"]["content"]
# Extract the first text block
text = next((item["text"] for item in content_list if "text" in item), None)
if text is not None:
    print(text)

Utilisation des instructions du système

Les instructions du système fournissent le contexte et les instructions au modèle :

import boto3

bedrock = boto3.client('bedrock-runtime', region_name='us-east-1')

response = bedrock.converse(
    modelId='us.amazon.nova-2-lite-v1:0',
    system=[
        {'text': 'You are a helpful AI assistant specializing in cloud computing.'}
    ],
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'Explain serverless computing.'}]
        }
    ]
)

# Print the response text
content_list = response["output"]["message"]["content"]
text = next((item["text"] for item in content_list if "text" in item), None)
if text is not None:
    print(text)

Paramètres d'inférence

Contrôlez la sortie du modèle à l'aide de paramètres d'inférence. Les paramètres d'inférence disponibles sont les suivants.

Exemple :

import boto3
bedrock = boto3.client('bedrock-runtime', region_name='us-east-1')

response = bedrock.converse(
    modelId='us.amazon.nova-2-lite-v1:0',
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'Write a short story.'}]
        }
    ],
    inferenceConfig={
        'maxTokens': 512,
        'temperature': 0.7,
        'topP': 0.9,
        'stopSequences': ['END']
    }
)

content_list = response["output"]["message"]["content"]
text = next((item["text"] for item in content_list if "text" in item), None)
if text is not None:
    print(text)

Utiliser le raisonnement

Nova 2 Lite permet une réflexion approfondie pour la résolution de problèmes complexes. Permettez de raisonner avecreasoningConfig.

Par défaut, le raisonnement est désactivé pour optimiser la rapidité et le coût des requêtes simples. Lorsque vous devez aller au-delà de ces tâches simples, vous pouvez activer le raisonnement. Nova 2 permet de contrôler de manière flexible la profondeur du raisonnement grâce à trois niveaux d'effort :

Les exemples suivants montrent différents niveaux d'effort de raisonnement :

Low effort

import boto3

bedrock = boto3.client('bedrock-runtime', region_name='us-east-1')

response = bedrock.converse(
    modelId='us.amazon.nova-2-lite-v1:0',
    system=[{"text": "You are a highly capable personal assistant"}],
    messages=[{
        "role": "user",
        "content": [{"text": "Provide a meal plan for a gluten free family of 4."}]
    }],
    inferenceConfig={
        "temperature": 0.7,
        "topP": 0.9,
        "maxTokens": 10000
    },
    additionalModelRequestFields={
        "reasoningConfig": {
            "type": "enabled",
            "maxReasoningEffort": "low"
        }
    }
)

Paramètres de raisonnement :

Les paramètres de raisonnement sont les suivants :

La réponse inclut le contenu du raisonnement :

{
    "output": {
        "message": {
            "role": "assistant",
            "content": [
                {
                    "reasoningContent": {
                        "reasoningText": {
                            "text": "[REDACTED]"
                        }
                    }
                },
                {
                    "text": "Based on the premises, we can conclude..."
                }
            ]
        }
    },
    "stopReason": "end_turn"
}