Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Verwendung der Converse-API

Die Converse-API bietet eine einheitliche Schnittstelle für die Interaktion mit Amazon Nova-Modellen. Es abstrahiert modellspezifische Details und bietet eine konsistente Methode zur Verwaltung von Multi-Turn-Konversationen, Systemaufforderungen und Streaming-Antworten für alle Amazon Nova-Modelle.

Struktur der Anfrage

Eine grundlegende Converse API-Anfrage enthält die Modell-ID und eine Liste von Nachrichten:

import boto3

bedrock = boto3.client('bedrock-runtime', region_name='us-east-1')

response = bedrock.converse(
    modelId='us.amazon.nova-2-lite-v1:0',
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'What is machine learning?'}]
        }
    ]
)

content_list = response["output"]["message"]["content"]
# Extract the first text block
text = next((item["text"] for item in content_list if "text" in item), None)
if text is not None:
    print(text)

Verwenden von Systemaufforderungen

Systemaufforderungen bieten Kontext und Anweisungen für das Modell:

import boto3

bedrock = boto3.client('bedrock-runtime', region_name='us-east-1')

response = bedrock.converse(
    modelId='us.amazon.nova-2-lite-v1:0',
    system=[
        {'text': 'You are a helpful AI assistant specializing in cloud computing.'}
    ],
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'Explain serverless computing.'}]
        }
    ]
)

# Print the response text
content_list = response["output"]["message"]["content"]
text = next((item["text"] for item in content_list if "text" in item), None)
if text is not None:
    print(text)

Inferenzparameter

Steuern Sie die Ausgabe des Modells mithilfe von Inferenzparametern. Die folgenden Inferenzparameter sind verfügbar.

Beispiel:

import boto3
bedrock = boto3.client('bedrock-runtime', region_name='us-east-1')

response = bedrock.converse(
    modelId='us.amazon.nova-2-lite-v1:0',
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'Write a short story.'}]
        }
    ],
    inferenceConfig={
        'maxTokens': 512,
        'temperature': 0.7,
        'topP': 0.9,
        'stopSequences': ['END']
    }
)

content_list = response["output"]["message"]["content"]
text = next((item["text"] for item in content_list if "text" in item), None)
if text is not None:
    print(text)

Argumentation verwenden

Nova 2 Lite unterstützt erweitertes Denken zur Lösung komplexer Probleme. Ermöglichen Sie das Denken mit. reasoningConfig

Standardmäßig ist Argumentation deaktiviert, um Geschwindigkeit und Kosten bei einfachen Abfragen zu optimieren. Wenn Sie über diese einfachen Aufgaben hinausgehen möchten, können Sie Argumentation aktivieren. Nova 2 bietet eine flexible Steuerung der Argumentationstiefe und bietet drei Aufwandsebenen:

Die folgenden Beispiele zeigen die unterschiedlichen Ebenen des Argumentationsaufwands:

Low effort

import boto3

bedrock = boto3.client('bedrock-runtime', region_name='us-east-1')

response = bedrock.converse(
    modelId='us.amazon.nova-2-lite-v1:0',
    system=[{"text": "You are a highly capable personal assistant"}],
    messages=[{
        "role": "user",
        "content": [{"text": "Provide a meal plan for a gluten free family of 4."}]
    }],
    inferenceConfig={
        "temperature": 0.7,
        "topP": 0.9,
        "maxTokens": 10000
    },
    additionalModelRequestFields={
        "reasoningConfig": {
            "type": "enabled",
            "maxReasoningEffort": "low"
        }
    }
)

Parameter für das Denken:

Im Folgenden sind Argumentationsparameter aufgeführt

Die Antwort enthält Argumentationsinhalte:

{
    "output": {
        "message": {
            "role": "assistant",
            "content": [
                {
                    "reasoningContent": {
                        "reasoningText": {
                            "text": "[REDACTED]"
                        }
                    }
                },
                {
                    "text": "Based on the premises, we can conclude..."
                }
            ]
        }
    },
    "stopReason": "end_turn"
}