Converse API の使用

Converse API は、Amazon Nova モデルとやり取りするための統合インターフェイスを提供します。モデル固有の詳細を抽象化し、すべての Amazon Nova モデルでマルチターン会話、システムプロンプト、ストリーミングレスポンスを一貫した方法で処理できます。

リクエスト構造

基本的な Converse API リクエストには、モデル ID とメッセージのリストが含まれます。

import boto3

bedrock = boto3.client('bedrock-runtime', region_name='us-east-1')

response = bedrock.converse(
    modelId='us.amazon.nova-2-lite-v1:0',
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'What is machine learning?'}]
        }
    ]
)

content_list = response["output"]["message"]["content"]
# Extract the first text block
text = next((item["text"] for item in content_list if "text" in item), None)
if text is not None:
    print(text)

システムプロンプトの使用

システムプロンプトは、モデルに指示またはコンテキストを提供します。

import boto3

bedrock = boto3.client('bedrock-runtime', region_name='us-east-1')

response = bedrock.converse(
    modelId='us.amazon.nova-2-lite-v1:0',
    system=[
        {'text': 'You are a helpful AI assistant specializing in cloud computing.'}
    ],
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'Explain serverless computing.'}]
        }
    ]
)

# Print the response text
content_list = response["output"]["message"]["content"]
text = next((item["text"] for item in content_list if "text" in item), None)
if text is not None:
    print(text)

推論パラメータ

推論パラメータを使用してモデルの出力を制御します。以下は利用できる推論パラメータです。

例:

import boto3
bedrock = boto3.client('bedrock-runtime', region_name='us-east-1')

response = bedrock.converse(
    modelId='us.amazon.nova-2-lite-v1:0',
    messages=[
        {
            'role': 'user',
            'content': [{'text': 'Write a short story.'}]
        }
    ],
    inferenceConfig={
        'maxTokens': 512,
        'temperature': 0.7,
        'topP': 0.9,
        'stopSequences': ['END']
    }
)

content_list = response["output"]["message"]["content"]
text = next((item["text"] for item in content_list if "text" in item), None)
if text is not None:
    print(text)

推論の使用

Nova 2 Lite は、複雑な問題解決のための拡張思考をサポートしています。reasoningConfig で推論を有効にします。

デフォルトでは、推論は単純なクエリの速度とコストを最適化するために無効になっています。これらの単純なタスクを超える必要がある場合は、推論を有効にできます。Nova 2 では、次の 3 つの労力レベルを通じて推論深度を柔軟に制御できます。

次の例は、さまざまな推論の労力レベルを示しています。

Low effort

import boto3

bedrock = boto3.client('bedrock-runtime', region_name='us-east-1')

response = bedrock.converse(
    modelId='us.amazon.nova-2-lite-v1:0',
    system=[{"text": "You are a highly capable personal assistant"}],
    messages=[{
        "role": "user",
        "content": [{"text": "Provide a meal plan for a gluten free family of 4."}]
    }],
    inferenceConfig={
        "temperature": 0.7,
        "topP": 0.9,
        "maxTokens": 10000
    },
    additionalModelRequestFields={
        "reasoningConfig": {
            "type": "enabled",
            "maxReasoningEffort": "low"
        }
    }
)

推論パラメータ:

以下は推論パラメータです

レスポンスには推論コンテンツが含まれます。

{
    "output": {
        "message": {
            "role": "assistant",
            "content": [
                {
                    "reasoningContent": {
                        "reasoningText": {
                            "text": "[REDACTED]"
                        }
                    }
                },
                {
                    "text": "Based on the premises, we can conclude..."
                }
            ]
        }
    },
    "stopReason": "end_turn"
}