翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

ナレッジベースを使用して推論モデルのレスポンス生成を設定する

特定の基盤モデルでは、モデル推論を実行でき、より大きく複雑なタスクが、より小さくシンプルなステップに分割されます。このプロセスは、多くの場合、思考の連鎖 (CoT) 推論と呼ばれ、モデルが応答する前に考える機会を与えることで、モデルの精度を高めることができます。モデル推論は、マルチステップ分析、数値問題、複雑な推論タスクなどにおいて最も有用です。詳細については、「モデル推論を使用してモデルのレスポンスを強化する」を参照してください。

モデル推論を有効にすると、精度が向上し、引用結果が改善されますが、レイテンシーが増加する可能性があります。以下は、データソースをクエリし、Amazon Bedrock ナレッジベースで推論モデルを使用してレスポンスを生成する際の考慮事項です。

推論モデル

モデル推論は、次のモデルで使用できます。

Claude 3.7 Sonnet でモデル推論を使用する

Claude 3.7 Sonnet モデルを使用する場合、RetrieveAndGenerate API の additionalModelRequestFields パラメータを使用してモデルの推論を有効または無効にすることができます。このパラメータは、すべてのキーと値のペアを受け入れます。例えば、次に示すように、reasoningConfig フィールドを追加し、type キーを使用して推論を有効または無効にできます。

{
   "input": { 
      "text": "string",
      "retrieveAndGenerateConfiguration": { 
      "knowledgeBaseConfiguration": { 
         "generationConfiguration": { 
            "additionalModelRequestFields": {
                "reasoningConfig" : {
                    "type": "enabled",
                    "budget_tokens": INT_VAL, #required when enabled
                }
            }
         },
         "knowledgeBaseId": "string",
      },
      "type": "string"
   },
   "sessionId": "string"
}

一般的な考慮事項

ナレッジベースに推論モデルを使用する際の一般的な考慮事項を以下に示します。

API の取得と生成に関する考慮事項

推論モデルに RetrieveAndGenerate API を使用する場合の考慮事項を以下に示します。