전체 요청 스키마

요청 스키마는 Invoke API(스트리밍 및 비스트리밍)와 Converse API 간에 거의 동일합니다. 이미지 및 비디오 페이로드 인코딩과 관련된 미묘한 차이가 있습니다. Amazon Nova Micro는 이미지 또는 비디오를 입력으로 지원하지 않으므로 요청 스키마의 해당 부분은 Amazon Nova Micro에 적용되지 않습니다. 그렇지 않으면 요청 스키마는 모든 Amazon Nova 이해 모델에 대해 동일합니다.

client = boto3.client(
    "bedrock-runtime",
    region_name="us-east-1",
    config=Config(
        connect_timeout=3600,  # 60 minutes
        read_timeout=3600,     # 60 minutes
        retries={'max_attempts': 1}
    )
)

{
  "system": [
    {
      "text": string
    }
  ],
  "messages": [
    {
      "role": "user", //first turn should always be the user turn
      "content": [
        {
          "text": string
        },
        {
          "image": {
            "format": "jpeg" | "png" | "gif" | "webp",
            "source": {
              "bytes": image // Binary array (Converse API) or Base64-encoded string (Invoke API)
            }
          }
        },
        {
          "video": {
            "format": "mkv" | "mov" | "mp4" | "webm" | "three_gp" | "flv" | "mpeg" | "mpg" | "wmv",
            "source": {
              // Option 1: Sending a S3 location 
              "s3Location": {
                "uri": string, // example: s3://my-bucket/object-key
                "bucketOwner": string // (Optional) example: "123456789012"
               }
              // Option 2: Sending file bytes 
              "bytes": video // Binary array (Converse API) or Base64-encoded string (Invoke API)
            }
          }
        },
      ]
    },
    {
      "role": "assistant",
      "content": [
        {
          "text": string //prefilling assistant turn
        }
      ]
    }
  ],
 "inferenceConfig":{ // all Optional, Invoke parameter names used in this example
    "maxTokens": int, // greater than 0, equal or less than 5k (default: dynamic*)
    "temperature": float, // greater then 0 and less than 1.0 (default: 0.7)
    "topP": float, // greater than 0, equal or less than 1.0 (default: 0.9)
    "topK": int, // 0 or greater (default: 50)
    "stopSequences": [string]
  },
  "toolConfig": { // all Optional
        "tools": [
                {
                    "toolSpec": {
                        "name": string, //meaningful tool name (Max char: 64)
                        "description": string, //meaningful description of the tool
                        "inputSchema": {
                            "json": { // The JSON schema for the tool. For more information, see JSON Schema Reference
                                "type": "object",
                                "properties": {
                                    args;: { //arguments 
                                        "type": string, //argument data type
                                        "description": string //meaningful description
                                    }
                                },
                                "required": [
                                    string //args
                                ]
                            }
                        }
                    }
                }
            ],
   "toolChoice": {"auto":{}} //Amazon Nova models ONLY support tool choice of "auto"
    }
}

다음은 필수 파라미터입니다.