Sorotan struktur respons - Amazon Nova

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Sorotan struktur respons

Berikut ini menunjukkan elemen kunci dari struktur respons yang dikembalikan oleh non-streaming Converse dan InvokeModel fungsi. Untuk detail tentang struktur respons lengkap serta struktur permintaan dan respons untuk fungsi streaming, lihat dokumentasi API.

{
    "ResponseMetadata": {
        "RequestId": string,
        "HTTPStatusCode": int,
        "HTTPHeaders": {
            "date": string,
            "content-type": "application/json",
            "content-length": string,
            "connection": "keep-alive",
            "x-amzn-requestid": string
        },
        "RetryAttempts": 0
    },
    "output": {
        "message": {
            "role": "assistant",
            "content": [
                { // Optional
                    "reasoningContent": {
                        "reasoningText": {
                            "text": string
                        }
                    }
                },
                { // Optional
                    "toolUse": {
                        "toolUseId": string,
                        "name": string,
                        "input": object
                    }
                },
                { // Optional
                    "text": string
                },
                { // Optional
                    "image": {
                        "format": "png",
                        "source": {
                            "bytes": {
                                "bytes": image // Binary array (Converse API) or Base64-encoded string (Invoke API)
                            }
                        }
                    }
                }
            ]
        }
    },
    "stopReason": string, // "end_turn" | "content_filtered" | "max_tokens" | "malformed_model_output" | "malformed_tool_use" | etc.
    "usage": {
        "inputTokens": int,
        "outputTokens": int,
        "totalTokens": int
    },
    "metrics": {
        "latencyMs": int
    }
}

Berikut ini adalah elemen respons utama:

  • output— (Wajib) Berisi pesan respons model.

    • message— (Diperlukan) Pesan respons asisten.

      • content— (Wajib) Sebuah array dari satu atau lebih blok konten yang dapat mencakup:

        • reasoningContent— (Opsional) Dikembalikan jika penalaran diaktifkan. Berisi teks penalaran, yang akan selalu menjadi [REDACTED] respons.

        • toolUse— (Opsional) Dikembalikan jika alat dipanggil. Berisi alat menggunakan ID, nama, dan argumen masukan.

        • text— (Opsional) Dikembalikan jika model merespons dengan konten teks.

        • image— (Opsional, hanya) Dikembalikan jika model menghasilkan gambar. Format akan selalu PNG untuk gambar yang dihasilkan oleh.

  • stopReason— (Wajib) Nilai enum yang menunjukkan mengapa model berhenti menghasilkan output. Nilai yang didukung meliputi:

    • end_turn— Akhir logis dari giliran tercapai.

    • max_tokens— Output mencapai maxTokens batas yang ditetapkan oleh pengguna atau batas token keluaran maksimum model sendiri.

    • content_filtered- Output model melanggar kebijakan AI yang Bertanggung AWS Jawab.

    • malformed_model_output— Model menghasilkan output yang tidak valid.

    • malformed_tool_use— Model menghasilkan output yang tidak validtoolUse.

    • service_unavailable— Salah satu layanan alat bawaan tidak dapat dijangkau.

    • invalid_query— Kueri yang dikirim model ke alat Web Grounding bawaan tidak valid.

    • max_tool_invocations— Menunjukkan alat bawaan dipanggil tetapi tidak menghasilkan hasil yang valid, bahkan setelah beberapa kali mencoba ulang.

  • usage— (Diperlukan) Informasi penggunaan Token termasuk token input, token keluaran, dan token total.

  • metrics— (Diperlukan) Metrik kinerja termasuk latensi inferensi total dalam milidetik.