Points forts de la structure de réponse - Amazon Nova

Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

Points forts de la structure de réponse

Ce qui suit montre les éléments clés de la structure de réponse renvoyés par les InvokeModel fonctions Converse et les fonctions non diffusées. Pour plus de détails sur la structure de réponse complète ainsi que sur les structures de demande et de réponse pour les fonctions de streaming, consultez la documentation de l'API.

{
    "ResponseMetadata": {
        "RequestId": string,
        "HTTPStatusCode": int,
        "HTTPHeaders": {
            "date": string,
            "content-type": "application/json",
            "content-length": string,
            "connection": "keep-alive",
            "x-amzn-requestid": string
        },
        "RetryAttempts": 0
    },
    "output": {
        "message": {
            "role": "assistant",
            "content": [
                { // Optional
                    "reasoningContent": {
                        "reasoningText": {
                            "text": string
                        }
                    }
                },
                { // Optional
                    "toolUse": {
                        "toolUseId": string,
                        "name": string,
                        "input": object
                    }
                },
                { // Optional
                    "text": string
                },
                { // Optional
                    "image": {
                        "format": "png",
                        "source": {
                            "bytes": {
                                "bytes": image // Binary array (Converse API) or Base64-encoded string (Invoke API)
                            }
                        }
                    }
                }
            ]
        }
    },
    "stopReason": string, // "end_turn" | "content_filtered" | "max_tokens" | "malformed_model_output" | "malformed_tool_use" | etc.
    "usage": {
        "inputTokens": int,
        "outputTokens": int,
        "totalTokens": int
    },
    "metrics": {
        "latencyMs": int
    }
}

Les principaux éléments de réponse sont les suivants :

  • output— (Obligatoire) Contient le message de réponse du modèle.

    • message— (Obligatoire) Le message de réponse de l'assistant.

      • content— (Obligatoire) Un tableau d'un ou plusieurs blocs de contenu pouvant inclure :

        • reasoningContent— (Facultatif) Retourné si le raisonnement était activé. Contient le texte du raisonnement, qui figurera toujours [REDACTED] dans la réponse.

        • toolUse— (Facultatif) Renvoie si un outil a été appelé. Contient l'ID d'utilisation, le nom et les arguments d'entrée de l'outil.

        • text— (Facultatif) Renvoyé si le modèle a répondu avec un contenu textuel.

        • image— (Facultatif uniquement) Renvoyé si le modèle a généré une image. Le format sera toujours PNG pour les images générées par.

  • stopReason— (Obligatoire) Une valeur enum indiquant pourquoi le modèle a cessé de générer une sortie. Les valeurs prises en charge incluent :

    • end_turn— La fin logique du virage a été atteinte.

    • max_tokens— La sortie a atteint la maxTokens limite définie par l'utilisateur ou la limite maximale de jetons de sortie du modèle.

    • content_filtered— La sortie du modèle a enfreint la politique d'IA AWS responsable.

    • malformed_model_output— Le modèle a produit une sortie non valide.

    • malformed_tool_use— Le modèle a produit une toolUse sortie non valide.

    • service_unavailable— L'un des services intégrés de l'outil n'a pas pu être atteint.

    • invalid_query— La requête envoyée par le modèle à l'outil Web Grounding intégré n'était pas valide.

    • max_tool_invocations— Indique qu'un outil intégré a été appelé mais n'a pas produit de résultat valide, même après plusieurs tentatives.

  • usage— (Obligatoire) Informations sur l'utilisation des jetons, y compris les jetons d'entrée, les jetons de sortie et le nombre total de jetons.

  • metrics— (Obligatoire) Mesures de performance, y compris la latence d'inférence totale en millisecondes.