Gestion des erreurs avec Amazon Nova Sonic - Amazon Nova

Gestion des erreurs avec Amazon Nova Sonic

En cas d’erreur, nous vous recommandons de suivre les étapes suivantes :

  1. Envoyez l’événement promptEnd.

  2. Envoyez l’événement sessionEnd.

  3. Si le streaming audio a commencé, envoyez également l’événement contentEnd.

Ces étapes permettent également de libérer des ressources GPU et de la mémoire.

Lorsque vous traitez de longues conversations ou que vous récupérez après des erreurs, vous pouvez mettre en œuvre la reprise de la conversation en utilisant l’approche suivante :

  1. Configurez le stockage de l’historique des chats afin de conserver le contexte des conversations issues des interactions précédentes. Vous trouverez un exemple d’historique de chat dans notre référentiel Github d’exemples Amazon Nova.

  2. Gérez les délais d’expiration des conversations de manière proactive :

    • Lorsque vous approchez de la durée maximale de connexion, terminez la demande en cours et en lancez une nouvelle.

    • Incluez l’historique de chat enregistré dans la nouvelle demande afin de maintenir la continuité de la conversation.

  3. Formatez correctement les conversations reprises :

    • Placez l’historique de chat après l’invite système, mais avant toute nouvelle saisie de l’utilisateur.

    • Incluez les messages précédents avec les rôles d’utilisateur et d’assistant appropriés.

    • Assurez-vous que le premier message de l’historique de chat provient de l’utilisateur.

    Vous trouverez un exemple de reprise de chat dans notre référentiel Github Amazon Nova samples.

Quand utiliser la reprise de conversation

L’approche de reprise de conversation est particulièrement utile pour la récupération d’erreurs dans les scénarios suivants :

  • Après avoir reçu un ModelTimeoutException avec le message « Le modèle a expiré lors du traitement de la demande ».

  • Lorsque vous devez restaurer le contexte après une déconnexion inattendue.