Gestione degli errori con Amazon Nova Sonic - Amazon Nova

Gestione degli errori con Amazon Nova Sonic

Quando si verificano errori, consigliamo di provare la seguente procedura:

  1. Invia un evento promptEnd.

  2. Invia un evento sessionEnd.

  3. Se lo streaming audio è iniziato, invia anche l’evento contentEnd.

Il completamento di questa procedura libera anche risorse GPU e memoria.

Quando gestisci conversazioni lunghe o esegui un ripristino a seguito di errori, puoi anche implementare la ripresa della conversazione tramite il seguente approccio:

  1. Configura l’archiviazione della cronologia della chat per mantenere il contesto della conversazione dalle interazioni precedenti. Esempi di cronologia di chat sono disponibili nel nostro repository Github di esempi di Amazon Nova.

  2. Gestisci i timeout della conversazione in modo proattivo:

    • Quando si avvicina la durata massima della connessione, termina la richiesta attuale e avviane una nuova.

    • Includi la cronologia della chat salvata nella nuova richiesta per mantenere la continuità della conversazione.

  3. Formatta correttamente le conversazioni riprese:

    • Inserisci la cronologia della chat dopo il prompt del sistema, ma prima di eventuali nuovi input dell’utente.

    • Includi i messaggi precedenti con i ruoli di utente e assistente adeguati.

    • Assicurati che il primo messaggio nella cronologia della chat sia dell’utente.

    Puoi trovare esempi di ripresa di chat nel nostro repository Github di esempi di Amazon Nova.

Quando utilizzare la ripresa della conversazione

L’approccio di ripresa della conversazione è particolarmente utile per il ripristino da errori nei seguenti scenari:

  • Dopo aver ricevuto una ModelTimeoutException con il messaggio “Timeout del modello durante l’elaborazione della richiesta”.

  • Quando devi ripristinare il contesto dopo una disconnessione imprevista.