處理 Amazon Nova Sonic 的錯誤 - Amazon Nova

處理 Amazon Nova Sonic 的錯誤

發生錯誤時,我們建議您嘗試下列步驟:

  1. 傳送 promptEnd 事件。

  2. 傳送 sessionEnd 事件。

  3. 如果音訊串流已開始,也請傳送 contentEnd 事件。

完成這些步驟也會釋放 GPU 資源和記憶體。

在處理長時間對話或從錯誤中復原時,您可以使用下列方法實作對話恢復:

  1. 設定聊天歷史記錄儲存體,以保留先前互動的對話上下文。您可以在 Amazon Nova 範例 Github 儲存庫中找到聊天歷史記錄範例。

  2. 主動處理對話逾時:

    • 當接近連線持續時間上限時,請結束目前的請求並啟動新請求。

    • 在新請求中包含儲存的聊天歷史記錄,以維持對話連續性。

  3. 正確設定所恢復對話的格式:

    • 將聊天歷史記錄放在系統提示詞之後,但在任何新使用者輸入之前。

    • 包含具有適當使用者和助理角色的先前訊息。

    • 確保聊天歷史記錄中的第一個訊息來自使用者。

    您可以在 Amazon Nova 範例 Github 儲存庫中找到聊天恢復範例。

何時使用對話恢復

在下列場景中,對話恢復方法對於錯誤復原特別有用:

  • 收到帶有「模型在處理請求時已逾時」訊息的 ModelTimeoutException 之後。

  • 當您需要在意外中斷連線後還原上下文時。