View a markdown version of this page

使用部署的文字使用案例 - AWS 上的生成式 AI 應用程式建置器

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

使用部署的文字使用案例

文字使用案例的內建 UI 旨在讓商業使用者快速探索和實驗管理員使用者建立的部署。商業使用者所做的組態變更只會對其工作階段生效。商業使用者必須與管理員使用者共用這些變更,管理員使用者可以使用這些變更來更新基本部署,以供所有 使用。

聊天 UI 包含下列元件:

  • 聊天視窗

  • 聊天輸入方塊

  • 設定

  • 清除對話

聊天視窗

保留不同的對話轉彎。從右側開始的訊息來自商業使用者,從左側開始的訊息來自設定的 LLM。所有 LLM 回應上都存在一個小型剪貼簿圖示,以便輕鬆複製回應。

聊天輸入方塊

固定於聊天視窗底部是聊天輸入方塊。在這裡,商業使用者可以輸入要傳送到 LLM 的訊息。輸入方塊正上方是連線狀態。如果連線遺失 (例如,由於閒置),下次傳送聊天訊息時會自動建立新的連線。由於額外的 WebSocket 連線時間,此請求預計需要更長的時間。

根據特定組態,輸入可能會強制執行長度上限。如果超過此限制,使用者會收到提醒,而且不會傳送訊息。

注意:如果搭配 Amazon Kendra 使用 RAG,則擷取 API 會將查詢截斷為 30 個字符字。如果預期使用者輸入時間較長,請評估這可能會影響搜尋效能。

設定

為了讓商業使用者能夠快速試驗不同的組態,可使用設定面板,以on-the-fly編輯特定部署組態選項

(例如提示範本)。這些變更只能在新工作階段開始時進行。對話開始後,清除對話會重新啟用組態設定的編輯。

注意:管理員使用者可以選擇鎖定部署的設定。在提示步驟期間,他們可以防止透過精靈在部署時間進行即時編輯。

清除對話

在對話過程中,解決方案會維護聊天歷史記錄,以啟用對話體驗。這可啟用查詢歧義和後續問題。若要重設對話並刪除此互動的所有聊天歷史記錄,請選擇聊天視窗頂端的 *清除對話 *。對話清除後,會建立新的工作階段,以重新啟用編輯設定。