View a markdown version of this page

設定您的提示 - AWS 上的生成式 AI 應用程式建置器

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

設定您的提示

部署儀表板精靈具有提示組態步驟,可讓您自訂提示體驗和範本,以引導使用者和 AI 模型之間的互動。正確設定這些設定對於從 AI 助理取得準確且相關的回應至關重要。

本節控制 AI 提示的整體體驗和行為。

  • 提示範本長度上限:此設定決定提示範本的長度上限 (以字元為單位)。較高的值可讓 AI 模型提供更多內容,進而產生更準確的回應。不過,過長的提示也可能會產生雜訊,並對效能產生負面影響。對於 Amazon Bedrock 模型,使用基礎模型字符限制計算提示範本長度上限的預設值 (以字元為單位)。如果您在 Bedrock 中編輯和變更模型名稱,「重設為預設值」按鈕會反白顯示,並可用來採用新選取的模型預設值。對於 Amazon SageMaker AI 模型,提供了合理的預設值,但建議您檢查基礎模型,並相應地選擇這些提示範本長度上限和輸入文字長度。如需詳細資訊,請參閱管理模型字符限制的秘訣一節。

  • 輸入文字長度上限:此設定會限制使用者輸入文字的長度上限 (以字元為單位)。較長的輸入可能包含不相關的資訊,增加從 AI 模型取得不相關或不準確回應的風險。

  • 使用者提示編輯:此選項可讓您啟用或停用使用者透過聊天 UI 修改提示範本的功能。停用此功能有助於維持一致性,並防止對提示進行意外變更。

提示範本

本節可讓您定義 AI 模型將使用的實際提示範本。提示範本通常會遵循包含各種元件預留位置的結構,例如使用者的輸入、參考段落和聊天歷史記錄。

  • 提示範本:這是您可以撰寫或貼上所需提示範本的主要文字區域。範本應製作為 AI 模型提供必要的內容和指示。它通常包含下列預留位置:

    • {input}:此預留位置對於 Sagemaker AI 部署而言是強制性的,並將取代為使用者的輸入或查詢。

    • {history}:此預留位置對於 Sagemaker AI 部署而言是強制性的,並將取代為目前對話的聊天歷史記錄。

    • {context}:此預留位置對於 RAG 部署是強制性的,並將取代為從設定的知識庫取得的文件摘錄。

  • 重述問題?:此選項 (僅適用於 RAG 部署) 會決定在傳遞給 AI 模型之前,是否應重述或取消歧義使用者的原始輸入查詢。重新表達查詢有時有助於模型更了解使用者的意圖,進而產生更準確的回應。

設定提示範本和體驗時,請務必在為 AI 模型提供足夠的內容和指示之間取得平衡,同時避免過於長或無關的資訊,這可能會導致雜訊或效能問題。

進階提示設定

本節可讓您控制如何向 AI 模型呈現對話歷史記錄。

  • 追蹤歷史記錄的大小:此設定會決定應該包含在最終提示中的先前訊息數量。將此值設為零會導致沒有歷史記錄插入提示範本或歧義提示範本。請注意:即使設為零,仍然需要在提示範本中存在 {history} 預留位置。在執行時間,它會取代為空字串。

    • 注意:建議為此值提供偶數。提供奇數只會傳回配對互動的 AI 回應。

  • 人力字首:這是用來識別使用者在對話歷史記錄中傳送之訊息的字首。

  • AI 字首:這是用來識別對話歷史記錄中 AI 模型傳回之訊息的字首。

歧義提示詞組態

本節可讓您在將使用者輸入傳送至設定的知識庫之前,設定用於取消混淆使用者輸入的行為和範本。

  • 啟用歧義:此選項會判斷使用者輸入是否應該在傳送至知識庫之前歧義。

  • 歧義提示範本:這是提示範本,用於在連線到知識庫時歧義使用者輸入。從此提示產生的輸出將用作傳送至知識庫的查詢。停用歧義會導致使用者的原始查詢未變更地傳送至知識庫。

例如,啟用歧義時,後續使用者查詢「費用是多少?」 可能會混淆為「續約我的車牌的費用是多少?」,進而產生更好的搜尋查詢。