View a markdown version of this page

配置您的提示 - AWS 上的生成式人工智能应用程序构建者

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

配置您的提示

部署仪表板向导具有提示配置步骤,允许您自定义提示体验和模板,以指导用户与 AI 模型之间的交互。正确配置这些设置对于从 AI 助手获得准确和相关的响应至关重要。

本节控制 AI 提示的整体体验和行为。

  • 最大提示模板长度:此设置决定了提示模板的最大长度(以字符为单位)。值越高,可以为 AI 模型提供更多的背景信息,从而可能获得更准确的响应。但是,过长的提示也可能带来噪音并对性能产生负面影响。对于 Amazon Bedrock 模型,最大提示模板长度(以字符为单位)的默认值是使用基础模型令牌限制计算得出的。如果您在 Bedrock 中编辑和更改模型名称,“重置为默认值” 按钮会突出显示,该按钮可用于采用新选择的模型的默认值。对于 SageMaker Amazon AI 模型,提供了合理的默认值,但建议您检查底层模型并相应地选择这些最大提示模板长度和输入文本长度。有关更多信息,请参阅 “管理模型代币限制的提示” 部分。

  • 最大输入文本长度:此设置限制了用户输入文本的最大长度(以字符为单位)。较长的输入可能包含不相关的信息,从而增加了从 AI 模型中获得不相关或不准确响应的风险。

  • 用户提示编辑:此选项允许您启用或禁用用户通过聊天界面修改提示模板的功能。禁用此功能可以帮助保持一致性并防止对提示进行意外更改。

提示模板

本节允许您定义 AI 模型将使用的实际提示模板。提示模板通常遵循一种结构,该结构包含各种组件的占位符,例如用户的输入、参考段落和聊天记录。

  • 提示模板:这是主文本区域,您可以在其中编写或粘贴所需的提示模板。模板的制作应为人工智能模型提供必要的背景和说明。它通常包含以下占位符:

    • {input}:此占位符是 Sagemaker AI 部署的必填项,将替换为用户的输入或查询。

    • {history}:此占位符是 Sagemaker AI 部署的必填项,将替换为当前对话的聊天记录。

    • {context}:此占位符对于 RAG 部署是必需的,将替换为从配置的知识库中获得的文档摘录。

  • 改写问题? :此选项(仅适用于 RAG 部署)决定在将用户的原始输入查询传递给 AI 模型之前,应改写还是消除歧义。改写查询的措辞有时可以帮助模型更好地理解用户的意图,从而可能获得更准确的响应。

在配置提示模板和体验时,必须在为 AI 模型提供足够的背景和说明与避免可能导致噪音或性能问题的过长或不相关的信息之间取得平衡。

高级提示设置

此部分允许您控制对话历史记录如何呈现给 AI 模型。

  • 尾随历史记录的大小:此设置决定了最终提示中应包含的先前消息的数量。将此值设置为零将导致不会向提示模板或消除歧义提示模板中注入任何历史记录。请注意:即使设置为零,提示模板中仍需要有 {history} 占位符。在运行时,它将被替换为空字符串。

    • 注意:建议为此值提供偶数。提供奇数将导致仅返回配对交互的 AI 响应。

  • Hum an Prefix:这是用于识别用户在对话历史记录中发送的消息的前缀。

  • AI 前缀:这是用于识别 AI 模型在对话历史记录中返回的消息的前缀。

消歧提示配置

本节允许您在将用户输入发送到已配置的知识库之前配置行为和模板,以消除用户输入的歧义。

  • 启用消歧义:此选项决定在将用户输入发送到知识库之前是否应消除歧义。

  • 消歧提示模板:这是用于在连接到知识库时消除用户输入的歧义的提示模板。此提示生成的输出将用作发送到知识库的查询。禁用歧义消除功能将导致用户的原始查询不变地发送到知识库。

例如,启用消歧义功能后,后续用户会查询 “费用是多少?” 可以消除 “续订我的牌照要花多少钱?” ,从而获得更好的搜索查询。