View a markdown version of this page

使用已部署的文本用例 - AWS 上的生成式人工智能应用程序构建者

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

使用已部署的文本用例

文本用例的内置 UI 旨在让业务用户能够快速浏览和试验管理员用户创建的部署。业务用户所做的配置更改仅在其会话中生效。业务用户必须与管理员用户共享这些更改,管理员用户可以用这些更改更新基础部署以供所有人使用。

聊天界面由以下组件组成:

  • 聊天窗口

  • 聊天输入框

  • 设置

  • 清晰的对话

聊天窗口

保持对话的不同转折。从右边开始的消息来自业务用户,从左边开始的消息来自配置的 LLM。所有 LLM 响应上都有一个小剪贴板图标,便于复制响应。

聊天输入框

聊天输入框固定在聊天窗口的底部。企业用户可以在此处输入要发送给 LLM 的消息。输入框正上方是连接状态。如果连接中断(例如,由于处于非活动状态),则下次发送聊天消息时会自动创建一个新的连接。由于 WebSocket 连接时间较长,此请求预计会花费更长的时间。

根据特定的配置,可能会对输入强制规定最大长度。如果超过此限制,则用户会收到警报,并且不会发送消息。

注意:如果将 RAG 与 Amazon Kendra 配合使用,检索 API 会将查询截断为 30 个代币字。如果预计用户输入的时间会更长,请评估这可能会如何影响搜索性能。

设置

为了使业务用户能够快速尝试不同的配置,我们提供了一个设置面板,允许 on-the-fly编辑某些部署配置选项

(例如,提示模板)。这些更改只能在新会话开始时进行。对话开始后,清除对话即可重新启用配置设置的编辑。

注意:管理员用户可以选择锁定部署的设置。他们可以在部署时通过向导在提示步骤中阻止实时编辑。

清晰的对话

在对话过程中,该解决方案会保留聊天记录,从而实现对话体验。这样可以消除查询歧义和后续提问。要重置对话并删除该互动的所有聊天记录,请在聊天窗口顶部选择*清除对话*。清除对话后,将创建一个新的会话,该会话可以重新允许编辑设置。