View a markdown version of this page

배포된 텍스트 사용 사례 사용 - AWS의 생성형 AI 애플리케이션 빌더

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

배포된 텍스트 사용 사례 사용

텍스트 사용 사례에 내장된 UI는 비즈니스 사용자가 관리자 사용자가 생성한 배포를 빠르게 탐색하고 실험할 수 있도록 하기 위한 것입니다. 비즈니스 사용자가 변경한 구성은 세션에만 적용됩니다. 비즈니스 사용자는 이러한 변경 사항을 관리자 사용자와 공유해야 합니다. 관리자 사용자는 모든 사용자가 사용할 수 있도록 이러한 변경 사항으로 기본 배포를 업데이트할 수 있습니다.

채팅 UI는 다음 구성 요소로 구성됩니다.

  • 채팅 창

  • 채팅 입력 상자

  • Settings

  • 대화 지우기

채팅 창

대화의 다양한 턴을 유지합니다. 오른쪽에서 시작하는 메시지는 비즈니스 사용자의 메시지이고 왼쪽에서 시작하는 메시지는 구성된 LLM의 메시지입니다. 응답을 쉽게 복사할 수 있도록 모든 LLM 응답에 작은 클립보드 아이콘이 있습니다.

채팅 입력 상자

채팅 창 하단에는 채팅 입력 상자가 고정되어 있습니다. 여기서 비즈니스 사용자는 메시지를 입력하여 LLM으로 전송할 수 있습니다. 입력 상자 바로 위에 연결 상태가 있습니다. 연결이 끊어지면(예: 비활성으로 인해) 다음에 채팅 메시지가 전송될 때 새 연결이 자동으로 생성됩니다. 이 요청은 추가 WebSocket 연결 시간으로 인해 약간 더 오래 걸릴 것으로 예상됩니다.

특정 구성에 따라 입력에 적용되는 최대 길이가 있을 수 있습니다. 이 제한을 초과하면 사용자에게 알림이 수신되고 메시지가 전송되지 않습니다.

참고: Amazon Kendra에서 RAG를 사용하는 경우 Retrieve API는 쿼리를 30개의 토큰 단어로 자릅니다. 사용자 입력이 더 길어질 것으로 예상되는 경우 검색 성능에 어떤 영향을 미칠 수 있는지 평가합니다.

Settings

비즈니스 사용자가 다양한 구성을 빠르게 실험할 수 있도록 설정 패널을 사용할 수 있어 특정 배포 구성 옵션을 on-the-fly 편집할 수 있습니다.

(예: 프롬프트 템플릿). 이러한 변경은 새 세션이 시작될 때만 수행할 수 있습니다. 대화가 시작되면 대화를 지우면 구성 설정 편집이 다시 활성화됩니다.

참고: 관리자 사용자는 배포 설정을 잠그도록 선택할 수 있습니다. 프롬프트 단계에서 마법사를 통해 배포 시 라이브 편집을 방지할 수 있습니다.

대화 지우기

대화 과정에서 솔루션은 채팅 기록을 유지하여 대화 경험을 가능하게 합니다. 이렇게 하면 쿼리 모호화 및 후속 질문이 활성화됩니다. 대화를 재설정하고이 상호작용에 대한 모든 채팅 기록을 삭제하려면 채팅 창 상단에서 *대화 지우기 *를 선택합니다. 대화가 지워지면 설정을 다시 편집할 수 있는 새 세션이 생성됩니다.