기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

AI 프롬프트 및 AI 에이전트용 모델 업그레이드

Amazon Connect에서 AI 프롬프트 또는 AI 에이전트를 사용자 지정할 때 각 AI 프롬프트와 연결된 모델은 지침을 처리하는 대규모 언어 모델(LLM)을 결정합니다. 시간이 지남에 따라 더 새롭고 기능이 뛰어난 모델을 사용할 수 있게 됩니다. 이 주제에서는 몇 가지 일반적인 시나리오에서 모델을 업그레이드하는 방법을 설명합니다.

사전 조건

모델을 업그레이드하기 전에 다음이 있는지 확인합니다.

업그레이드 시기

Amazon Connect는 모델 사용 중단이 예약되면 알려줍니다. Amazon Connect는 사용 중단 날짜가 지난 모델이 있으면 지원되는 모델로 LLM 추론을 자동으로 리디렉션하므로 서비스 중단이 발생하지 않습니다. 그러나 사용 중단 날짜 이전에 수동으로 업그레이드하면 대체 모델을 선택하고 환경에서 테스트할 수 있습니다. 다음 단계에 따라 자신에게 적용되는 시나리오를 결정합니다.

1단계: 사용자 지정 AI 에이전트를 확인합니다. 관리자 웹 사이트에서 AI 에이전트 디자이너인 AI 에이전트로 이동합니다. 유형 열을 살펴봅니다. 시스템 에이전트는 유형 이름 뒤에 시스템을 표시합니다(예: "응답 권장 사항 - 시스템"). 이 접미사가 없는 에이전트는 생성한 사용자 지정 에이전트입니다.

2단계: 기본 AI 에이전트 구성을 확인합니다. 동일한 AI 에이전트 페이지에서 기본 AI 에이전트 구성 섹션으로 스크롤합니다. 사용 사례가 특정 버전(최신으로 설정되지 않음)에 고정되어 있는 경우 → 시나리오 3을 업데이트할 수 있습니다. 이는 사용자 지정 에이전트가 없더라도 모든 고객에게 적용됩니다.

모델 해상도 작동 방식

개별 AI 에이전트를 구성할 때 Connect가 각 프롬프트에 사용할 LLM을 선택하거나, 각 프롬프트가 사용할 모델을 선택하거나, 두 옵션의 조합을 선택하도록 할 수 있습니다.

시나리오 1: 사용자 지정 AI 프롬프트가 있는 사용자 지정 AI 에이전트

이 시나리오에서는 사용자 지정 AI 에이전트를 생성하고 하나 이상의 사용자 지정 AI 프롬프트를 할당했습니다. 사용자 지정 프롬프트는 게시할 때 선택한 모델에 고정됩니다.

사용자 지정 프롬프트는 모델 업그레이드를 자동으로 수신하지 않습니다. 모델을 수동으로 업데이트하고, 새 프롬프트 버전을 게시하고, AI 에이전트를 업데이트해야 합니다.

일부 프롬프트 유형만 재정의한 경우

일부 AI 에이전트 유형은 여러 프롬프트 유형을 지원합니다. 예를 들어 답변 권장 AI 에이전트는 의도 레이블 지정 생성, 쿼리 재구성, 답변 생성의 세 가지 프롬프트 유형을 지원합니다. 이 중 일부만 사용자 지정 프롬프트로 설정하고 나머지는 설정되지 않은 상태로 두면 다음이 적용됩니다.

관리자 웹 사이트를 사용하여 업그레이드

1단계: 업데이트된 모델을 사용하여 새 프롬프트 버전 생성

2단계: 새 프롬프트 버전을 사용하도록 AI 에이전트 업데이트

3단계: 새 AI 에이전트 버전을 기본값으로 설정

AWS CLI를 사용하여 업그레이드

AI 프롬프트를 새 모델로 업데이트합니다.

aws qconnect update-ai-prompt \
  --assistant-id assistant-id \
  --ai-prompt-id custom-prompt-id \
  --model-id new-model-id

프롬프트의 새 버전을 게시합니다.

aws qconnect create-ai-prompt-version \
  --assistant-id assistant-id \
  --ai-prompt-id custom-prompt-id

AI 에이전트를 업데이트하여 새 프롬프트 버전을 참조합니다.

aws qconnect update-ai-agent \
  --assistant-id assistant-id \
  --ai-agent-id custom-agent-id \
  --configuration '{
    "agentTypeConfiguration": {
      "promptTypeAIPromptId": "custom-prompt-id:new-version-number"
    }
  }'

AI 에이전트의 새 버전을 게시합니다.

aws qconnect create-ai-agent-version \
  --assistant-id assistant-id \
  --ai-agent-id custom-agent-id

새 AI 에이전트 버전을 기본값으로 설정합니다.

aws qconnect update-assistant-ai-agent \
  --assistant-id assistant-id \
  --ai-agent-type AGENT_TYPE \
  --configuration '{
    "aiAgentId": "custom-agent-id:new-version-number"
  }'

시나리오 2: 프롬프트 재정의가 없는 사용자 지정 AI 에이전트

이 시나리오에서는 로캘 또는 지식 기반 구성과 같은 설정을 사용자 지정하는 사용자 지정 AI 에이전트를 생성했지만 프롬프트 유형을 재정의하지 않았습니다. 모든 프롬프트는 시스템 기본값에서 확인됩니다.

자동 업그레이드

Amazon Connect가 업그레이드된 모델이 포함된 새 시스템 AI 에이전트 및 프롬프트 버전을 게시하면 사용자 지정 AI 에이전트가 자동으로 최신 시스템 프롬프트 버전을 선택합니다. 아무 조치도 필요하지 않습니다.

이는 설정되지 않은 프롬프트 유형이 항상 최신 시스템 프롬프트 버전을 가리키는 현재 시스템 기본값에서 런타임 시 확인되기 때문입니다.

시스템 업그레이드 전에 특정 모델 강제 적용

Amazon Connect가 새 모델을 시스템 기본값으로 롤아웃하기 전에 사용하려는 경우:

그러면 해당 프롬프트 유형이 시나리오 1 구성으로 변환됩니다.

시나리오 3: 기본 AI 에이전트 구성 업데이트

AI 에이전트 개요 페이지의 기본 AI 에이전트 구성 섹션은 각 사용 사례(응답 권장 사항, 수동 검색, 셀프 서비스 등)에 대해 활성화된 AI 에이전트 버전을 제어합니다.

Amazon Connect 인스턴스가 생성되면 각 사용 사례가 특정 시스템 AI 에이전트 버전으로 자동으로 구성됩니다. 이러한 버전은 고정되어 있습니다. Amazon Connect가 새 시스템 AI 에이전트 버전을 게시하거나 새 사용자 지정 AI 에이전트 버전을 게시할 때 자동 업데이트되지 않습니다. 새 버전을 수동으로 선택해야 합니다.

관리자 웹 사이트를 사용하여 업그레이드

AWS CLI를 사용하여 업그레이드

aws qconnect update-assistant-ai-agent \
  --assistant-id assistant-id \
  --ai-agent-type AGENT_TYPE \
  --configuration '{
    "aiAgentId": "ai-agent-id:new-version-number"
  }'

AGENT_TYPE을 사용 사례 유형(예: , ANSWER_RECOMMENDATIONMANUAL_SEARCH, SELF_SERVICE)으로 바꿉니다.

요약

중요 고려 사항