교차 리전 처리

Amazon Connect Decisions는 Amazon Bedrock으로 구동되며 교차 리전 추론(CRIS)을 사용하여 여러 AWS 리전에 트래픽을 분산하여 대규모 언어 모델(LLM) 추론 성능과 신뢰성을 향상시킵니다. 교차 리전 추론을 사용하면 다음을 얻을 수 있습니다.

교차 리전 추론은 Amazon Connect Decisions 인스턴스가 생성되는 AWS 리전에 따라 다르게 작동합니다.

미국 지리적 리전에서 생성된 모든 인스턴스에 대해 Amazon Connect Decisions는 글로벌 CRIS를 사용합니다. 즉, 추론 요청이 전 세계에서 지원되는 상용 AWS 리전으로 라우팅되어 사용 가능한 리소스를 최적화하고 모델 처리량을 높일 수 있습니다. Global CRIS에 대한 자세한 내용은 Amazon Bedrock 사용 설명서를 참조하세요.

EU 지리적 리전에서 생성된 모든 인스턴스에 대해 Amazon Connect Decisions는 지리적 CRIS를 사용합니다. 즉, 추론 요청은 데이터가 원래 상주하는 리전의 일부인 AWS 리전 내에 보관됩니다. 지리적 CRIS에 대한 자세한 내용은 Amazon Bedrock 사용 설명서를 참조하세요.

예를 들어 미국 동부(버지니아 북부)(us-east-1) 리전에서 생성된 Amazon Connect Decisions 인스턴스에서 이루어진 요청은 아시아 태평양(시드니)(ap-southeast-2)과 같은 전 세계 모든 AWS 리전으로 라우팅될 수 있습니다. 그러나 유럽(아일랜드)(eu-west-1) 리전에서 생성된 Amazon Connect Decisions 인스턴스에서 이루어진 요청의 경우 유럽(프랑크푸르트)(eu-central-1)과 같은 EU 내 AWS 리전으로 라우팅됩니다. 자세한 내용은 Amazon Connect 결정에 지원되는 리전을 참조하세요.

교차 리전 추론은 데이터가 저장되는 위치는 변경되지 않지만 요청 및 출력 결과는 데이터가 원래 상주하는 리전 외부로 이동할 수 있습니다. 모든 데이터는 암호화되어 Amazon의 보안 네트워크를 통해 전송됩니다. 교차 리전 추론을 사용하는 데 드는 추가 비용은 없습니다. Amazon Connect 결정 사용 시 데이터가 저장되는 위치에 대한 자세한 내용은 Amazon Connect 결정의 데이터 보호를 참조하세요.