View a markdown version of this page

추론 프로파일에 지원되는 리전 및 모델 - Amazon Bedrock
지원되는 교차 리전 추론 프로파일애플리케이션 추론 프로파일에 지원되는 리전 및 모델

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

추론 프로파일에 지원되는 리전 및 모델

Amazon Bedrock에서 지원되는 리전 코드 및 엔드포인트 목록은 Amazon Bedrock 엔드포인트 및 할당량 섹션을 참조하세요. 이 주제에서는 사용할 수 있는 사전 정의된 추론 프로파일과 애플리케이션 추론 프로파일을 지원하는 리전 및 모델에 대해 설명합니다.

지원되는 교차 리전 추론 프로파일

교차 리전(시스템 정의) 추론 프로파일을 사용하여 교차 리전 추론을 수행할 수 있습니다. 리전 간 추론을 사용하면 다양한 컴퓨팅을 활용하여 계획되지 않은 트래픽 버스트를 원활하게 관리할 수 있습니다 AWS 리전. 교차 리전 추론을 사용하면 트래픽을 여러 AWS 리전에 분산할 수 있습니다.

교차 리전(시스템 정의) 추론 프로파일은 지원하는 모델의 이름을 따서 이름이 지정되고 지원하는 리전에서 정의됩니다. 교차 리전 추론 프로파일이 요청을 처리하는 방법을 이해하려면 다음 정의를 검토하세요.

  • 소스 리전 - 추론 프로파일을 지정하는 API 요청을 수행하는 리전입니다.

  • 대상 리전 - Amazon Bedrock 서비스가 소스 리전의 요청을 라우팅할 수 있는 리전입니다.

Amazon Bedrock에서 교차 리전 추론 프로파일을 간접적으로 호출하면 요청은 소스 리전에서 시작되고 해당 프로파일에 정의된 대상 리전 중 하나로 자동으로 라우팅되어 성능을 최적화합니다. 글로벌 교차 리전 추론 프로파일의 대상 리전에는 모든 상용 리전이 포함됩니다.

참고

교차 리전 추론 프로파일의 대상 리전에는 AWS 계정 또는 조직 수준에서 명시적으로 활성화해야 하는 리전인 옵트인 리전이 포함될 수 있습니다. 자세한 내용은 계정 AWS 리전 에서 활성화 또는 비활성화를 참조하세요. 교차 리전 추론 프로파일을 사용하는 경우 계정의 해당 리전에 옵트인하지 않은 경우에도 추론 요청을 프로파일의 대상 리전으로 라우팅할 수 있습니다.

서비스 제어 정책(SCPs)과 AWS Identity and Access Management (IAM) 정책은 함께 작동하여 리전 간 추론이 허용되는 위치를 제어합니다. SCP를 사용하면 Amazon Bedrock이 추론에 사용할 수 있는 리전을 제어할 수 있으며, IAM 정책을 사용하면 추론을 실행할 권한이 있는 사용자 또는 역할을 정의할 수 있습니다. 교차 리전 추론 프로파일의 대상 리전이 SCP에서 차단된 경우 다른 리전이 허용된 상태로 남아 있더라도 요청이 실패합니다. 교차 리전 추론을 통한 효율적인 작업을 보장하기 위해 SCP 및 IAM 정책을 업데이트하여 선택한 추론 프로파일에 포함된 모든 대상 리전에서 필요한 모든 Amazon Bedrock 추론 작업(예: bedrock:InvokeModel* 또는 bedrock:CreateModelInvocationJob)을 허용할 수 있습니다. 자세한 내용은 다중 계정 환경에서 Amazon Bedrock 교차 리전 추론 활성화를 참조하세요.

참고

일부 추론 프로파일은 직접적으로 호출하는 소스 리전에 따라 다른 대상 리전으로 라우팅됩니다. 예를 들어 미국 동부(오하이오)에서 us.anthropic.claude-3-haiku-20240307-v1:0을 직접 호출하면 요청을 us-east-1, us-east-2 또는 us-west-2로 라우팅할 수 있지만 미국 서부(오리건)에서 직접 호출하면 요청을 us-east-1 및 us-west-2로만 라우팅할 수 있습니다.

소스 및 대상 리전에서 추론 프로파일을 확인하려면 다음 중 하나를 수행할 수 있습니다.

참고

가 요청을 처리할 수 있는 상용 리전을 AWS 추가함에 따라 특정 모델의 글로벌 리전 간 추론 프로필은 시간이 지남에 따라 변경될 수 있습니다. 그러나 추론 프로파일이 지리(예: 미국, EU 또는 APAC)에 연결된 경우 대상 리전 목록은 변경되지 않습니다.는 새 리전을 통합하는 새 추론 프로파일을 생성할 AWS 수 있습니다. 설정의 ID를 새 ID로 변경하여 이러한 추론 프로파일을 사용하도록 시스템을 업데이트할 수 있습니다.

글로벌 교차 리전 추론 프로파일은 현재 미국 서부(오리건), 미국 동부(버지니아 북부), 미국 동부(오하이오), 유럽(아일랜드), 아시아 태평양(도쿄) 소스 리전의 Anthropic Claude Sonnet 4 모델에서만 지원됩니다. 글로벌 추론 프로파일의 대상 리전에는 모든 상용 AWS 리전이 포함됩니다.

지리 및 글로벌 추론 프로파일을 지원하는 모델을 확인하려면 모델을 한눈에 살펴보고 관심 있는 모델을 선택하세요.

애플리케이션 추론 프로파일에 지원되는 리전 및 모델

AWS 리전다음과 같은 모든 모델에 대해 애플리케이션 추론 프로파일을 생성할 수 있습니다.

  • ap-northeast-1

  • ap-northeast-2

  • ap-south-1

  • ap-southeast-1

  • ap-southeast-2

  • ca-central-1

  • eu-central-1

  • eu-west-1

  • eu-west-2

  • eu-west-3

  • sa-east-1

  • us-east-1

  • us-east-2

  • us-gov-east-1

  • us-west-2

Amazon Bedrock에서 지원되는 대부분의 모델에서 애플리케이션 추론 프로파일을 생성할 수 있습니다. 임베딩 모델과 같은 일부 모델은 추론 프로파일을 지원하지 않습니다. 특정 모델이 추론 프로파일을 지원하는지 확인하려면 모델을 한눈에 확인하세요.