AWS 리전 전반에 가드레일 추론 배포

Amazon Bedrock Guardrails를 사용하여 교차 리전 추론을 활성화할 수 있습니다. 활성화하면 가드레일 정책 평가 중에 추론 요청이 해당 지역 내 최적의 AWS 리전으로 자동으로 라우팅됩니다. (작동 방식에 대한 자세한 내용은 교차 리전 추론을 통한 처리량 증대 섹션 참조) 추론 요청을 AWS 리전 전반에 분산하면 사용 가능한 컴퓨팅 리소스와 모델 가용성이 극대화되어 수요가 증가할 때 가드레일 성능과 신뢰성을 유지할 수 있습니다. 교차 리전 추론을 사용하는 데 따른 추가 비용은 없습니다.

교차 리전 추론 요청은 데이터가 원래 상주하는 지역에 속한 리전 내에 보관됩니다. 예를 들어, 미국 내에서 이루어진 요청은 미국의 리전 내에 보관됩니다. 가드레일 구성은 기본 리전에만 저장되지만 교차 리전 추론을 사용하는 경우 입력 프롬프트와 출력 결과가 기본 리전 외부로 이동될 수 있습니다. 모든 데이터는 Amazon의 보안 네트워크 내에서 암호화되어 전송됩니다.

교차 리전 가드레일 추론 설정

교차 리전 가드레일 추론은 가드레일을 생성하거나 수정할 때 다음 방법 중 하나로 지정할 수 있는 시스템 정의 리소스인 가드레일 프로파일을 통해 처리됩니다.

교차 리전 가드레일 추론을 사용하려면 특정 권한이 필요합니다. 자세한 내용은 Amazon Bedrock Guardrails를 통해 교차 리전 추론을 사용하는 데 필요한 권한 섹션을 참조하세요.