에 가드레일 추론 배포 AWS 리전

Amazon Bedrock Guardrails를 사용하여 리전 간 추론을 활성화할 수 있습니다. 그러면 가드레일 정책 평가 중에 추론 요청이 리전 AWS 리전 내 최적의 로 자동으로 라우팅됩니다. (이 작동 방식에 대한 자세한 내용은 섹션을 참조하세요교차 리전 추론을 통한 처리량 증가.) 에 추론 요청을 분산하면 사용 가능한 컴퓨팅 리소스와 모델 가용성이 AWS 리전 극대화되어 수요가 증가할 때 가드레일 성능과 신뢰성을 유지할 수 있습니다. 리전 간 추론을 사용하는 데 드는 추가 비용은 없습니다.

교차 리전 추론 요청은 데이터가 원래 상주하는 리전의 일부인 리전 내에 보관됩니다. 예를 들어, 미국에서 이루어진 요청은 미국의 리전 내에 보관됩니다. 가드레일 구성은 기본 리전에만 저장되지만 교차 리전 추론을 사용할 때 입력 프롬프트 및 출력 결과가 기본 리전 외부로 이동할 수 있습니다. 모든 데이터는 Amazon의 보안 네트워크 내에서 암호화되어 전송됩니다.

교차 리전 가드레일 추론 설정

리전 간 가드레일 추론은 가드레일을 생성하거나 수정할 때 다음 방법 중 하나로 지정할 수 있는 시스템 정의 리소스인 가드레일 프로파일을 통해 처리됩니다. https://docs.aws.amazon.com/bedrock/latest/userguide/guardrails-create.html https://docs.aws.amazon.com/bedrock/latest/userguide/guardrails-edit.html

리전 간 가드레일 추론을 사용하려면 특정 권한이 필요합니다. 자세한 내용은 Amazon Bedrock Guardrails에서 리전 간 추론을 사용하기 위한 권한 단원을 참조하십시오.