Amazon Bedrock 추론

이 주제에서는 추론을 위해 훈련된 Amazon Nova 모델을 Amazon Bedrock에 배포하는 방법을 알아봅니다. 추론의 목적은 훈련된 모델을 Amazon Bedrock에 배포하여 프로덕션 환경에서 사용할 수 있도록 하는 것입니다. 배포 프로세스에는 일반적으로 Amazon Bedrock API를 사용하여 사용자 지정 모델을 생성하고, 서비스 관리형 Amazon S3 버킷에서 모델 아티팩트를 지정하고, 모델이 ACTIVE 상태가 될 때까지 기다리고, 프로비저닝된 처리량을 구성하는 단계가 포함됩니다. 이러한 프로세스를 완료하면 애플리케이션 통합을 위한 모델 엔드포인트가 배포됩니다.