사용자 지정 모델 실행 비용 계산 - Amazon Bedrock

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

사용자 지정 모델 실행 비용 계산

Amazon Bedrock으로 가져오는 사용자 지정 모델을 사용하여 추론을 실행하면 요금이 부과됩니다. 다음 정보를 사용하여 사용자 지정 모델의 실행 비용을 추정합니다.

사용자 지정 모델 단위(CMU)는 Amazon Bedrock이 사용자 지정 모델의 단일 사본을 호스팅하는 데 필요한 하드웨어 사용률을 추상적으로 보여줍니다. 모델 사본은 추론 요청을 처리할 준비가 된 가져온 모델의 단일 인스턴스를 나타냅니다. Amazon Bedrock은 사용자 지정 모델을 가져올 때 모델 사본에 필요한 사용자 지정 모델 단위 수를 결정합니다. 추론 수요가 변경되면 Amazon Bedrock은 실행 중인 모델 사본의 수를 늘리거나 줄일 수 있습니다.

CMU를 사용하여 다음 공식으로 사용자 지정 모델의 실행 비용을 추정할 수 있습니다.

총 비용 = 실행 중인 모델 사본 수 × 사본당 CMU 수 × 분당 CMU당 청구 요금 × ((5분 단위 기간 수)/60)

  • 실행 중인 모델 사본 수 - Amazon CloudWatch의 ModelCopy 지표에서 가져옵니다.

  • 사본당 CMU 수 - Amazon Bedrock 세부 정보 페이지의 모델 세부 정보 페이지에서 값을 가져옵니다. 또는 GetImportedModel 작업을 직접적으로 호출하여 customModelUnitsPerModelCopy 필드에서 사본당 CMU 수를 가져옵니다.

  • 분당 CMU당 청구 요금 - Amazon Bedrock 콘솔의 모델 세부 정보 페이지에서 사용자 지정 모델 단위 버전을 가져옵니다. 또는 GetImportedModel 작업을 직접적으로 호출하고 customModelUnitsVersion 필드에서 사용자 지정 모델 단위 버전을 가져옵니다.

    그런 다음 Amazon Bedrock 요금 페이지의 사용자 지정 모델 가져오기 섹션에서 모델 버전(사용자 지정 모델 단위 버전)에 대한 청구 요금(분당 사용자 지정 모델 단위당 가격*)을 가져옵니다.

청구는 처음 성공한 직접적 추론 호출부터 5분 단위 청구 기간 동안 부과됩니다.

자세한 내용은 Amazon Bedrock 요금을 참조하세요.