기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

애플리케이션 추론 프로파일

애플리케이션 추론 프로파일(AIPs)을 사용하면 bedrock-runtime 엔드포인트의 Amazon Bedrock InvokeModel 및 Converse APIs에 대해 애플리케이션, 팀 또는 워크로드별로 Amazon Bedrock 비용을 속성화할 수 있습니다. 각 AIP는 모델별로 다르며 AWS Cost Explorer 및 비용 및 사용 보고서(CUR 2.0)로 이동하는 AWS 비용 할당 태그를 포함합니다.

bedrock-mantle 엔드포인트에서 응답 및 채팅 완료를 사용하는 워크로드의 경우 Projects 대신를 사용합니다.

비용 어트리뷰션 작동 방식

애플리케이션 추론 프로파일은 특정 Amazon Bedrock 모델을 참조하는 리소스입니다. 프로파일을 생성하고 비용 할당 태그를 연결한 다음 API 호출에서 모델 ID 대신 프로파일 ARN을 사용합니다. 프로필의 태그는 각 요청의 결제 레코드에 연결됩니다.

다음 예제에서는 Converse API를 호출할 때 모델 ID 대신 애플리케이션 추론 프로파일 ARN을 사용하는 방법을 보여줍니다.

import boto3

client = boto3.client("bedrock-runtime")

response = client.converse(
    modelId="arn:aws:bedrock:us-east-1:123456789012:inference-profile/my-team-profile",
    messages=[
        {"role": "user", "content": [{"text": "Hello"}]}
    ]
)

프로필 생성에 대한 자세한 내용은 섹션을 참조하세요애플리케이션 추론 프로파일 생성.

프로필 비용 보기

프로필을 생성하고 태그를 지정한 후 AWS Billing and Cost Management 콘솔에서 태그를 비용 할당 태그로 활성화합니다.

활성화 후 태그가 Cost Explorer 및 CUR에 표시되는 데 최대 24시간이 걸릴 수 있습니다. 비용 할당 태그는 소급 적용되지 않습니다. 활성화 후 발생한 비용만 태그가 지정됩니다. 자세한 내용은 사용자 정의 비용 할당 태그 활성화를 참조하세요.

태그 활성화 후 다음 도구에서 애플리케이션 추론 프로파일별로 Amazon Bedrock 비용을 분석할 수 있습니다.

스케일 아웃 고려 사항

각 애플리케이션 추론 프로파일은 특정 모델에 연결됩니다. 즉, 모델, 팀 및 태그 세트의 모든 고유한 조합에 대해 별도의 프로필이 필요합니다. 조직이 성장함에 따라 특히 새 모델 버전에 새 프로필이 필요한 경우 프로필 수가 빠르게 증가할 수 있습니다.

프로파일 확산을 줄이려면: