As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.
Acompanhe o uso e os custos no Amazon Bedrock
O Amazon Bedrock oferece várias maneiras de atribuir o uso e os custos da inferência de modelos a usuários, equipes, aplicativos, ambientes ou experimentos específicos. Você pode usar um único mecanismo ou combinar vários. Por exemplo, use a atribuição principal do IAM para visibilidade por usuário junto com projetos para marcação por aplicativo e solicite metadados para o acompanhamento de experimentos por chamada.
dica
Se você não tiver certeza de qual mecanismo se adequa ao seu caso de uso, comece com o Perguntas frequentes no final deste capítulo. Ele responde a perguntas comuns de decisão, como “Quero uma atribuição por usuário e por solicitação — quais são minhas opções?” e “Qual é a diferença entre o CUR clássico e o CUR 2.0?”.
Como escolher uma abordagem
O método de atribuição de custo escolhido depende da dimensão que você deseja rastrear, das APIs do Amazon Bedrock que você usa e do nível de granularidade necessário. As duas tabelas a seguir apresentam visões complementares. Use o primeiro para pesquisar mecanismos de acordo com seu objetivo e o segundo para comparar os mecanismos lado a lado.
Escolha por meta
Se você sabe o que quer do controle de custos, comece aqui.
| Se seu objetivo é... | Use |
|---|---|
| Per-user ou dólares por equipe em sua conta | Atribuição principal do IAM |
| Per-application ou dólares por carga de trabalho | Perfis de inferência de aplicações(bedrock-runtime), ou Projetos e Espaços de trabalho (bedrock-mantle) |
| Per-prompt uso e custo do token, divididos em qualquer dimensão | Per-request marcação de metadados, com registros de invocação do modelo |
| Per-user e detalhes por solicitação | Modele registros de invocação, com o usuário retirado do identity ARN ou de uma tag de solicitação de metadados Per-request marcação de metadados |
| Tanto em dólares com precisão na fatura quanto em detalhes por solicitação | Combine um método nativo (por exemplo,Atribuição principal do IAM) com Per-request marcação de metadados |
Compare mecanismos
A tabela a seguir compara os mecanismos disponíveis de acordo com o que eles permitem atribuir, o que eles produzem, a granularidade dessa saída, onde os dados são entregues e quais endpoints eles suportam.
| Mecanismo | Atributo por | Output | Granularity | Destino dos dados | APIs aceitas do : | bedrock-runtime |
bedrock-mantle |
|---|---|---|---|---|---|---|---|
| Atribuição principal do IAM | Identidade do IAM | Dólares faturados | Agregado, por tipo de uso por dia | AWS Explorador de Costs/CUR 2.0 | InvokeModel, Converse, Conclusões de bate-papos, respostas |  |
|
| Perfis de inferência de aplicações | Tags de recursos de perfil | Dólares faturados | Agregado, por tipo de uso por dia | AWS Explorador de Costs/CUR 2.0 | InvokeModel, Converse, Conclusões de bate-papo | |
 |
| Projetos | Tags de recursos do projeto | Dólares faturados | Agregado, por tipo de uso por dia | AWS Explorador de Costs/CUR 2.0 | Respostas, conclusões do bate-papo | |
|
| Espaços de trabalho | Tags de recursos do projeto por meio do cabeçalho do espaço de trabalho | Dólares faturados | Agregado, por tipo de uso por dia | AWS Explorador de Costs/CUR 2.0 | Mensagens antrópicas | |
|
| Per-request marcação de metadados | Per-request tags de valor-chave | Contagens de tokens (você converte em custo) | Por solicitação | Somente registros de invocação | InvokeModel, InvokeModelWithResponseStream, Converse, ConverseStream | |
|
nota
Os métodos nativos (Atribuição principal do IAM, Perfis de inferência de aplicaçõesProjetos, eEspaços de trabalho) entregam dólares faturados agregados ao AWS Cost Explorer e ao CUR 2.0. O melhor grão é atribuído por tipo de uso por dia, por identidade ou tag; eles não produzem uma linha por solicitação. Para obter detalhes por solicitação, use os registros de invocação do modelo, em que cada chamada é um registro separado com suas próprias contagens de tokens.
Atribuição por trás de um gateway LLM
Quando um gateway ou proxy chama o Amazon Bedrock em nome de muitos usuários, o Amazon Bedrock registra a função IAM do gateway como a identidade do chamador. Para preservar a atribuição no nível do usuário, escolha com base na saída que você precisa.
-
Para obter dólares por usuário em suas ferramentas de cobrança, faça com que o gateway assuma sua função Amazon Bedrock por usuário ou inquilino, usando tags por usuário ou por
RoleSessionNamesessão. Armazene em cache as credenciais resultantes durante a duração da sessão para evitar uma AWS STS chamada em cada solicitação. Para obter mais informações, consulte Atribuição principal do IAM. -
Para obter detalhes por solicitação, defina o usuário nos metadados da solicitação em cada chamada. Os metadados da solicitação variam de acordo com a solicitação, sem AWS STS chamadas adicionais, o que as tags de sessão não podem fazer em uma sessão compartilhada.
