Modificar um throughput provisionado - Amazon Bedrock

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Modificar um throughput provisionado

Os aspectos de uma taxa de transferência provisionada que você pode editar após a compra dependem do modo de provisionamento. Para taxas de transferência provisionadas por unidades de modelo, você pode editar somente o nome e as tags da sua taxa de transferência provisionada e o modelo, se for um modelo personalizado.

Com a taxa de transferência provisionada por tokens, você tem mais opções, incluindo a modificação do número de tokens de entrada e saída por minuto para sua taxa de transferência provisionada.

Consulte as seções a seguir para saber mais sobre a edição do tipo de taxa de transferência provisionada que você deseja modificar.

Modificar uma taxa de transferência provisionada por unidades de modelo

É possível editar o nome ou as tags de um throughput provisionado existente.

As restrições a seguir se aplicam à alteração do modelo ao qual o throughput provisionado está associado:

  • Você não pode alterar o modelo de um throughput provisionado associado a um modelo de base.

  • Se o throughput provisionado estiver associado a um modelo personalizado, você poderá alterar a associação ao modelo de base do qual ele foi personalizado ou a outro modelo personalizado derivado do mesmo modelo base.

Durante a atualização de um throughput provisionado, você pode executar inferência usando o throughput provisionado sem interromper o tráfego contínuo de seus clientes finais. Se você tiver alterado o modelo ao qual o throughput provisionado está associado, poderá receber a saída do modelo antigo até que a atualização esteja totalmente implantada.

Para saber como editar uma taxa de transferência provisionada, escolha a guia do seu método preferido e siga as etapas:

Console
  1. Faça login no AWS Management Console com uma identidade do IAM que tenha permissões para usar o console Amazon Bedrock. Em seguida, abra o console Amazon Bedrock em https://console.aws.amazon.com/bedrock.

  2. Selecione Throughput provisionado no painel de navegação à esquerda.

  3. Na seção Throughput provisionado, escolha um throughput provisionado.

  4. Escolha Editar. É possível editar os seguintes campos:

    • Nome do throughput provisionado: altere o nome do throughput provisionado.

    • Selecionar modelo: se o throughput provisionado estiver associado a um modelo personalizado, você poderá alterar o modelo associado.

  5. É possível editar as tags associadas ao throughput provisionado na seção Tags. Para obter mais informações, consulte Marcação de recursos do Amazon Bedrock.

  6. Para salvar as alterações, escolha Salvar edições.

  7. O console exibe a página de visão geral Throughput provisionado. O status do throughput provisionado na tabela de throughput provisionado se torna Atualizando. Quando a atualização do throughput provisionado é concluída, o Status se torna Em serviço. Se a atualização falhar, o Status será Com falha.

API

Para editar uma taxa de transferência provisionada, envie uma UpdateProvisionedModelThroughputsolicitação com um endpoint do plano de controle Amazon Bedrock.

Para saber mais sobre o corpo da solicitação e os parâmetros que você precisa fornecer, consulte UpdateProvisionedModelThroughputa Referência da API Amazon Bedrock.

Se a ação for bem-sucedida, a resposta retornará um código de status HTTP 200. Para verificar quando a taxa de transferência provisionada está pronta para uso, envie uma GetProvisionedModelThroughputsolicitação e verifique se o status é. InService Não é possível atualizar ou excluir um throughput provisionado enquanto seu status for Updating. Se a atualização falhar, seu status seráFailed, e a GetProvisionedModelThroughputresposta conterá umfailureMessage.

Para adicionar tags a uma taxa de transferência provisionada, envie uma TagResourcesolicitação com um endpoint do plano de controle Amazon Bedrock e inclua o nome de recurso da Amazon (ARN) da taxa de transferência provisionada. O corpo da solicitação contém um campo tags, que é um objeto que contém um par de chave-valor que você especifica para cada tag.

Para remover tags de uma taxa de transferência provisionada, envie uma UntagResourcesolicitação com um endpoint do plano de controle Amazon Bedrock e inclua o nome de recurso da Amazon (ARN) da taxa de transferência provisionada. O parâmetro de solicitação tagKeys é uma lista que contém as chaves das tags que você deseja remover.

Consulte exemplos de código