Modificare un throughput assegnato - Amazon Bedrock
Modifica un throughput assegnato per unità del modello

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Modificare un throughput assegnato

Gli aspetti di un Provisioned Throughput che è possibile modificare dopo l'acquisto dipendono dalla modalità di provisioning. Per Provisioned Throughputs by Model Units, è possibile modificare solo il nome e i tag del Provisioned Throughput e il modello se si tratta di un modello personalizzato.

Con Provisioned Throughputs by Tokens, hai più opzioni, inclusa la modifica del numero di token di input e output al minuto per il tuo Provisioned Throughput.

Consulta le sezioni seguenti per ulteriori informazioni sulla modifica del tipo di Provisioned Throughput che desideri modificare.

Modifica un throughput assegnato per unità del modello

È possibile modificare il nome o i tag di un Provisioned Throughput esistente.

Le seguenti restrizioni si applicano alla modifica del modello a cui è associato il Provisioned Throughput:

  • Non è possibile modificare il modello per un Provisioned Throughput associato a un modello base.

  • Se il Provisioned Throughput è associato a un modello personalizzato, è possibile modificare l'associazione al modello base da cui è personalizzato o a un altro modello personalizzato derivato dallo stesso modello di base.

Durante l'aggiornamento di un Provisioned Throughput, è possibile eseguire l'inferenza utilizzando il Provisioned Throughput senza interrompere il traffico in corso proveniente dai clienti finali. Se hai modificato il modello a cui è associato il Provisioned Throughput, potresti ricevere l'output dal vecchio modello fino alla completa implementazione dell'aggiornamento.

Per informazioni su come modificare un Provisioned Throughput, scegliete la scheda corrispondente al metodo preferito, quindi seguite i passaggi:

Console

  1. Accedi a Console di gestione AWS con un'identità IAM che dispone delle autorizzazioni per utilizzare la console Amazon Bedrock. Quindi, apri la console Amazon Bedrock in https://console.aws.amazon.com/bedrock.

  2. Seleziona Throughput assegnato nel riquadro di navigazione a sinistra.

  3. Nella sezione Provisioned Throughput, seleziona un Provisioned Throughput.

  4. Scegli Modifica. È possibile modificare i seguenti campi:

    • Nome del Provisioned Throughput: modifica il nome del Provisioned Throughput.

    • Seleziona modello: se il Provisioned Throughput è associato a un modello personalizzato, è possibile modificare il modello associato.

  5. È possibile modificare i tag associati al Provisioned Throughput nella sezione Tag. Per ulteriori informazioni, consulta Assegnazione di tag alle risorse Amazon Bedrock.

  6. Per salvare le modifiche, scegli Salva modifiche.

  7. La console visualizza la pagina di panoramica del Provisioned Throughput. Lo stato del Provisioned Throughput nella tabella Provisioned Throughput diventa Aggiornamento. Al termine dell'aggiornamento del Provisioned Throughput, lo Status diventa In servizio. Se l'aggiornamento non riesce, lo Status diventa Fallito.

API

Per modificare un Provisioned Throughput, invia una UpdateProvisionedModelThroughputrichiesta con un endpoint del piano di controllo Amazon Bedrock.

Per ulteriori informazioni sul corpo della richiesta e sui parametri da fornire, consulta UpdateProvisionedModelThroughputAmazon Bedrock API Reference.

Se l'azione ha esito positivo, la risposta restituisce una risposta di stato HTTP 200. Per verificare quando il Provisioned Throughput è pronto per l'uso, invia una GetProvisionedModelThroughputrichiesta e verifica che lo stato sia. InService Non è possibile aggiornare o eliminare un Provisioned Throughput mentre il relativo stato è. Updating Se l'aggiornamento fallisce, il relativo stato sarà Failed e la GetProvisionedModelThroughputrisposta conterrà un. failureMessage

Per aggiungere tag a un Provisioned Throughput, invia una TagResourcerichiesta con un endpoint del piano di controllo Amazon Bedrock e includi l'Amazon Resource Name (ARN) del Provisioned Throughput. Il corpo della richiesta contiene un campo tags, che consiste in un oggetto contenente una coppia chiave-valore che hai specificato per ogni tag.

Per rimuovere i tag da un Provisioned Throughput, invia una UntagResourcerichiesta con un endpoint del piano di controllo Amazon Bedrock e includi l'Amazon Resource Name (ARN) del Provisioned Throughput. Il parametro di richiesta tagKeys è un elenco contenente le chiavi relative ai tag che desideri rimuovere.

Vedi esempi di codice