Acquista Provisioned Throughput per un modello personalizzato - Amazon Bedrock

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Acquista Provisioned Throughput per un modello personalizzato

Per utilizzare un modello personalizzato con capacità di elaborazione dedicata e throughput garantito, puoi acquistare Provisioned Throughput apposito. È quindi possibile utilizzare il modello fornito risultante per l'inferenza. Per ulteriori informazioni su Provisioned Throughput, vedere. Aumenta la capacità di invocazione del modello con Provisioned Throughput in Amazon Bedrock

Console
Per acquistare velocità di trasmissione effettiva assegnata per un modello personalizzato

  1. Accedi a AWS Management Console con un'identità IAM che dispone delle autorizzazioni per utilizzare la console Amazon Bedrock. Quindi, apri la console Amazon Bedrock all'indirizzo https://console.aws.amazon.com/bedrock/.

  2. Dal riquadro di navigazione a sinistra, scegli Modelli personalizzati in Modelli Foundation.

  3. Nella scheda Modelli, scegli il pulsante di opzione accanto al modello per il quale desideri acquistare Provisioned Throughput o seleziona il nome del modello per accedere alla pagina dei dettagli.

  4. Seleziona Purchase Provisioned Throughput.

  5. Per ulteriori dettagli, segui la procedura riportata in. Acquista un throughput fornito per un modello Amazon Bedrock

  6. Dopo aver acquistato Provisioned Throughput per il tuo modello personalizzato, segui i passaggi riportati in. Usa un throughput fornito con una risorsa Amazon Bedrock

Quando esegui un'operazione che supporta l'utilizzo di modelli personalizzati, vedrai il modello personalizzato come opzione nel menu di selezione del modello.

API

Per acquistare Provisioned Throughput per un modello personalizzato, segui i passaggi indicati per Acquista un throughput fornito per un modello Amazon Bedrock inviare una richiesta CreateProvisionedModelThroughput(consulta il link per i formati di richiesta e risposta e i dettagli sul campo) con un endpoint del piano di controllo Amazon Bedrock. Usa il nome o l'ARN del tuo modello personalizzato come. modelId La risposta restituisce un valore provisionedModelArn che è possibile utilizzare come elemento per effettuare una InvokeModelWithResponseStreamrichiesta InvokeModelor. modelId

Vedi esempi di codice