Allocazione di throughput aggiuntivo per il modello dell’agente

Per aumentare la frequenza e il numero di token che l’agente può elaborare durante l’inferenza del modello, associare throughput allocato acquistato per il modello utilizzato dall’agente. Per ulteriori informazioni sul throughput allocato e su come acquistarlo, consulta Aumenta la capacità di invocazione del modello con Provisioned Throughput in Amazon Bedrock.

È possibile associare throughput allocato quando si crea o si aggiorna un alias di agente. Nella console Amazon Bedrock, scegliere Throughput allocato quando si configura o si modifica l’alias. Nell’API Amazon Bedrock, specificare provisionedThroughput in routingConfiguration quando si invia una richiesta CreateAgentAlias o UpdateAgentAlias.