Distribuisci l'inferenza del guardrail attraverso Regioni AWS

Puoi abilitare l'inferenza tra regioni con Amazon Bedrock Guardrails, che indirizza automaticamente le richieste di inferenza durante la valutazione delle policy di guardrail verso il livello ottimale all'interno della tua area geografica. Regione AWS (Per ulteriori informazioni su come funziona, consulta.) Aumenta la produttività con l'inferenza tra regioni La distribuzione delle richieste di inferenza Regioni AWS massimizza le risorse di calcolo disponibili e la disponibilità dei modelli, contribuendo a mantenere le prestazioni e l'affidabilità del guardrail quando la domanda aumenta. Non sono previsti costi aggiuntivi per l'utilizzo dell'inferenza interregionale.

Le richieste di inferenza tra regioni vengono conservate all'interno delle regioni che fanno parte della geografia in cui risiedono originariamente i dati. Ad esempio, una richiesta effettuata negli Stati Uniti viene conservata all'interno delle regioni degli Stati Uniti. Sebbene la configurazione del guardrail rimanga memorizzata solo nella regione principale, le istruzioni di input e i risultati di output potrebbero spostarsi al di fuori della regione principale quando si utilizza l'inferenza interregionale. Tutti i dati vengono trasmessi crittografati all'interno della rete sicura di Amazon.

Imposta l'inferenza del guardrail tra regioni

L'inferenza del guardrail tra regioni viene gestita tramite un profilo guardrail, che è una risorsa definita dal sistema che è possibile specificare durante la creazione o la modifica di un guardrail in uno dei seguenti modi:

Sono necessarie autorizzazioni specifiche per utilizzare l'inferenza guardrail tra regioni. Per ulteriori informazioni, consulta Autorizzazioni per l'utilizzo dell'inferenza tra regioni con Amazon Bedrock Guardrails.