Considerazioni sull'inferenza geografica interregionale Requisiti delle policy IAM per l'inferenza geografica interregionale Requisiti della politica di controllo del servizio per l'inferenza geografica interregionale Usa l'inferenza geografica interregionale

Inferenza geografica interregionale

L'inferenza geografica interregionale mantiene l'elaborazione dei dati entro i confini geografici specificati (come Stati Uniti, UE e APAC). Questa opzione è ideale per le organizzazioni con requisiti di residenza dei dati e normative di conformità.

Considerazioni sull'inferenza geografica interregionale

Nota le seguenti informazioni sull'inferenza geografica interregionale:

Cross-Region le richieste di inferenza a un profilo di inferenza legato a un'area geografica (come Stati Uniti, UE e APAC) rimangono all'interno di tale area geografica. I tuoi dati rimangono nella posizione in cui risiedono originariamente. Regioni AWS Ad esempio, una richiesta effettuata negli Stati Uniti viene conservata Regioni AWS negli Stati Uniti. Per impostazione predefinita, i dati rimangono archiviati solo nella regione di origine. Tuttavia, i prompt di input e i risultati di output potrebbero spostarsi al di fuori della regione di origine durante l'inferenza interregionale. Nella misura in cui archiviamo i dati per il rilevamento degli abusi, le richieste di input e i risultati di output verranno archiviati nella regione di destinazione. Rilevamento degli abusi su Amazon BedrockPer ulteriori informazioni sui modelli che richiedono l'archiviazione, consulta. Tutti i dati verranno trasmessi crittografati attraverso la rete sicura di Amazon.
Per le quote di throughput predefinite tra regioni quando si utilizzano profili di inferenza legati a un'area geografica (come Stati Uniti, UE e APAC), consulta le richieste di inferenza del Cross-region modello al minuto per $ {Model} e i token di inferenza del modello al minuto per i valori $ {Cross-region Model} nelle quote di servizio Amazon Bedrock nella Guida generale. AWS

Requisiti delle policy IAM per l'inferenza geografica interregionale

Per consentire a un utente o ruolo IAM di richiamare un profilo di inferenza geografico interregionale, devi consentire l'accesso alle seguenti risorse:

Il profilo di inferenza interregionale specifico per area geografica (questi profili hanno prefissi geografici come,,) us eu apac
Il modello di base nella regione di origine
Il modello di base in tutte le regioni di destinazione elencate nel profilo geografico

La seguente politica di esempio concede le autorizzazioni necessarie per utilizzare il modello di base Claude Sonnet 4.5 con un profilo di inferenza geografico interregionale per gli Stati Uniti, dove si trovano la regione di origine e le regioni di destinazione, us-east-1 e: us-east-1 us-east-2 us-west-2


{
    "Version": "2012-10-17",
    "Statement": [
        {
            "Sid": "GrantGeoCrisInferenceProfileAccess",
            "Effect": "Allow",
            "Action": "bedrock:InvokeModel",
            "Resource": [
                "arn:aws:bedrock:us-east-1:<ACCOUNT_ID>:inference-profile/us.anthropic.claude-sonnet-4-5-20250929-v1:0"
            ]
        },
        {
            "Sid": "GrantGeoCrisModelAccess",
            "Effect": "Allow",
            "Action": "bedrock:InvokeModel",
            "Resource": [
                "arn:aws:bedrock:us-east-1::foundation-model/anthropic.claude-sonnet-4-5-20250929-v1:0",
                "arn:aws:bedrock:us-east-2::foundation-model/anthropic.claude-sonnet-4-5-20250929-v1:0",
                "arn:aws:bedrock:us-west-2::foundation-model/anthropic.claude-sonnet-4-5-20250929-v1:0"
            ],
            "Condition": {
                "StringEquals": {
                    "bedrock:InferenceProfileArn": "arn:aws:bedrock:us-east-1:<ACCOUNT_ID>:inference-profile/us.anthropic.claude-sonnet-4-5-20250929-v1:0"
                }
            }
        }
    ]
}

La prima dichiarazione concede l'accesso bedrock:InvokeModel API al profilo di inferenza geografico interregionale per le richieste provenienti dalla regione richiedente. La seconda istruzione concede l'accesso bedrock:InvokeModel API al modello di base sia nella regione richiedente che in tutte le regioni di destinazione elencate nel profilo di inferenza.

Requisiti della politica di controllo del servizio per l'inferenza geografica interregionale

Molte organizzazioni implementano i controlli di accesso regionali attraverso le politiche di controllo dei servizi nelle AWS organizzazioni per motivi di sicurezza e conformità. Se la politica di sicurezza della tua organizzazione utilizza SCP per bloccare le regioni inutilizzate, devi consentire l'accesso a tutte le regioni di destinazione elencate nel profilo di inferenza geografica interregionale per la tua regione di origine o aggiungere un'eccezione al profilo di inferenza come descritto nella nota seguente.

Se utilizzi una lista consentita di una regione senza un'eccezione per il profilo di inferenza, devi comprendere la relazione tra la tua regione di origine (dove effettui la chiamata API) e le regioni di destinazione (dove le richieste possono essere indirizzate). Consulta la documentazione del profilo di inferenza per identificare tutte le regioni di destinazione per la tua regione di origine, quindi assicurati che i tuoi SCP consentano l'accesso a tutte le regioni di destinazione.

Ad esempio, se chiami da us-east-1 (regione di origine) utilizzando il profilo geografico US Anthropic Claude Sonnet 4.5, le richieste possono essere indirizzate a us-east-1, us-east-2 e us-west-2 (regioni di destinazione). Se un SCP limita l'accesso solo a us-east-1 e non include un'eccezione al profilo di inferenza, l'inferenza tra regioni fallirà quando si tenta di instradare verso us-east-2 o us-west-2. Per utilizzare il profilo, consenti tutte e tre le regioni di destinazione nel tuo SCP o aggiungi un'eccezione per il profilo di inferenza.

Quando configuri gli SCP per l'esclusione tra regioni, ricorda che il blocco di una regione di destinazione senza un'eccezione relativa al profilo di inferenza impedirà il corretto funzionamento dell'inferenza interregionale, anche se la regione di origine rimane accessibile. Per i requisiti SCP per l'inferenza globale tra regioni, vedi. Requisiti della politica di controllo dei servizi per l'inferenza globale tra regioni

Nota

Quando una richiesta utilizza un profilo di inferenza geografico interregionale, Amazon Bedrock valuta l'autorizzazione per la risorsa del profilo di inferenza, il modello di base nella regione di origine e il modello di base in ciascuna regione di destinazione candidata. La chiave di bedrock:InferenceProfileArn condizione viene compilata per la valutazione delle risorse del modello di base, ma non per la valutazione delle risorse del profilo di inferenza.

Poiché le valutazioni delle risorse del modello di base includono le regioni di destinazione, è possibile utilizzare bedrock:InferenceProfileArn un Region-deny SCP per esentare il routing interregionale senza aggiungere tali regioni di destinazione alla lista consentita della regione per altri servizi e azioni. Questa esenzione non può aggirare la restrizione regionale sulla chiamata di origine. La valutazione delle risorse del profilo di inferenza include la regione di origine e non include. bedrock:InferenceProfileArn

Per migliorare la sicurezza, valuta la possibilità di utilizzare la bedrock:InferenceProfileArn condizione per limitare l'eccezione a profili di inferenza specifici.

Usa l'inferenza geografica interregionale

Per utilizzare l'inferenza geografica interregionale, è necessario includere un profilo di inferenza quando si esegue l'inferenza del modello nei seguenti modi:

On-demand inferenza del modello: specifica l'ID del profilo di inferenza come ID modelId quando si invia una InvokeModel,, InvokeModelWithResponseStream Converse o una richiesta. https://docs.aws.amazon.com/bedrock/latest/APIReference/API_runtime_Converse.html ConverseStream Un profilo di inferenza definisce una o più regioni alle quali può indirizzare le richieste di inferenza provenienti dalla regione di origine. Cross-Regionl'inferenza indirizza le richieste utilizzando il calcolo tra le regioni definite nel profilo di inferenza. Per ulteriori informazioni, consulta Effettuare richieste di inferenza
Inferenza batch: invia le richieste in modo asincrono con inferenza batch specificando l'ID del profilo di inferenza come ID quando si invia una richiesta. modelId CreateModelInvocationJob L'utilizzo di un profilo di inferenza consente di utilizzare il calcolo su più livelli. Regioni AWS Al termine del processo, puoi recuperare i file di output dal bucket Amazon S3 nella Regione di origine.
Agenti: specifica l’ID del profilo di inferenza nel campo foundationModel di una richiesta CreateAgent. Per ulteriori informazioni, consulta Creazione e configurazione manuale dell’agente.
Generazione di risposte della knowledge base: è possibile utilizzare l’inferenza tra Regioni per generare una risposta dopo aver eseguito una query su una knowledge base. Per ulteriori informazioni, consulta Test della knowledge base con query e risposte.
Valutazione del modello: è possibile inviare un profilo di inferenza come modello da valutare quando si invia un processo di valutazione del modello. Per ulteriori informazioni, consulta Valutare le prestazioni delle risorse Amazon Bedrock.
Gestione prompt: è possibile utilizzare un profilo di inferenza per generare una risposta a un prompt creato in Gestione prompt. Per ulteriori informazioni, consulta Creare e archiviare prompt riutilizzabili con Gestione dei prompt in Amazon Bedrock.
Flussi di prompt: è possibile utilizzare un profilo di inferenza quando si genera una risposta per un prompt definito in linea in un nodo prompt in un flusso di prompt. Per ulteriori informazioni, consulta Creare un flusso di lavoro di IA generativa end-to-end con Amazon Bedrock Flows.

Per informazioni su come utilizzare un profilo di inferenza per inviare richieste di invocazione del modello tra Regioni, consulta Utilizzare un profilo di inferenza nell’invocazione del modello.

Per ulteriori informazioni sull’inferenza tra Regioni, consulta Introduzione all’inferenza tra Regioni in Amazon Bedrock.

Per informazioni dettagliate sull'inferenza globale tra regioni, inclusa la configurazione IAM e la gestione delle quote di servizio, vedere. Inferenza globale interregionale

Avvertimento JavaScript è disabilitato o non è disponibile nel tuo browser.

Per usare la documentazione AWS, JavaScript deve essere abilitato. Consulta le pagine della guida del browser per le istruzioni.

Convenzioni dei documenti

Cross-Region inferenza

Inferenza globale interregionale