Inferenza tra regioni
AgentCore Le valutazioni selezioneranno automaticamente la regione ottimale all'interno della tua area geografica per elaborare le tue richieste di inferenza. Ciò ottimizza le risorse di elaborazione disponibili, la disponibilità dei modelli e offre la migliore esperienza al cliente. I dati rimarranno archiviati solo nella regione in cui ha avuto origine la richiesta, tuttavia, le richieste di input e i risultati di output potrebbero essere elaborati al di fuori di tale regione. Tutti i dati verranno trasmessi in modo crittografato attraverso AWS la rete sicura.
Per le AgentCore valutazioni, le richieste di inferenza provenienti dall'Asia Pacifico (Seoul) (ap-northeast-2) utilizzano l'inferenza globale tra regioni e verranno indirizzate in modo sicuro a tutte le risorse di elaborazione disponibili in tutte le regioni commerciali globali. AWS Per ulteriori informazioni, consulta Inferenza globale tra regioni per le valutazioni. AgentCore
Se il vostro caso d'uso richiede di evitare l'inferenza tra regioni, potete creare valutatori personalizzati che funzionano senza CRIS. I valutatori personalizzati offrono la flessibilità necessaria per:
-
Replica la funzionalità dei valutatori integrati senza usare CRIS
-
Definite criteri di valutazione e schemi di punteggio identici a quelli dei valutatori integrati
-
Mantieni il pieno controllo sulla configurazione dell'inferenza
Nota
Sebbene i valutatori personalizzati possano essere configurati in modo da corrispondere alle funzionalità di valutazione integrate, sei responsabile della gestione della disponibilità del modello e delle risorse di calcolo.
