Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.
Blue/Green Implementazioni
Quando aggiorni il tuo endpoint, Amazon SageMaker AI utilizza automaticamente una blue/green distribuzione per massimizzare la disponibilità degli endpoint. In una blue/green distribuzione, l' SageMaker intelligenza artificiale fornisce gli aggiornamenti a una nuova flotta (la flotta verde). Quindi, l' SageMaker intelligenza artificiale sposta il traffico dalla vecchia flotta (la flotta blu) alla flotta verde. Una volta che la flotta verde funziona senza intoppi per un determinato periodo di valutazione (chiamato periodo di cottura), l' SageMaker IA interrompe la flotta blu. Con le funzionalità aggiuntive nelle blue/green implementazioni, puoi utilizzare le modalità di spostamento del traffico e il monitoraggio automatico del rollback per proteggere l'endpoint da un impatto significativo sulla produzione.
L'elenco seguente descrive le caratteristiche principali delle implementazioni nell'IA: blue/green SageMaker
-
Modalità di spostamento del traffico. Le modalità di spostamento del traffico per i guardrail di implementazione consentono di controllare il volume del traffico e il numero di fasi di spostamento del traffico tra il parco istanze blu e il parco istanze verde. Questa funzionalità ti dà la possibilità di valutare progressivamente le prestazioni del parco istanze verde senza impegnarti completamente a spostare il traffico al 100%.
-
Periodo di baking. Il periodo di baking è un periodo di tempo prestabilito per monitorare il parco istanze verde prima di passare alla fase di implementazione successiva. Se uno degli allarmi preimpostati scatta durante un periodo di baking, tutto il traffico degli endpoint torna al parco istanze blu. Il periodo di baking ti aiuta ad aumentare la fiducia nell'aggiornamento prima di rendere permanente il cambio di traffico.
-
Auto-rollbacks. Puoi specificare gli CloudWatch allarmi Amazon che l' SageMaker intelligenza artificiale utilizza per monitorare la flotta verde. Se un problema con il codice aggiornato fa scattare uno degli allarmi, l' SageMaker IA avvia un rollback automatico sulla flotta blu per mantenere la disponibilità e ridurre al minimo i rischi.
Modalità di spostamento del traffico
Le varie modalità di spostamento del traffico presenti nelle blue/green implementazioni offrono un controllo più granulare sullo spostamento del traffico tra la flotta blu e la flotta verde. Le modalità di spostamento del traffico disponibili per le blue/green implementazioni sono tutte contemporaneamente, canarie e lineari. La seguente tabella mostra un confronto tra le opzioni.
Importante
Per le blue/green implementazioni che prevedono periodi di cambio o di interruzione del traffico in più fasi, ti verranno fatturate entrambe le flotte per tutta la durata dell'aggiornamento, indipendentemente dal traffico diretto al parco veicoli. Ciò è in contrasto con le blue/green implementazioni che prevedono lo spostamento del traffico all'istante e l'assenza di periodi di cottura, in cui ti viene fatturata una sola flotta nel corso dell'aggiornamento.
| Nome | Di cosa si tratta? | Pro | Contro | Raccomandazione |
|---|---|---|---|---|
Tutto contemporaneamente |
Sposta tutto il traffico al nuovo parco istanze in un’unica fase. |
Riduce al minimo la durata complessiva dell'aggiornamento. |
Gli aggiornamenti regressivi influiscono sul 100% del traffico. |
Utilizza questa opzione per ridurre al minimo i tempi e i costi di aggiornamento. |
Canary |
Il traffico viene spostato in due fasi. La prima fase (canary) sposta una piccola parte del traffico, seguita dalla seconda fase, che sposta il resto del traffico. |
Limita il raggio d’azione degli aggiornamenti regressivi alo solo parco istanze canary. |
Entrambe i parchi istanze sono operativi in parallelo per l'intera implementazione. |
Utilizza questa opzione per trovare un equilibrio tra la riduzione al minimo del raggio d'azione degli aggiornamenti regressivi e la riduzione al minimo del tempo di operatività di due parchi istanze. |
Linear (Lineare) |
Una parte fissa del traffico si sposta in un numero prestabilito di fasi equidistanti. |
Riduce al minimo il rischio di aggiornamenti regressivi spostando il traffico su più fasi. |
La durata e il costo dell'aggiornamento sono proporzionali al numero di fasi. |
Utilizza questa opzione per ridurre al minimo i rischi eseguendo la distribuzione su più fasi. |
Nozioni di base
Una volta specificata la configurazione di implementazione desiderata, l' SageMaker intelligenza artificiale si occupa del provisioning di nuove istanze, della chiusura delle vecchie istanze e dello spostamento del traffico al posto tuo. Puoi creare e gestire la tua implementazione tramite l'API e i comandi esistenti UpdateEndpoint. CreateEndpoint SageMaker AWS Command Line Interface Tieni presente che se l'endpoint utilizza una delle funzionalità elencate nella pagina Esclusioni, non puoi utilizzare i guardrail di distribuzione. Consulta le pagine di distribuzione individuali per maggiori dettagli su come configurare la distribuzione:
Per seguire esempi guidati che mostrano come utilizzare i guardrail di implementazione, guarda i nostri esempi di notebook Jupyter
