Distribuzioni canary di Amazon ECS

Spostamento del traffico: il processo utilizzato da Amazon ECS per spostare il traffico di produzione. Per le implementazioni di Amazon ECS canary, il traffico viene spostato in due fasi: prima verso la percentuale canaria, poi per completare la distribuzione.

Percentuale Canary: la percentuale di traffico indirizzato alla nuova versione durante il periodo di valutazione.

Tempo di attesa delle Isole Canarie: il tempo necessario per monitorare la versione Canary prima di procedere con la distribuzione completa.

Tempo di attesa della distribuzione: il tempo, in minuti, che Amazon ECS attende dopo aver trasferito tutto il traffico di produzione verso la nuova revisione del servizio, prima di terminare la vecchia revisione del servizio. Questa è la durata in cui le revisioni del servizio blu e verde vengono eseguite contemporaneamente dopo lo spostamento del traffico di produzione.

Fasi del ciclo di vita: una serie di eventi nell'operazione di implementazione, ad esempio “dopo lo spostamento del traffico di produzione”.

Lifecycle hook: una funzione Lambda o un punto di pausa in una fase specifica del ciclo di vita. Gli hook Lambda richiamano le funzioni Lambda che hai definito per eseguire codice personalizzato. Gli hook di pausa mettono in pausa la distribuzione e attendono la chiamata per procedere. ContinueServiceDeployment

Gruppo di destinazione: una risorsa di bilanciamento del carico elastico utilizzata per indirizzare le richieste verso una o più destinazioni registrate (ad esempio, istanze EC2). Quando si crea un listener, si specifica un gruppo di destinazione per l'operazione predefinita. Il traffico viene inoltrato al gruppo di destinazione specificato nella regola del listener.

Listener: una risorsa di bilanciamento del carico elastico che controlla le richieste di connessione utilizzando il protocollo e la porta configurata. Le regole definite per un listener determinano il modo in cui Amazon ECS instrada le richieste alle destinazioni registrate.

Regola: una risorsa di bilanciamento del carico elastico associata a un listener. Una regola definisce il modo in cui le richieste vengono instradate e consiste in un'azione, una condizione e una priorità.

Utilizzo delle risorse: le implementazioni Canary eseguono simultaneamente sia i set di attività originali che quelli di Canary durante il periodo di valutazione, aumentando l'utilizzo delle risorse.

Volume di traffico: assicurati che la percentuale canaria generi traffico sufficiente per una convalida significativa della nuova versione.

Monitoraggio della complessità: le implementazioni di Canary richiedono il monitoraggio e il confronto simultaneo delle metriche tra due diverse versioni.

Velocità di rollback: le implementazioni Canary consentono un rapido rollback riportando il traffico al set di attività originale.

Riduzione del rischio: le implementazioni Canary forniscono un'eccellente mitigazione del rischio limitando l'esposizione a una piccola percentuale di utenti.

Durata dell'implementazione: le implementazioni Canary includono periodi di valutazione che prolungano il tempo complessivo di implementazione ma offrono opportunità di convalida.

Iniziale: l'implementazione inizia con il 100% del traffico indirizzato alla revisione blu (attuale) del servizio. La revisione verde (nuova) del servizio riceve inizialmente traffico di prova ma nessun traffico di produzione.

Spostamento del traffico nelle Canarie: si tratta di una strategia di spostamento del traffico in due fasi.

Tempo di cottura delle Canarie: attende una durata configurabile (canary bake time) dopo lo spostamento del traffico nelle Isole Canarie per consentire il monitoraggio e la convalida delle prestazioni della nuova revisione in base all'aumento del carico di traffico.

Lifecycle hook: le funzioni Lambda opzionali o gli hook di pausa possono essere configurati in varie fasi del ciclo di vita durante l'implementazione per eseguire convalida, monitoraggio o logica personalizzata automatici. Gli hook sono configurati o vengono richiamati in ogni fase del passaggio del traffico di produzionePRODUCTION_TRAFFIC_SHIFT. PRE_PRODUCTION_TRAFFIC_SHIFT

Percentuale canaria: la percentuale di traffico da indirizzare verso la nuova revisione del servizio durante la fase canaria. Ciò consente di eseguire i test con un sottoinsieme controllato del traffico di produzione.

Tempo di attesa canario: il tempo di attesa durante la fase canaria prima di trasferire il traffico rimanente alla nuova revisione del servizio. Ciò fornisce il tempo necessario per monitorare e convalidare la nuova versione.

Gruppo target originale: contiene attività della versione stabile corrente e riceve la maggior parte del traffico.

Gruppo target delle Canarie: contiene le attività della nuova versione e riceve una piccola percentuale di traffico per i test.

Routing ponderato: il load balancer utilizza regole di routing ponderate per distribuire il traffico tra i gruppi target in base alla percentuale canaria configurata.

Controlli dello stato di salute: entrambi i set di attività devono superare i controlli sanitari prima di ricevere traffico.

Confronto delle metriche: confronta gli indicatori chiave di prestazione tra la versione originale e quella canaria, come il tempo di risposta, il tasso di errore e la velocità effettiva.

Rollback automatico: configura gli CloudWatch allarmi per attivare automaticamente il rollback se la versione canaria mostra prestazioni ridotte.

Convalida manuale: utilizza il periodo di valutazione per esaminare manualmente registri, metriche e feedback degli utenti prima di procedere.

Inizia in piccolo: inizia con il 5-10% del traffico per ridurre al minimo l'impatto in caso di problemi.

Considerate la criticità delle applicazioni: utilizzate percentuali inferiori per le applicazioni mission-critical e percentuali maggiori per i servizi meno critici.

Considera il volume di traffico: assicurati che la percentuale canaria generi traffico sufficiente per una convalida significativa.

Concedi un tempo sufficiente: imposta periodi di valutazione sufficientemente lunghi da acquisire dati significativi sulle prestazioni, in genere 10-30 minuti.

Considera i modelli di traffico: tieni conto dei modelli di traffico dell'applicazione e degli orari di picco di utilizzo.

Bilancia velocità e sicurezza: periodi di valutazione più lunghi forniscono più dati ma rallentano la velocità di implementazione.

Metriche chiave: monitora i tempi di risposta, il tasso di errore, la produttività e l'utilizzo delle risorse per entrambi i set di attività.

Alarm-based rollback: configura gli CloudWatch allarmi per attivare automaticamente il rollback quando le metriche superano le soglie.

Analisi comparativa: configura dashboard per confrontare fianco a fianco le metriche tra la versione originale e quella canaria.

Metriche aziendali: includi metriche specifiche per l'azienda, come i tassi di conversione o il coinvolgimento degli utenti, oltre alle metriche tecniche.

Rollback automatico: configura i trigger di rollback automatici in base ai controlli di integrità e alle metriche delle prestazioni.

Procedure di rollback manuale: documenta procedure chiare per il rollback manuale quando i trigger automatici non rilevano tutti i problemi.

Test di rollback: verifica regolarmente le procedure di rollback per assicurarti che funzionino correttamente quando necessario.

Pre-deployment test: testa accuratamente le modifiche negli ambienti di staging prima dell'implementazione di Canary.

Configurazione del controllo dello stato: assicurati che i controlli sullo stato riflettano accuratamente la disponibilità e la funzionalità delle applicazioni.

Convalida delle dipendenze: verifica che le nuove versioni siano compatibili con i servizi downstream e upstream.

Coerenza dei dati: assicurati che le modifiche allo schema del database e le migrazioni dei dati siano compatibili con le versioni precedenti.

Finestre di distribuzione: pianifica le implementazioni di Canary durante l'orario lavorativo, quando i team sono disponibili per monitorare e rispondere.

Canali di comunicazione: stabilisci canali di comunicazione chiari per lo stato dell'implementazione e l'escalation dei problemi.

Assegnazione dei ruoli: definisci ruoli e responsabilità per il monitoraggio, il processo decisionale e l'esecuzione del rollback.