Piano di controllo predisposto per Amazon EKS - Amazon EKS

Contribuisci a migliorare questa pagina

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Per contribuire a questa guida per l'utente, scegli il GitHub link Modifica questa pagina nel riquadro destro di ogni pagina.

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Piano di controllo predisposto per Amazon EKS

Panoramica di

Amazon EKS Provisioned Control Plane è una funzionalità che consente agli amministratori dei cluster di scegliere tra una serie di livelli di scalabilità e di designare il livello prescelto per prestazioni molto elevate e prevedibili dal piano di controllo del cluster. Ciò consente agli amministratori del cluster di garantire che il piano di controllo sia sempre dotato della capacità specificata.

Amazon EKS offre due modalità operative per il piano di controllo del cluster. Per impostazione predefinita, i cluster Amazon EKS utilizzano la modalità Standard, in cui il piano di controllo si ridimensiona automaticamente verso l'alto e verso il basso in base alle richieste del carico di lavoro. La modalità Standard alloca dinamicamente una capacità del piano di controllo sufficiente a soddisfare le esigenze di carico di lavoro ed è la soluzione consigliata per la maggior parte dei casi d'uso. Tuttavia, per carichi di lavoro specializzati che non possono tollerare alcuna variabilità delle prestazioni dovuta alla scalabilità del piano di controllo o che richiedono quantità molto elevate di capacità del piano di controllo, è possibile utilizzare facoltativamente la modalità Provisioned. La modalità Provisioned consente di preallocare la capacità del piano di controllo che è sempre pronta a gestire requisiti di carico di lavoro impegnativi.

Nota

La modalità Provisioned è una modalità operativa del piano di controllo aggiuntiva rispetto alla modalità Standard predefinita. L'introduzione della modalità Provisioned non modifica il comportamento della modalità Standard.

Con EKS Provisioned Control Plane, gli amministratori del cluster possono predisporre in anticipo la capacità desiderata del piano di controllo, fornendo prestazioni prevedibili e elevate dal piano di controllo del cluster, sempre disponibile. EKS Provisioned Control Plane consente inoltre agli amministratori del cluster di fornire la stessa capacità del piano di controllo in tutti gli ambienti, dallo staging ai siti di produzione e di disaster recovery. Questo è importante per garantire che le prestazioni del piano di controllo ottenute in tutti gli ambienti siano coerenti e prevedibili. Infine, EKS Provisioned Control Plane consente di accedere a livelli molto elevati di prestazioni del piano di controllo, consentendo l'esecuzione di carichi di lavoro di intelligenza artificiale estremamente scalabili, elaborazione ad alte prestazioni e carichi di lavoro di elaborazione dati su larga scala su Kubernetes.

Per impostazione predefinita, tutti i cluster Amazon EKS nuovi e esistenti funzionano in modalità Standard. Per i cluster che richiedono prestazioni elevate e prevedibili dal piano di controllo, puoi scegliere di utilizzare la funzione EKS Provisioned Control Plane. Ti verrà fatturata la tariffa oraria per il particolare livello di scalabilità del Control Plane, oltre alle tariffe orarie EKS per il supporto standard o esteso. Per ulteriori informazioni sui prezzi, consulta i prezzi di Amazon EKS.

Modalità del piano di controllo di Amazon EKS

Casi d’uso

EKS Provisioned Control Plane è progettato per affrontare scenari specifici in cui prestazioni elevate e prevedibili del piano di controllo sono fondamentali per le operazioni. La comprensione di questi casi d'uso può aiutarvi a determinare se EKS Provisioned Control Plane è la soluzione giusta per i vostri carichi di lavoro.

Carichi di lavoro critici per le prestazioni: per i carichi di lavoro che richiedono una latenza minima e le massime prestazioni dal piano di controllo Kubernetes, EKS Provisioned Control Plane offre una capacità che elimina la variabilità delle prestazioni con la scalabilità del piano di controllo.

Carichi di lavoro estremamente scalabili: se esegui carichi di lavoro altamente scalabili come l'addestramento e l'inferenza basati sull'intelligenza artificiale, l'elaborazione ad alte prestazioni o l'elaborazione di dati su larga scala che richiedono un gran numero di nodi in esecuzione nel cluster, Provisioned Control Plane fornisce la capacità del piano di controllo necessaria per supportare questi carichi di lavoro impegnativi.

Eventi previsti ad alta richiesta: quando si prevede un improvviso aumento delle richieste di control plane a causa di un evento imminente, come vendite o promozioni di e-commerce, lanci di prodotti, periodi di shopping natalizio o importanti eventi sportivi o di intrattenimento, Provisioned Control Plane consente di scalare in anticipo la capacità del piano di controllo. Questo approccio proattivo assicura che il piano di controllo sia pronto a gestire l'aumento del carico senza attendere che la scalabilità automatica risponda alla domanda.

Coerenza dell'ambiente: Provisioned Control Plane consente di abbinare la capacità e le prestazioni del piano di controllo negli ambienti di staging e produzione, aiutando a identificare potenziali problemi prima dell'implementazione in produzione. Mantenendo lo stesso livello del piano di controllo in tutti gli ambienti, è possibile garantire che i risultati dei test riflettano accuratamente il comportamento di produzione, riducendo il rischio di sorprese legate alle prestazioni durante l'implementazione.

Disaster recovery e business continuity: per gli scenari di disaster recovery, Provisioned Control Plane consente di effettuare il provisioning di ambienti di failover con lo stesso livello di capacità dell'ambiente primario. Ciò garantisce interruzioni minime e un ripristino rapido durante gli eventi di failover, poiché il cluster di disaster recovery avrà caratteristiche prestazionali del piano di controllo identiche a quelle del cluster di produzione dal momento in cui viene attivato.

Control Plane Scaling Tiers

EKS Provisioned Control Plane offre livelli di scalabilità denominati utilizzando le taglie delle t-shirt (XL, 2XL, 4XL). Ogni livello definisce la propria capacità attraverso tre attributi chiave di Kubernetes che determinano le caratteristiche prestazionali del piano di controllo del cluster. La comprensione di questi attributi consente di selezionare il livello appropriato per i requisiti del carico di lavoro.

La concorrenza delle richieste API misura il numero di richieste che il server API del piano di controllo Kubernetes può elaborare contemporaneamente, il che è fondamentale per carichi di lavoro con throughput elevato.

La frequenza di pianificazione dei pod indica la velocità con cui lo scheduler Kubernetes predefinito può pianificare i pod sui nodi, misurata in pod al secondo.

La dimensione del database del cluster indica lo spazio di archiviazione allocato a etcd, il database che contiene lo stato/i metadati del cluster.

Quando si effettua il provisioning del piano di controllo del cluster su un determinato livello di scalabilità utilizzando Provisioned Control Plane, EKS garantisce che il piano di controllo del cluster mantenga i limiti corrispondenti a tale livello. I limiti dei livelli di scalabilità del piano di controllo variano in base alla versione di Kubernetes, come mostrato nelle tabelle seguenti.

EKS v1.28 e v1.29

Livello di scalabilità del piano di controllo fornito Concorrenza delle richieste API (postazioni) Velocità di pianificazione dei pod (pods/sec) Dimensioni del database del cluster (GB)

XL

1700

100

16

2XL

3400

100

16

4XL

6800

100

16

EKS v1.30 e versioni successive

Provisioned Control Plane Scaling Tier Concorrenza delle richieste API (postazioni) Velocità di pianificazione dei pod (pods/sec) Dimensioni del database del cluster (GB)

XL

1700

167

16

2XL

3400

283

16

4 XL

6800

400

16

Monitoraggio del piano di controllo, scalabilità dell'utilizzo dei livelli

Amazon EKS fornisce diverse metriche per aiutarti a monitorare l'utilizzo dei livelli del piano di controllo. Queste metriche sono pubblicate come CloudWatch metriche Amazon e sono accessibili tramite la CloudWatch console EKS. Inoltre, queste metriche possono essere recuperate dall'endpoint Prometheus del cluster EKS (vedi qui).

Metrica Prometheus CloudWatch Parametro

Concorrenza delle richieste API

apiserver_flowcontrol_current_executing_seats

apiserver_flowcontrol_current_executing_seats

Frequenza di pianificazione del pod

scheduler_schedule_attempts_total

scheduler_schedule_attempts_total, scheduler_schedule_attempts_scheduled, scheduler_schedule_attempts_unschedulable

Dimensioni del database del cluster

apiserver_storage_size_bytes

apiserver_storage_size_bytes

Comprensione della capacità di Tier rispetto alle prestazioni effettive

Quando selezioni un livello di scalabilità Provisioned Control Plane, gli attributi del livello rappresentano le configurazioni sottostanti che Amazon EKS applica al tuo piano di controllo. Tuttavia, le prestazioni effettive ottenute dipendono dai modelli di carico di lavoro specifici, dalle configurazioni e dall'aderenza alle best practice di Kubernetes. Ad esempio, mentre un livello 4XL configura API Priority and Fairness (APF) con 6.800 postazioni di richieste simultanee, la velocità effettiva delle richieste ottenuta dal piano di controllo dipende dai tipi di operazioni eseguite. Ad esempio, Kubernetes penalizza le richieste di elenco più di quelle get, e quindi il numero effettivo di richieste di elenco elaborate contemporaneamente dal piano di controllo è inferiore alle richieste get (vedi qui). Allo stesso modo, sebbene lo scheduler predefinito QPS sia impostato su 400 per un livello 4XL, la velocità di pianificazione effettiva dei pod dipende da fattori come la disponibilità dei nodi e lo stato di salute per la pianificazione. Per ottenere prestazioni ottimali, assicurati che le tue applicazioni seguano le best practice di Kubernetes (vedi qui) e siano configurate correttamente per le caratteristiche del tuo carico di lavoro.

Considerazioni

  • Capacità del piano di controllo standard: la modalità del piano di controllo standard di EKS offre il miglior rapporto prezzo/prestazioni ed è l'opzione consigliata per la maggior parte dei casi d'uso. Tuttavia, per carichi di lavoro specializzati che non possono tollerare alcuna variabilità delle prestazioni dovuta alla scalabilità del piano di controllo o che richiedono quantità molto elevate di capacità del piano di controllo, è possibile prendere in considerazione l'utilizzo della modalità Provisioned.

  • È richiesto il consenso esplicito: i cluster esistenti non passeranno automaticamente dal piano di controllo Standard a un livello EKS Provisioned Control Plane più costoso. È necessario attivare esplicitamente uno dei nuovi livelli di scalabilità EKS Provisioned Control Plane.

  • Restrizione all'uscita: la modalità piano di controllo standard supporta fino a 8 GB di dimensioni del database cluster (etcd). Se la dimensione del database del cluster supera gli 8 GB durante l'utilizzo della modalità Provisioned, non è possibile tornare alla modalità Standard finché non si riducono le dimensioni del database al di sotto di 8 GB. Ad esempio, se si utilizzano 14 GB di storage del database in modalità Provisioned, è necessario innanzitutto ridurre l'utilizzo del database a meno di 8 GB prima di tornare alla modalità Standard.

  • Nessuna scalabilità automatica dei livelli: EKS Provisioned Control Plane non esegue automaticamente la scalabilità tra i livelli. Una volta selezionato un livello di scalabilità, il piano di controllo del cluster rimane fissato a quel livello, garantendo prestazioni coerenti e prevedibili. Tuttavia, avete la flessibilità necessaria per implementare la vostra soluzione di scalabilità automatica monitorando le metriche di utilizzo dei livelli e utilizzando l'EKS Provisioned Control Plane APIs per scalare verso l'alto o verso il basso quando queste metriche superano le soglie definite, offrendovi il pieno controllo sulla strategia di scalabilità e sull'ottimizzazione dei costi.

  • Visualizzazione del livello corrente: puoi utilizzare la console Amazon EKS, l'interfaccia a riga di comando di Amazon Web Services o l'API per visualizzare l'attuale livello di scalabilità del piano di controllo. Nella CLI, puoi eseguire il describe-cluster comando: aws eks describe-cluster --name cluster-name

  • Tempo di transizione dei livelli: puoi utilizzare la console Amazon EKS, Amazon EKS APIs o la CLI per uscire o passare da un livello di scalabilità all'altro. Amazon EKS ha introdotto un nuovo tipo di aggiornamento del cluster chiamatoScalingTierConfigUpdate, che puoi ispezionare per monitorare l'avanzamento della transizione. Dopo aver eseguito un comando di cambio di livello, puoi elencare gli aggiornamenti sul cluster per visualizzare un nuovo aggiornamento di tipo ScalingTierConfigUpdate con statoUpdating. Lo stato cambia Successful al termine dell'aggiornamento o in Failed caso di errore. Il campo di errore nell'aggiornamento indica il motivo dell'errore. Non ci sono restrizioni sulla frequenza con cui è possibile passare da un livello all'altro. Il completamento della modifica del livello del piano di controllo richiede diversi minuti.

  • Selezione del livello ottimale: per determinare il livello di scalabilità Provisioned Control Plane ottimale per il cluster, è possibile eseguire test di carico effettuando il provisioning del cluster sul livello più alto (4XL). Quindi esegui un test di carico per simulare la domanda di picco sul piano di controllo del cluster. Osservate le metriche di utilizzo del livello di control plane al picco di carico e utilizzate queste osservazioni come fattore guida per selezionare il livello appropriato per la modalità Provisioned.

  • Prezzi Provisioned Control Plane: ti verrà addebitata la tariffa oraria per il livello di scalabilità Provisioned Control Plane in cui si trova il cluster. Questo si aggiunge alle tariffe orarie di supporto standard o esteso. Per ulteriori informazioni, consulta la pagina dei prezzi di Amazon EKS.

  • Livello di scalabilità più ampio: se intendi eseguire il cluster su un livello di scalabilità superiore a 4XL, contatta il team dell'account di Amazon Web Services per ulteriori informazioni sui prezzi.

  • Supporto per versioni e regioni di Kubernetes: EKS Provisioned Control Plane è supportato in tutte le regioni commerciali di Amazon Web Services GovCloud e in Cina. Provisioned Control Plane funziona su EKS v1.28 e versioni successive.