Crea nodi autogestiti con i blocchi di capacità per il ML

Crea un modello di lancio applicabile al tuo carico di lavoro. Per ulteriori informazioni, consulta Usa i blocchi di capacità per carichi di lavoro di machine learning nella Guida per l'utente di Amazon EC2 Auto Scaling.

Assicurati che LaunchTemplateData includa quanto segue:

Utilizza il modello di avvio per creare un gruppo di nodi autogestito. Se lo fai prima che la prenotazione della capacità diventi attiva, imposta la capacità desiderata su 0. Quando crei il gruppo di nodi, assicurati di specificare solo la rispettiva sottorete per la zona di disponibilità in cui è la capacità è riservata.

Di seguito è riportato un esempio di modello CloudFormation che puoi usare come riferimento per crearne uno applicabile al tuo carico di lavoro. Questo esempio ottiene i valori di LaunchTemplateId e Version della risorsa AWS::Amazon EC2::LaunchTemplate mostrata nel passaggio precedente. Ottiene anche i valori di DesiredCapacity, MaxSize, MinSize e VPCZoneIdentifier che sono dichiarati altrove nello stesso modello.

NodeGroup:
  Type: "AWS::AutoScaling::AutoScalingGroup"
  Properties:
    DesiredCapacity: !Ref NodeAutoScalingGroupDesiredCapacity
    LaunchTemplate:
      LaunchTemplateId: !Ref NodeLaunchTemplate
      Version: !GetAtt NodeLaunchTemplate.LatestVersionNumber
    MaxSize: !Ref NodeAutoScalingGroupMaxSize
    MinSize: !Ref NodeAutoScalingGroupMinSize
    VPCZoneIdentifier: !Ref Subnets
    Tags:
      - Key: Name
        PropagateAtLaunch: true
        Value: !Sub ${ClusterName}-${NodeGroupName}-Node
      - Key: !Sub kubernetes.io/cluster/${ClusterName}
        PropagateAtLaunch: true
        Value: owned

Una volta che il gruppo di nodi è stato creato, assicurati di registrare il valore NodeInstanceRole per il gruppo di nodi creato. Ciò è necessario per verificare che, in seguito al dimensionamento del gruppo di nodi, i nuovi nodi vengano aggiunti al cluster e Kubernetes sia in grado di riconoscerli. Per ulteriori informazioni, consulta le istruzioni Console di gestione AWS in Create self-managed Amazon Linux nodes.

Consigliamo di creare una policy di dimensionamento programmato per il gruppo con dimensionamento automatico che si allinei ai tempi di prenotazione dei blocchi di capacità. Per ulteriori informazioni, consulta Dimensionamento programmato per Amazon EC2 Auto Scaling nella Guida per l'utente di Amazon EC2 Auto Scaling.

Puoi utilizzare tutte le istanze prenotate fino a 30 minuti prima dell'orario di fine del blocco di capacità. Le istanze ancora in esecuzione in quel momento inizieranno a terminare. Per avere tempo sufficiente per svuotare correttamente i nodi, suggeriamo di pianificare il dimensionamento fino a zero più di 30 minuti prima dell'orario di fine della prenotazione del blocco di capacità.

Se desideri invece aumentare le dimensioni manualmente ogni volta che la prenotazione della capacità diventa Active, devi aggiornare la capacità desiderata del gruppo con dimensionamento automatico all’inizio della prenotazione del blocco di capacità. Successivamente, dovrai anche ridurre le dimensioni manualmente più di 30 minuti prima dell'orario di fine della prenotazione del blocco di capacità.

Il gruppo di nodi è ora pronto per la pianificazione di carichi di lavoro e pod.

Affinché i tuoi pod vengano svuotati correttamente, consigliamo di configurare AWS Node Termination Handler. Questo strumento sarà in grado di monitorare gli eventi del ciclo di vita “Ridimensionamento di ASG” di Amazon EC2 Auto Scaling utilizzando EventBridge e consentire al piano di controllo Kubernetes di intraprendere l’azione richiesta prima che l’istanza diventi non disponibile. Altrimenti, i tuoi oggetti pod e Kubernetes rimarranno bloccati nello stato in sospeso. Per ulteriori informazioni, consulta AWS Node Termination Handler su GitHub.

Se non configuri Node Termination Handler, consigliamo di cominciare a svuotare manualmente i pod prima di raggiungere la finestra di 30 minuti, in modo che abbiano tempo sufficiente per il corretto svuotamento.