Cómo empezar a utilizar el soporte de Amazon EKS en SageMaker HyperPod - Amazon SageMaker AI

Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.

Cómo empezar a utilizar el soporte de Amazon EKS en SageMaker HyperPod

Además del formulario general Requisitos previos para utilizar SageMaker HyperPod SageMaker HyperPod, consulte los siguientes requisitos y consideraciones para organizar SageMaker HyperPod clústeres con Amazon EKS.

Requisitos

nota

Antes de crear un HyperPod clúster, necesita un clúster de Amazon EKS en ejecución configurado con VPC e instalado mediante Helm.

  • Si utiliza la consola SageMaker AI, puede crear un clúster de Amazon EKS en la página de la consola de HyperPod clústeres. Para obtener más información, consulte Crear un SageMaker HyperPod clúster.

  • Si utiliza AWS CLI, debe crear un clúster de Amazon EKS antes de crear un HyperPod clúster con el que asociarse. Para obtener más información, consulte Creación de un clúster de Amazon EKS en la Guía del usuario de Amazon EKS.

A la hora de aprovisionar el clúster de Amazon EKS, tenga en cuenta lo siguiente:

  1. Compatibilidad con la versión de Kubernetes

    • SageMaker HyperPod es compatible con las versiones 1.28, 1.29, 1.30, 1.31 y 1.32 de Kubernetes.

  2. Modo de autenticación de clústeres de Amazon EKS

    • El modo de autenticación de un clúster de Amazon EKS compatible con SageMaker HyperPod son API yAPI_AND_CONFIG_MAP.

  3. Redes

    • SageMaker HyperPod requiere la versión 1.18.3 o posterior del complemento Amazon VPC Container Network Interface (CNI).

      nota

      AWS El complemento CNI de VPC para Kubernetes es el único CNI compatible con. SageMaker HyperPod

    • El tipo de subred de la VPC debe ser privado HyperPod para los clústeres.

  4. Roles de IAM

  5. Complementos de clústeres de Amazon EKS

    • Puede seguir utilizando los distintos complementos que ofrece Amazon EKS, como Kube-proxy, CoreDNS, el complemento Amazon VPC Container Network Interface (CNI), la identidad del pod de Amazon EKS, el GuardDuty agente, el controlador Amazon Container Storage Interface (CSI), el controlador CSI Mountpoint for FSx Amazon S3, la Distro for y el agente Observability. AWS OpenTelemetry CloudWatch

Consideraciones para configurar SageMaker HyperPod clústeres con Amazon EKS

  • Debe utilizar funciones de IAM distintas en función del tipo de nodos. Para HyperPod los nodos, utilice un rol basado enFunción de IAM para SageMaker HyperPod. Para los nodos de Amazon EKS, consulte la función de IAM de los nodos de Amazon EKS.

  • No puede montar volúmenes de EBS adicionales directamente en los pods que se ejecutan en los nodos del HyperPod clúster. En su lugar, debe utilizarlos InstanceStorageConfigspara aprovisionar y montar volúmenes de EBS adicionales en los HyperPod nodos. Es importante tener en cuenta que solo puedes adjuntar volúmenes de EBS adicionales a nuevos grupos de instancias al crear o actualizar un HyperPod clúster. Una vez que haya configurado los grupos de instancias con estos volúmenes de EBS adicionales, en el archivo de configuración de los pods de Amazon EKS, tendrá que establecer la ruta local en /opt/sagemaker para montar correctamente los volúmenes en los pods de Amazon EKS.

  • Puede implementar el controlador CSI (Container Storage Interface) de Amazon EBS en HyperPod los nodos. Sin embargo, el nodo CSI de Amazon EBS DaemonSet, que facilita el montaje y desmontaje de los volúmenes de EBS, solo puede ejecutarse en instancias distintas. HyperPod

  • Si utiliza etiquetas de tipo de instancia para definir las restricciones de programación, asegúrese de utilizar los tipos de instancias de AI ML con el SageMaker prefijo. ml. Por ejemplo, para las instancias P5, utilice ml.p5.48xlarge en lugar de p5.48xlarge.

Consideraciones para configurar la red para SageMaker HyperPod clústeres con Amazon EKS

  • Cada instancia de HyperPod clúster admite una interfaz de red elástica (ENI). Para conocer la cantidad máxima de pods por tipo de instancia, consulte la siguiente tabla.

    Tipo de instancia Número máximo de pods
    ml.p4d.24xlarge 49
    ml.p4de.24xlarge 49
    ml.p5.48xlarge 49
    ml.trn1.32xlarge 49
    ml.trn1n.32xlarge 49
    ml.g5.xlarge 14
    ml.g5.2xlarge 14
    ml.g5.4xlarge 29
    ml.g5.8xlarge 29
    ml.g5.12xlarge 49
    ml.g5.16xlarge 29
    ml.g5.24xlarge 49
    ml.g5.48xlarge 49
    ml.c5.large 9
    ml.c5.xlarge 14
    ml.c5.2xlarge 14
    ml.c5.4xlarge 29
    ml.c5.9xlarge 29
    ml.c5.12xlarge 29
    ml.c5.18xlarge 49
    ml.c5.24xlarge 49
    ml.c5n.large 9
    ml.c5n.2xlarge 14
    ml.c5n.4xlarge 29
    ml.c5n.9xlarge 29
    ml.c5n.18xlarge 49
    ml.m5.large 9
    ml.m5.xlarge 14
    ml.m5.2xlarge 14
    ml.m5.4xlarge 29
    ml.m5.8xlarge 29
    ml.m5.12xlarge 29
    ml.m5.16xlarge 49
    ml.m5.24xlarge 49
    ml.t3.medium 5
    ml.t3.large 11
    ml.t3.xlarge 14
    ml.t3.2xlarge 14
    ml.g6.xlarge 14
    ml.g6.2xlarge 14
    ml.g6.4 x grande 29
    ml.g 6,8 x grande 29
    ml.g6.12x grande 29
    ml.g6.16x grande 49
    ml.g 6.24 x grande 49
    ml.g 6,48 x grande 49
    ml.gr 6,4 x grande 29
    ml.gr 6,8 x grande 29
    ml.g6e.xlarge 14
    ml.g6e.2xlarge 14
    ml.g6e.4xlarge 29
    ml.g6e.8xlarge 29
    ml.g6e.12x grande 29
    ml.g6e.16x grande 49
    ml.g6e. 24 x grande 49
    ml.g6e.48 x grande 49
    ml.p5e.48 x grande 49
  • De forma predeterminada, solo hostNetwork = true los pods con acceso al Amazon EC2 Instance Metadata Service (IMDS). Usa la identidad del pod de Amazon EKS o las funciones de IAM para las cuentas de servicio (IRSA) para administrar el acceso a AWS las credenciales de los pods.

  • HyperPod Los clústeres orquestados por EKS admiten modos de direccionamiento IP dual, lo que permite la configuración con o IPv4 para los clústeres de IPv6 IPv6 Amazon EKS en entornos de subred y IPv6 VPC habilitados. Para obtener más información, consulte Configuración SageMaker HyperPod con una Amazon VPC personalizada.

Consideraciones sobre el uso de las funciones de resiliencia del clúster HyperPod

  • No se admite el reemplazo automático de nodos en las instancias de CPU.

  • El agente de supervisión del HyperPod estado debe estar instalado para que funcione la recuperación automática del nodo. El agente se puede instalar mediante Helm. Para obtener más información, consulte Instalación de paquetes en el clúster de Amazon EKS mediante Helm.

  • El agente de control HyperPod exhaustivo y supervisión del estado es compatible con las instancias GPU y Trn.

  • SageMaker La IA afecta de la siguiente manera a los nodos cuando se someten a controles de estado exhaustivos:

    effect: NoSchedule key: sagemaker.amazonaws.com/node-health-status value: Unschedulable
    nota

    No puede añadir taints personalizadas a los nodos de los grupos de instancias con la opción DeepHealthChecks activada.

Una vez que el clúster de Amazon EKS esté en ejecución, configúrelo con el administrador de paquetes Helm tal y como se indica Instalación de paquetes en el clúster de Amazon EKS mediante Helm antes de crear el HyperPod clúster.