開始使用 SageMaker HyperPod 中的 Amazon EKS 支援 - Amazon SageMaker AI

本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

開始使用 SageMaker HyperPod 中的 Amazon EKS 支援

除了 SageMaker HyperPod 的一般 使用 SageMaker HyperPod 的先決條件 之外，請檢查下列使用 Amazon EKS 協作 SageMaker HyperPod 叢集的要求和考量。

重要

您可以使用 AWS 管理主控台 和 CloudFormation 設定用於建立 SageMaker HyperPod 叢集的資源組態。如需詳細資訊，請參閱使用 Amazon EKS 協同運作建立 SageMaker HyperPod 叢集及使用 CloudFormation範本建立 SageMaker HyperPod 叢集。

需求

注意

在建立 HyperPod 叢集之前，您需要一個使用 VPC 設定並使用 Helm 安裝的執行中 Amazon EKS 叢集。

佈建您的 Amazon EKS 叢集時，請考慮下列事項：

  1. Kubernetes 版本支援

    • SageMaker HyperPod 支援 Kubernetes 版本 1.28、1.29、1.30、1.31、1.32 和 1.33。

  2. Amazon EKS 叢集驗證模式

    • SageMaker HyperPod 支援的 Amazon EKS 叢集驗證模式為 API 和 API_AND_CONFIG_MAP。

  3. 聯網

  4. IAM 角色

  5. Amazon EKS 叢集附加元件

    • 您可以繼續使用 Amazon EKS 提供的各種附加元件，例如 Kube-proxy、CoreDNS、Amazon VPC Container Network Interface (CNI) 外掛程式、Amazon EKS Pod 身分、GuardDuty 代理程式、Amazon FSx Container Storage Interface (CSI) 驅動程式、Amazon S3 CSI 驅動程式掛載點、AWSDitro for OpenTelemetry 和 CloudWatch 可觀測性代理程式。

使用 Amazon EKS 設定 SageMaker HyperPod 叢集的考量事項

  • 您必須根據節點的類型使用不同的 IAM 角色。對於 HyperPod 節點，請使用以 SageMaker HyperPod 的 IAM 角色 為基礎的角色。對於 Amazon EKS 節點，請參閱 Amazon EKS 節點 IAM 角色。

  • 您可以使用兩種方法，在 SageMaker HyperPod 節點上佈建和掛載其他 Amazon EBS 磁碟區：使用 InstanceStorageConfigs 進行叢集層級磁碟區佈建 (在建立或更新執行個體群組時可用)，或使用 Amazon Elastic Block Store (Amazon EBS) 容器儲存介面 (CSI) 驅動程式進行動態 Pod 層級磁碟區管理。使用 InstanceStorageConfigs，將本機路徑設定為 /opt/sagemaker，以將磁碟區正確掛載到您的 Amazon EKS Pod。如需如何在 HyperPod 節點上部署 Amazon EBS CSI 控制器的詳細資訊，請參閱在 SageMaker HyperPod EKS 叢集上使用 Amazon EBS CSI 驅動程式。

  • 如果您使用執行個體類型標籤定義排程限制，請確定您使用字首為 ml. 的 SageMaker AI ML 執行個體類型。例如，對於 P5 執行個體，請使用 ml.p5.48xlarge 而非 p5.48xlarge。

使用 Amazon EKS 設定 SageMaker HyperPod 叢集網路的考量事項

  • 每個 HyperPod 叢集執行個體都支援一個彈性網路介面 (ENI)。如需每個執行個體類型的 Pod 數量上限，請參閱下表。

    執行個體類型 Pod 數量上限
    ml.p4d.24xlarge 49
    mlp4d.24xlarge 49
    ml.p5.48xlarge 49
    ml.trn1.32xlarge 49
    ml.trn1n.32xlarge 49
    ml.g5.xlarge 14
    ml.g5.2xlarge 14
    ml.g5.4xlarge 29
    ml.g5.8xlarge 29
    ml.g5.12xlarge 49
    ml.g5.16xlarge 29
    ml.g5.24xlarge 49
    ml.g5.48xlarge 49
    ml.c5.large 9
    ml.c5.xlarge 14
    ml.c5.2xlarge 14
    ml.c5.4xlarge 29
    ml.c5.9xlarge 29
    ml.c5.12xlarge 29
    ml.c5.18xlarge 49
    ml.c5.24xlarge 49
    ml.c5n.large 9
    ml.c5n.2xlarge 14
    ml.c5n.4xlarge 29
    ml.c5n.9xlarge 29
    ml.c5n.18xlarge 49
    ml.m5.large 9
    ml.m5.xlarge 14
    ml.m5.2xlarge 14
    ml.m5.4xlarge 29
    ml.m5.8xlarge 29
    ml.m5.12xlarge 29
    ml.m5.16xlarge 49
    ml.m5.24xlarge 49
    ml.t3.medium 5
    ml.t3.large 11
    ml.t3.xlarge 14
    ml.t3.2xlarge 14
    ml.g6.xlarge 14
    ml.g6.2xlarge 14
    ml.g6.4xlarge 29
    ml.g6.8xlarge 29
    ml.g6.12xlarge 29
    ml.g6.16xlarge 49
    ml.g6.24xlarge 49
    ml.g6.48xlarge 49
    ml.gr6.4xlarge 29
    ml.gr6.8xlarge 29
    ml.g6e.xlarge 14
    ml.g6e.2xlarge 14
    ml.g6e.4xlarge 29
    ml.g6e.8xlarge 29
    ml.g6e.12xlarge 29
    ml.g6e.16xlarge 49
    ml.g6e.24xlarge 49
    ml.g6e.48xlarge 49
    ml.p5e.48xlarge 49

  • 根據預設，只有具有 hostNetwork = true 的 Pod 可以存取 Amazon EC2 執行個體中繼資料服務 (IMDS)。使用 Amazon EKS Pod 身分或服務帳戶 (IRSA) 的 IAM 角色來管理對 Pod AWS登入資料的存取。

  • EKS 協作的 HyperPod 叢集支援雙 IP 定址模式，允許在啟用 IPv6 的 VPC 和子網路環境中，針對 IPv6 Amazon EKS 叢集使用 IPv4 或 IPv6 進行設定。如需詳細資訊，請參閱使用自訂 Amazon VPC 設定 SageMaker HyperPod。

使用 HyperPod 叢集彈性功能的考量事項

  • CPU 執行個體不支援節點自動取代。

  • 需要安裝 HyperPod 運作狀態監控代理程式，節點自動復原才能運作。您可以使用 Helm 安裝代理程式。如需詳細資訊，請參閱使用 Helm 在 Amazon EKS 叢集上安裝套件。

  • HyperPod 深度運作狀態檢查和運作狀態監控代理程式支援 GPU 和 Trn 執行個體。

  • SageMaker AI 會在節點進行深層運作狀態檢查時將下列污點套用至這些節點：

    effect: NoSchedule
key: sagemaker.amazonaws.com/node-health-status
value: Unschedulable
    注意

    您無法在開啟 DeepHealthChecks 的情況下，將自訂污點新增至執行個體群組中的節點。

一旦您的 Amazon EKS 叢集執行中，請先依照使用 Helm 在 Amazon EKS 叢集上安裝套件中的指示使用 Helm 套件管理員設定您的叢集，再建立您的 HyperPod 叢集。