훈련 연산자 설치

HyperPod 클러스터의 IAM 실행 역할에 eks-auth:AssumeRoleForPodIdentity 권한이 있는지 확인하거나 훈련 운영자와 함께 사용할 수 있는 다음 권한이 있는 새 IAM 역할을 생성합니다.

{
    "Version": "2012-10-17",
    "Statement": [
        {
            "Sid": "AllowEksAuthToAssumeRoleForPodIdentity",
            "Effect": "Allow",
            "Principal": {
                "Service": "pods.eks.amazonaws.com"
            },
            "Action": [
                "sts:AssumeRole",
                "sts:TagSession"
            ]
        }
    ]
}

새로 생성한 역할에 다음 IAM 정책을 연결합니다. HyperPod 클러스터 ARN을 지정해야 합니다.

콘솔을 사용하여 EKS Pod Identity Agent를 설정합니다. 를 사용하려면 다음 명령을 AWS CLI사용합니다.

aws eks create-addon \ 
 --cluster-name my-eks-cluster \
 --addon-name eks-pod-identity-agent \
 --region AWS 리전

그런 다음 EKS 클러스터, IAM 역할 및 새 IAM 역할 간에 포드 자격 증명 연결을 생성합니다.

aws eks create-pod-identity-association \
--cluster-name my-eks-cluster \
--role-arn ARN of your role \
--namespace aws-hyperpod \
--service-account hp-training-operator-controller-manager \
--region AWS 리전

프로세스를 완료한 후 ListPodIdentityAssociations 작업을 사용하여 생성한 연결을 확인할 수 있습니다. 다음은 모양에 대한 샘플 응답입니다.

aws eks list-pod-identity-associations --cluster-name my-eks-cluster
{
    "associations": [{
        "clusterName": "my-eks-cluster",
        "namespace": "aws-hyperpod",
        "serviceAccount": "hp-training-operator-controller-manager",
        "associationArn": "arn:aws:eks:us-east-2:123456789012:podidentityassociation/my-hyperpod-cluster/a-1a2b3c4d5e6f7g8h9",
        "associationId": "a-1a2b3c4d5e6f7g8h9"
    }]
}

공식 Kueue 설명서의 설치 가이드를 따릅니다. 구성 단계에 도달하면 다음 구성을 controller_manager_config.yaml추가합니다.

externalFrameworks:
- "HyperPodPytorchJob.v1.sagemaker.amazonaws.com"

공식 설치 가이드의 나머지 단계를 따릅니다. Kueue 설치를 완료한 후 kubectl apply -f sample-queues.yaml 명령을 사용하여 일부 샘플 대기열을 생성할 수 있습니다. 다음 YAML 파일을 사용합니다.

apiVersion: kueue.x-k8s.io/v1beta1
kind: ClusterQueue
metadata:
  name: cluster-queue
spec:
  namespaceSelector: {}
  preemption:
    withinClusterQueue: LowerPriority
  resourceGroups:
  - coveredResources:
    - cpu
    - nvidia.com/gpu
    - pods
    flavors:
    - name: default-flavor
      resources:
      - name: cpu
        nominalQuota: 16
      - name: nvidia.com/gpu
        nominalQuota: 16
      - name: pods
        nominalQuota: 16
---
apiVersion: kueue.x-k8s.io/v1beta1
kind: LocalQueue
metadata:
  name: user-queue
  namespace: default
spec:
  clusterQueue: cluster-queue
---
apiVersion: kueue.x-k8s.io/v1beta1
kind: ResourceFlavor
metadata:
  name: default-flavor
---
apiVersion: kueue.x-k8s.io/v1beta1
description: High priority
kind: WorkloadPriorityClass
metadata:
  name: high-priority-class
value: 1000
---
apiVersion: kueue.x-k8s.io/v1beta1
description: Low Priority
kind: WorkloadPriorityClass
metadata:
  name: low-priority-class
value: 500