Amazon EKS 프라이빗 클러스터에서 AWS Batch 시작하기

AWS Batch는 Amazon Elastic Kubernetes Service(Amazon EKS) 클러스터에서 배치 워크로드를 오케스트레이션하는 관리형 서비스입니다. 여기에는 대기열, 종속성 추적, 관리되는 작업 재시도 및 우선 순위 관리, 포드 관리, 노드 조정 등이 포함됩니다. 이 기능은 기존 프라이빗 Amazon EKS 클러스터를 AWS Batch와 연결하여 대규모로 작업을 실행합니다. eksctl(Amazon EKS용 명령줄 인터페이스), AWS 콘솔 또는 AWS Command Line Interface를 사용하여 다른 모든 필수 리소스와 함께 프라이빗 Amazon EKS 클러스터를 생성할 수 있습니다.

기본적으로 Amazon EKS 프라이빗 전용 클러스터는 인바운드/아웃바운드 인터넷 액세스 권한이 없으며 VPC 또는 연결된 네트워크 내에서만 API 서버에 액세스할 수 있습니다. Amazon VPC 엔드포인트는 다른 AWS 서비스에 대한 프라이빗 액세스를 활성화하는 데 사용됩니다. eksctl은 기존 Amazon VPC 및 서브넷을 사용하여 완전한 프라이빗 클러스터 생성을 지원합니다. 또한 eksctl은 제공된 Amazon VPC에서 Amazon VPC 엔드포인트를 생성하고 제공된 서브넷의 라우팅 테이블을 수정합니다.

eksctl은 기본 라우팅 테이블을 수정하지 않으므로 각 서브넷에는 연결된 명시적 라우팅 테이블이 있어야 합니다. 클러스터에서는 Amazon VPC에 있는 컨테이너 레지스트리에서 이미지를 가져와야 합니다. 또한 Amazon VPC에서 Amazon Elastic Container Registry를 생성하고 노드에서 가져올 컨테이너 이미지를 복사할 수 있습니다. 자세한 내용은 한 리포지토리에서 다른 리포지토리로 컨테이너 이미지 복사를 참조하세요. Amazon ECR 프라이빗 리포지토리를 시작하려면 Amazon ECR 프라이빗 리포지토리를 참조하세요.

선택적으로 Amazon ECR을 사용하여 풀스루 캐시 규칙을 생성할 수 있습니다. 외부 퍼블릭 레지스트리에 대한 풀스루 캐시 규칙이 생성되면 Amazon ECR 프라이빗 레지스트리 URI(Uniform Resource Identifier)를 사용하여 해당 외부 퍼블릭 레지스트리에서 이미지를 가져올 수 있습니다. 그러면 Amazon ECR이 리포지토리를 생성하고 해당 이미지를 캐시합니다. Amazon ECR 프라이빗 레지스트리 URI를 사용하여 캐시된 이미지를 가져오면 Amazon ECR은 원격 레지스트리를 점검하여 이미지의 새 버전이 있는지 확인하며, 최대 24시간마다 한 번씩 프라이빗 레지스트리를 업데이트합니다.

개요

이 자습서는 AWS CloudShell, kubectl 및 eksctl을 사용하여 프라이빗 Amazon EKS로 AWS Batch를 설정하는 방법을 보여줍니다.

사전 조건

이 자습서는 AWS Management Console에서 바로 시작할 수 있는 브라우저 기반의 사전 인증된 쉘인 AWS CloudShell을 사용합니다. 이는 더 이상 퍼블릭 인터넷에 액세스할 수 없게 된 클러스터에 대한 액세스를 허용합니다. AWS CLI, kubectl 및 eksctl은 이미 AWS CloudShell의 일부로 설치되었을 수 있습니다. AWS CloudShell에 대한 자세한 내용은 AWS CloudShell 사용 설명서를 참조하세요. AWS CloudShell의 대안은 클러스터의 VPC 또는 연결된 네트워크에 연결하는 것입니다.

kubectl 명령을 실행하려면 Amazon EKS 클러스터에 대한 프라이빗 액세스 권한이 필요합니다. 즉, 클러스터 API 서버에 대한 모든 트래픽은 클러스터의 VPC 또는 연결된 네트워크 내에서 비롯되어야 합니다.

1단계: AWS Batch를 위한 EKS 클러스터 생성

eksctl 및 다음 구성 파일을 사용하여 클러스터를 생성하는 것이 좋습니다. 수동으로 클러스터를 설정하려면 Amazon EKS 사용 설명서의 인터넷 액세스가 제한된 프라이빗 클러스터 배포의 지침을 따르세요.

2단계: AWS Batch에 대한 EKS 클러스터 준비

모든 단계는 필수이며 AWS CloudShell에서 수행해야 합니다.

3단계: Amazon EKS 컴퓨팅 환경 생성

AWS Batch 컴퓨팅 환경은 배치 워크로드 요구 사항을 충족하는 컴퓨팅 리소스 파라미터를 정의합니다. 관리형 컴퓨팅 환경에서는 Amazon EKS 클러스터 내 컴퓨팅 리소스(Kubernetes 노드)의 용량과 인스턴스 유형을 관리하는 데 AWS Batch가 도움이 됩니다. 이는 컴퓨팅 환경을 생성할 때 사용자가 정의한 컴퓨팅 리소스 사양을 기반으로 합니다. 사용자는 EC2 온디맨드 인스턴스 또는 EC2 스팟 인스턴스를 선택할 수 있습니다.

이제 AWSServiceRoleForBatch서비스 연결 역할이 Amazon EKS 클러스터에 액세스할 수 있으므로 AWS Batch 리소스를 생성할 수 있습니다. 먼저 Amazon EKS 클러스터를 가리키는 컴퓨팅 환경을 생성합니다.

$ cat <<EOF > ./batch-eks-compute-environment.json
{
  "computeEnvironmentName": "My-Eks-CE1",
  "type": "MANAGED",
  "state": "ENABLED",
  "eksConfiguration": {
    "eksClusterArn": "arn:aws:eks:us-east-1:<your-account-ID>:cluster/my-test-cluster",
    "kubernetesNamespace": "my-aws-batch-namespace"
  },
  "computeResources": {
    "type": "EC2",
    "allocationStrategy": "BEST_FIT_PROGRESSIVE",
    "minvCpus": 0,
    "maxvCpus": 128,
    "instanceTypes": [
        "m5"
    ],
    "subnets": [
        "<eks-cluster-subnets-with-access-to-the-image-for-image-pull>"
    ],
    "securityGroupIds": [
        "<eks-cluster-sg>"
    ],
    "instanceRole": "<eks-instance-profile>"
  }
}
EOF
        

$ aws batch create-compute-environment --cli-input-json file://./batch-eks-compute-environment.json

4단계: 작업 대기열 생성 및 컴퓨팅 환경 연결

$ aws batch describe-compute-environments --compute-environments My-Eks-CE1

이 새 작업 대기열에 제출된 작업은 컴퓨팅 환경과 연결된 Amazon EKS 클러스터에 조인된 AWS Batch 관리형 노드에서 포드로 실행됩니다.

$ cat <<EOF > ./batch-eks-job-queue.json
 {
    "jobQueueName": "My-Eks-JQ1",
    "priority": 10,
    "computeEnvironmentOrder": [
      {
        "order": 1,
        "computeEnvironment": "My-Eks-CE1"
      }
    ]
  }
EOF

$ aws batch create-job-queue --cli-input-json file://./batch-eks-job-queue.json

5단계: 풀스루 캐시를 사용하여 Amazon ECR 생성

클러스터에는 퍼블릭 인터넷 액세스 권한이 없으므로 컨테이너 이미지를 위한 Amazon ECR을 생성해야 합니다. 다음 지침은 풀스루 캐시 규칙을 사용하여 이미지를 저장하는 Amazon ECR을 생성합니다.

6단계: 작업 정의 등록

다음 작업 정의는 포드가 60초 동안 절전 모드로 전환하도록 지시합니다.

작업 정의의 이미지 필드에서 퍼블릭 ECR 리포지토리의 이미지에 대한 링크를 제공하는 대신 프라이빗 ECR 리포지토리에 저장된 이미지에 대한 링크를 제공합니다. 다음 샘플 작업 정의를 참조하세요.

$ cat <<EOF > ./batch-eks-job-definition.json
{
  "jobDefinitionName": "MyJobOnEks_Sleep",
  "type": "container",
  "eksProperties": {
    "podProperties": {
      "hostNetwork": true,
      "containers": [
        {
          "image": "<your-account-ID>.dkr.ecr.us-east-1.amazonaws.com/my-prefix/amazonlinux/amazonlinux:2",
          "command": [
            "sleep",
            "60"
          ],
          "resources": {
            "limits": {
              "cpu": "1",
              "memory": "1024Mi"
            }
          }
        }
      ],
      "metadata": {
        "labels": {
          "environment": "test"
        }
      }
    }
  }
}
EOF

$ aws batch register-job-definition --cli-input-json file://./batch-eks-job-definition.json

7단계: 실행할 작업 제출

AWS CloudShell에서 다음 AWS CLI 명령을 실행하여 새 작업을 제출하고 고유한 JobID를 반환합니다.

$ aws batch submit-job --job-queue My-Eks-JQ1 \
    --job-definition MyJobOnEks_Sleep - -job-name My-Eks-Job1

8단계: 작업의 출력 보기

작업의 상태를 확인하려면:

$ aws batch describe-jobs --job <JobID-from-submit-response>

startedAt과 stoppedAt은 1분 간격이어야 합니다.

9단계: (선택 사항) 재정의를 통한 작업 제출

이 작업은 컨테이너로 전달되는 명령을 재정의합니다.

$ cat <<EOF > ./submit-job-override.json
{
  "jobName": "EksWithOverrides",
  "jobQueue": "My-Eks-JQ1",
  "jobDefinition": "MyJobOnEks_Sleep",
  "eksPropertiesOverride": {
    "podProperties": {
      "containers": [
        {
          "command": [
            "/bin/sh"
          ],
          "args": [
            "-c",
            "echo hello world"
          ]
        }
      ]
    }
  }
}
EOF
        

$ aws batch submit-job - -cli-input-json file://./submit-job-override.json

10단계: 자습서 리소스 정리

Amazon EC2 인스턴스가 활성화된 동안 요금이 부과됩니다. 요금이 발생하지 않도록 해당 인스턴스를 종료할 수 있습니다.

생성한 리소스를 삭제하려면 다음과 같이 합니다.

추가 리소스

자습서를 완료한 후 다음과 같은 주제를 살펴보세요.

문제 해결

AWS Batch에서 시작된 노드가 이미지를 저장하는 Amazon ECR 리포지토리(또는 기타 리포지토리)에 액세스할 수 없는 경우 작업은 STARTING 상태로 유지될 수 있습니다. 이는 포드가 이미지를 다운로드하고 AWS Batch 작업을 실행할 수 없기 때문입니다. AWS Batch에서 시작된 포드 이름을 클릭하면 오류 메시지를 보고 문제를 확인할 수 있습니다. 오류 메시지의 내용은 다음과 유사합니다.

Failed to pull image "public.ecr.aws/amazonlinux/amazonlinux:2": rpc error: code =
Unknown desc = failed to pull and unpack image
"public.ecr.aws/amazonlinux/amazonlinux:2": failed to resolve reference
"public.ecr.aws/amazonlinux/amazonlinux:2": failed to do request: Head
"https://public.ecr.aws/v2/amazonlinux/amazonlinux/manifests/2": dial tcp: i/o timeout

기타 일반적인 문제 해결 시나리오는 AWS Batch 문제 해결을 참조하세요. 포드 상태를 기준으로 문제를 해결하려면 Amazon EKS에서 포드 상태 문제를 해결하려면 어떻게 해야 하나요?를 참조하세요.