SageMaker HyperPod 관찰성 추가 기능 설정 - Amazon SageMaker AI

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

SageMaker HyperPod 관찰성 추가 기능 설정

다음 목록에서는 관찰성 추가 기능을 설정하기 위한 사전 조건을 설명합니다.

Amazon SageMaker HyperPod(SageMaker HyperPod) 클러스터에 대한 지표를 Amazon Managed Service for Prometheus 작업 영역으로 전송하고 선택적으로 Amazon Managed Grafana에서 보려면 먼저 콘솔 역할에 다음 관리형 정책 및 권한을 연결합니다.

  • Amazon Managed Grafana를 사용하려면 Amazon Managed Grafana를 사용할 수 AWS 리전있는에서 AWS IAM Identity Center(IAM Identity Center)를 활성화합니다. 지침을 보려면 AWS IAM Identity Center 사용 설명서의 Getting started with IAM Identity Center를 참조하세요. Amazon Managed Grafana를 사용할 수 있는 AWS 리전 목록은 Amazon Managed Grafana 사용 설명서의 Supported Regions을 참조하세요.

  • IAM Identity Center에서 사용자를 한 명 이상 생성합니다.

  • Amazon EKS Pod Identity Agent 추가 기능이 Amazon EKS 클러스터에 설치되어 있는지 확인합니다. Amazon EKS Pod Identity Agent 추가 기능을 사용하면 SageMaker HyperPod 관찰성 추가 기능이 Amazon Managed Service for Prometheus 및 CloudWatch Logs와 상호 작용하기 위한 자격 증명을 가져올 수 있습니다. Amazon EKS 클러스터에 추가 기능이 있는지 확인하려면 Amazon EKS 콘솔로 이동하여 클러스터의 추가 기능 탭을 확인합니다. 추가 기능이 설치되지 않은 경우 설치하는 방법에 대한 자세한 내용은 Amazon EKS 사용 설명서의 추가 기능 생성(AWS Management 콘솔)을 참조하세요.

  • SageMaker HyperPod 관찰성 추가 기능을 설치하기 전에 SageMaker HyperPod 클러스터에 노드가 하나 이상 있어야 합니다. 이 경우 작동하는 가장 작은 Amazon EC2 인스턴스 유형은 4xlarge입니다. 이 최소 노드 크기 요구 사항은 노드가 SageMaker HyperPod 관찰성 추가 기능이 클러스터에서 이미 실행 중인 다른 포드와 함께 생성하는 모든 포드를 수용할 수 있도록 합니다.

  • 역할에 다음 정책 및 권한을 추가합니다.

    • AWS 관리형 정책: AmazonSageMakerHyperPodObservabilityAdminAccess

    • AWS관리형 정책: AWSGrafanaWorkspacePermissionManagementV2

    • AWS관리형 정책: AmazonSageMakerFullAccess

    • Amazon Managed Grafana 및 Amazon Elastic Kubernetes Service 추가 기능 액세스에 필요한 IAM 역할을 설정하는 추가 권한:

      JSON
      {
    "Version":"2012-10-17",		 	 	 		 	 	 
    "Statement": [
        {
            "Sid": "CreateRoleAccess",
            "Effect": "Allow",
            "Action": [
                "iam:CreateRole",
                "iam:CreatePolicy",
                "iam:AttachRolePolicy",
                "iam:ListRoles"
            ],
            "Resource": [
                "arn:aws:iam::*:role/service-role/AmazonSageMakerHyperPodObservabilityGrafanaAccess*",
                "arn:aws:iam::*:role/service-role/AmazonSageMakerHyperPodObservabilityAddonAccess*",
                "arn:aws:iam::*:policy/service-role/HyperPodObservabilityAddonPolicy*",
                "arn:aws:iam::*:policy/service-role/HyperPodObservabilityGrafanaPolicy*"
            ]
        }
    ]
}

    • Amazon Managed Grafana의 IAM Identity Center 사용자를 관리하는 데 필요한 추가 권한:

      JSON
      {
    "Version":"2012-10-17",		 	 	 		 	 	 
    "Statement": [
        {
            "Sid": "SSOAccess",
            "Effect": "Allow",
            "Action": [
                "sso:ListProfileAssociations",
                "sso-directory:SearchUsers",
                "sso-directory:SearchGroups",
                "sso:AssociateProfile",
                "sso:DisassociateProfile"
            ],
            "Resource": [
                "*"
            ]
        }
    ]
}

위의 사전 조건을 충족했는지 확인한 후 관찰성 추가 기능을 설치할 수 있습니다.

관찰성 추가 기능을 빠르게 설치하는 방법

  1. https://console.aws.amazon.com/sagemaker/에서 Amazon SageMaker AI 콘솔을 엽니다.

  2. 클러스터의 세부 정보 페이지로 이동합니다.

  3. 대시보드 탭에서 HyperPod 모니터링 및 관찰성이라는 추가 기능을 찾아 빠른 설치를 선택합니다.

관찰성 추가 기능의 사용자 지정 설치를 수행하는 방법

  1. 클러스터의 세부 정보 페이지로 이동합니다.

  2. 대시보드 탭에서 HyperPod 모니터링 및 관찰성이라는 추가 기능을 찾아 사용자 지정 설치를 선택합니다.

  3. 보려는 지표 범주를 지정합니다. 이러한 지표 범주에 관한 자세한 내용은 SageMaker HyperPod 클러스터 지표 섹션을 참조하세요.

  4. Amazon CloudWatch Logs를 활성화할지를 지정합니다.

  5. 서비스가 새 Amazon Managed Service for Prometheus 작업 영역을 생성하도록 할지를 지정합니다.

  6. Amazon Managed Grafana 대시보드에서 지표를 보려면 Amazon Managed Grafana 작업 영역 사용 확인란을 선택합니다. 자체 작업 영역을 지정하거나 서비스가 새 작업 영역을 생성하도록 할 수 있습니다.

    참고

    Amazon Managed Grafana는 Amazon Managed Service for Prometheus를 사용할 수 있는 모든 AWS 리전에서 사용할 수 있는 것은 아닙니다. 그러나 원하는 AWS 리전에서 Grafana 작업 영역을 설정하고 다른 AWS 리전에 있는 Prometheus 작업 영역에서 지표 데이터를 가져오도록 구성할 수 있습니다. 자세한 내용은 AWS 데이터 소스 구성을 사용하여 Amazon Managed Service for Prometheus를 데이터 소스로 추가 및 Amazon Managed Service for Prometheus 및 오픈 소스 Prometheus 데이터 소스에 연결을 참조하세요.