Studio에서 EMR Serverless 애플리케이션에 연결 - Amazon SageMaker AI

Studio에서 EMR Serverless 애플리케이션에 연결

데이터 과학자와 데이터 엔지니어는 Studio 사용자 인터페이스에서 직접 EMR Serverless 애플리케이션을 검색한 다음 연결할 수 있습니다. 시작하기 전에 Studio에서 EMR Serverless 애플리케이션 만들기의 지침에 따라 EMR Serverless 애플리케이션을 만들었는지 확인하세요.

EMR Serverless 애플리케이션을 Studio UI에서 직접 새 JupyterLab 노트북에 연결하거나 실행 중인 JupyterLab 애플리케이션의 노트북에서 연결을 시작하도록 선택할 수 있습니다.

중요

Studio를 사용하는 경우 프라이빗 공간에서 시작된 JupyterLab 애플리케이션용 EMR Serverless 애플리케이션만 검색하고 연결할 수 있습니다. EMR Serverless 애플리케이션이 Studio 환경과 동일한 AWS 리전에 있는지 확인하세요. JupyterLab 공간은 SageMaker 배포 이미지 버전 1.10 이상을 사용해야 합니다.

Studio UI에서 EMR Serverless 애플리케이션을 새 JupyterLab 노트북에 연결하는 방법:

  1. Studio UI에서 왼쪽 패널로 이동하여 왼쪽 탐색 메뉴에서 데이터 노드를 선택합니다. 그런 다음 스크롤하여 Amazon EMR 애플리케이션 및 클러스터 옵션을 선택합니다. 그러면 Studio 환경 내에서 액세스할 수 있는 Amazon EMR 애플리케이션이 서버리스 애플리케이션 탭 아래에 표시되는 페이지가 열립니다.

    참고

    사용자 또는 관리자가 EMR Serverless 애플리케이션에 대한 교차 계정 액세스를 허용하도록 권한을 구성한 경우 Studio에 대한 액세스 권한을 부여한 모든 계정의 통합 애플리케이션 목록을 볼 수 있습니다.

  2. 새 노트북에 연결할 EMR Serverless 애플리케이션을 선택한 다음 노트북에 연결을 선택합니다. 그러면 JupyterLab 공간 목록이 표시된 모달 창이 열립니다.

    • JupyterLab 애플리케이션을 시작할 프라이빗 공간을 선택한 다음 노트북 열기를 선택합니다. 이렇게 하면 선택한 공간에서 JupyterLab 애플리케이션이 시작되고 새 노트북이 열립니다.

    • 또는 모달 창 상단의 새 공간 만들기 버튼을 선택하여 새 프라이빗 공간을 만들 수 있습니다. 공간 이름을 입력한 다음 공간 만들기 및 노트북 열기를 선택합니다. 이렇게 하면 기본 인스턴스 유형과 사용 가능한 최신 SageMaker 배포 이미지가 있는 프라이빗 공간이 만들어지고 JupyterLab 애플리케이션이 시작되며 새 노트북이 열립니다.

  4. EMR Serverless 애플리케이션이 작업 실행을 위해 수임할 수 있는 IAM 런타임 실행 역할의 이름을 선택합니다. 선택하면 연결 명령이 노트북의 첫 번째 셀을 채우고 EMR Serverless 애플리케이션과의 연결을 시작합니다.

    중요

    JupyterLab 노트북을 EMR Serverless 애플리케이션에 성공적으로 연결하려면 먼저 SageMaker Studio에서 Amazon EMR 애플리케이션을 나열하고 시작할 수 있는 권한을 설정합니다.에 설명된 대로 런타임 역할 목록을 도메인 또는 사용자 프로필과 연결해야 합니다. 이 단계를 완료하지 않으면 연결을 설정할 수 없습니다.

    연결이 성공하면 메시지가 연결을 확인하고 EMR Serverless 애플리케이션을 시작하고 Spark 세션을 시작합니다.

    참고

    EMR Serverless 애플리케이션에 연결하면 상태가 Stopped 또는 Created에서 Started로 전환됩니다.

또는 JupyterLab 노트북에서 클러스터에 연결할 수도 있습니다.

  1. 노트북 오른쪽 상단에서 클러스터 버튼을 선택합니다. 그러면 액세스할 수 있는 EMR Serverless 애플리케이션이 나열된 모달 창이 열립니다. 서버리스 애플리케이션 탭에서 애플리케이션을 볼 수 있습니다.

  2. 연결할 애플리케이션을 선택한 다음 연결을 선택합니다.

  3. EMR Serverless는 SageMaker Studio에서 Amazon EMR 애플리케이션을 나열하고 시작할 수 있는 권한을 설정합니다.에 설명된 대로 필요한 권한을 설정할 때 미리 로드된 런타임 IAM 역할을 지원합니다. 이 단계를 완료하지 않으면 연결을 설정할 수 없습니다.

    Amazon EMR 실행 역할 드롭다운 메뉴에서 역할을 선택할 수 있습니다. EMR Serverless에 연결하면 Studio가 노트북의 활성 셀에 코드 블록을 추가하여 연결을 설정합니다.

  4. 활성 셀이 채워지고 실행됩니다. 이 셀에는 노트북을 애플리케이션에 연결하는 연결 매직 명령이 포함되어 있습니다.

    연결에 성공하면 Spark 애플리케이션의 연결과 시작을 확인하는 메시지가 나타납니다. EMR Serverless 애플리케이션에 데이터 처리 작업 제출을 시작할 수 있습니다.