기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.
# 알고리즘 유형
기계 학습은 일종의 귀납적 추론이 필요한 경험적 작업을 수행하는 데 도움이 될 수 있습니다. 이 작업에는 데이터를 사용하여 알고리즘을 훈련시켜 일반화시킬 수 있는 추론을 수행하는 귀납법이 포함됩니다. 즉, 알고리즘은 훈련에 사용되지 않은 새 데이터에 적용할 경우 통계적으로 신뢰할 수 있는 예측 또는 결정을 내리거나 다른 태스크를 완료할 수 있습니다.
태스크에 가장 적합한 알고리즘을 선택할 수 있도록 다양한 추상화 수준에 따라 이러한 작업을 분류합니다. 가장 높은 추상화 수준에서 기계 학습은 특징 또는 데이터세트의 텍스트와 같이 덜 구조화된 항목 간의 패턴이나 관계를 찾으려고 시도합니다. 패턴 인식 기법은 고유한 기계 학습 패러다임으로 분류할 수 있으며, 각 패러다임은 특정 문제 유형을 다룹니다. 현재 다양한 문제 유형을 해결하는 데 사용되는 기계 학습에는 세 가지 기본 패러다임이 있습니다.
+ [지도 학습](#algorithms-choose-supervised-learning)
+ [비지도 학습](#algorithms-choose-unsupervised-learning)
+ [강화 학습](#algorithms-choose-reinforcement-learning)
보유하고 있거나 수집할 수 있는 데이터 유형으로부터 도출하고자 하는 추론(또는 예측, 결정 또는 기타 태스크)을 고려하여 각 학습 패러다임이 해결할 수 있는 문제 유형을 식별합니다. 기계 학습 패러다임은 알고리즘 방법을 사용하여 다양한 문제 유형을 해결합니다. 알고리즘은 이러한 문제를 해결하기 위한 방법을 제공합니다.
그러나 신경망과 같은 많은 알고리즘을 다양한 학습 패러다임과 다양한 유형의 문제에 적용할 수 있습니다. 여러 알고리즘을 사용하여 특정 문제 유형을 해결할 수도 있습니다. 일부 알고리즘은 더 일반적으로 적용할 수 있고 다른 알고리즘은 특정 종류의 목표와 데이터에 매우 구체적입니다. 따라서 기계 학습 알고리즘과 문제 유형 간의 매핑은 다대다로 이루어집니다. 또한 알고리즘에 사용할 수 있는 다양한 구현 옵션이 있습니다.
다음 섹션에서는 다양한 문제 유형에 적합한 구현 옵션, 기계 학습 패러다임 및 알고리즘에 관한 지침을 제공합니다.
**Topics**
+ [알고리즘 구현 선택](#algorithms-choose-implementation)
+ [기본 기계 학습 패러다임의 문제 유형](#basic-machine-learning-paradigms)
+ [Amazon SageMaker 기본 제공 알고리즘 또는 사전 훈련된 모델 사용](algos.md)
+ [Amazon SageMaker AI를 통한 강화형 기계 학습 사용](reinforcement-learning.md)
## 알고리즘 구현 선택
알고리즘을 선택한 후에는 어떤 구현을 사용할지 결정해야 합니다. Amazon SageMaker AI는 점점 더 많은 작업이 필요한 3가지 구현 옵션을 지원합니다.
+ **사전 훈련된 모델**은 최소한의 노력이 필요하며 배포 준비 완료 상태이거나 SageMaker JumpStart를 사용하여 미세 조정 및 배포할 수 있는 모델입니다.
+ 데이터세트가 크고 모델을 학습하고 배포하는 데 상당한 리소스가 필요한 경우 **기본 제공 알고리즘**은 더 많은 노력과 확장이 필요합니다.
+ 제대로 작동하는 내장 솔루션이 없는 경우 Scikit-Learn, TensorFlow, PyTorch, MXNet 또는 Chainer와 같은 지원되는 프레임워크를 위해 **기계 및 딥 러닝 프레임워크용으로 미리 만들어진 이미지**를 사용하는 솔루션을 개발해 보세요.
+ 사용자 지정 패키지를 실행하거나 지원되는 프레임워크의 일부가 아니거나 PyPi를 통해 제공되는 코드를 사용해야 하는 경우 필요한 패키지 또는 소프트웨어를 설치하도록 구성된 **사용자 지정 도커 이미지를 직접** 빌드해야 합니다. 또한 사용자 지정 이미지는 Amazon Elastic Container Registry와 같은 온라인 리포지토리로 푸시해야 합니다.
**Topics**
+ [기본 제공 알고리즘 사용](#built-in-algorithms-benefits)
+ [지원되는 프레임워크에서 스크립트 모드를 사용하세요.](#supported-frameworks-benefits)
+ [사용자 지정 도커 이미지 사용](#custom-image-use-case)
알고리즘 구현 지침
| 구현 | 코드 요구 | 사전 코딩된 알고리즘 | 타사 패키지 지원 | 사용자 지정 코드 지원 | 노력 수준 |
| --- | --- | --- | --- | --- | --- |
| 기본 제공 | 아니요 | 예 | 아니요 | 아니요 | 낮음 |
| Scikit-learn | 예 | 예 | PyPi 전용 | 예 | 중간 |
| Spark ML | 예 | 예 | PyPi 전용 | 예 | 중간 |
| XGBoost (오픈 소스) | 예 | 예 | PyPi 전용 | 예 | 중간 |
| TensorFlow | 예 | 아니요 | PyPi 전용 | 예 | 중간-높음 |
| PyTorch | 예 | 아니요 | PyPi 전용 | 예 | 중간-높음 |
| MXNet | 예 | 아니요 | PyPi 전용 | 예 | 중간-높음 |
| Chainer | 예 | 아니요 | PyPi 전용 | 예 | 중간-높음 |
| 사용자 지정 이미지 | 예 | 아니요 | 예, 모든 소스에서 | 예 | 높음 |
### 기본 제공 알고리즘 사용
문제 유형과 데이터에 맞는 알고리즘을 선택할 때 가장 쉬운 옵션은 Amazon SageMaker AI 기본 제공 알고리즘 중 하나를 사용하는 것입니다. 이러한 기본 제공 알고리즘에는 두 가지 주요 이점이 있습니다.
+ 기본 제공 알고리즘은 코딩하지 않아도 실험을 실행할 수 있습니다. 입력으로 데이터, 하이퍼파라미터, 컴퓨팅 리소스만 제공하면 됩니다. 이를 통해 결과 및 코드 변경을 추적하는 데 드는 오버헤드를 줄이면서 실험을 더 빠르게 실행할 수 있습니다.
+ 기본 제공 알고리즘은 여러 컴퓨팅 인스턴스에서 병렬화를 지원하며 적용 가능한 모든 알고리즘에 대해 GPU를 즉시 지원합니다(일부 알고리즘은 고유한 제한으로 인해 포함되지 않을 수 있음). 모델 훈련에 사용할 데이터가 많은 경우 대부분의 기본 제공 알고리즘은 수요에 맞게 쉽게 규모를 조정할 수 있습니다. 사전 훈련된 모델이 있더라도, 지원되는 프레임워크의 스크립트 모드를 사용하여 모델을 포팅하는 것보다 SageMaker AI에서 결과를 사용하고 이미 알고 있는 하이퍼파라미터를 입력하는 것이 더 쉬울 수 있습니다.
SageMaker AI에서 제공하는 내장된 알고리즘에 대한 자세한 내용은 [Amazon SageMaker 기본 제공 알고리즘 또는 사전 훈련된 모델 사용](algos.md) 섹션을 참조하세요.
Docker 레지스트리 경로, 데이터 형식, 권장 EC2 인스턴스 유형 및 SageMaker AI에서 제공하는 모든 내장된 알고리즘에 공통적인 CloudWatch 로그에 대한 중요한 내용은 [기본 제공 알고리즘의 파라미터](common-info-all-im-models.md) 섹션을 참조하세요.
### 지원되는 프레임워크에서 스크립트 모드를 사용하세요.
모델에 사용하려는 알고리즘이 내장된 선택으로 지원되지 않고 자체 솔루션을 코딩하는 데 익숙하다면 Amazon SageMaker AI 지원 프레임워크 사용을 고려해야 합니다. `.py` 확장자가 있는 텍스트 파일에 사용자 지정 코드(스크립트)를 작성하기 때문에 이를 ‘스크립트 모드’라고 합니다. 위의 테이블에서 알 수 있듯이 SageMaker AI는 널리 사용되는 대부분의 기계 학습 프레임워크를 지원합니다. 이러한 프레임워크에는 해당 프레임워크와 Pandas, NumPy와 같은 일부 추가 Python 패키지가 미리 로드되어 있으므로 알고리즘 훈련을 위한 코드를 직접 작성할 수 있습니다. 또한 이러한 프레임워크를 사용하면 훈련 코드와 함께 requirements.txt 파일을 포함하거나 자체 코드 디렉토리를 포함하여 PyPi에서 호스팅되는 모든 Python 패키지를 설치할 수 있습니다. R은 SageMaker 노트북 커널에서도 기본적으로 지원됩니다. scikit-learn 및 Spark ML과 같은 일부 프레임워크에는 쉽게 사용할 수 있는 사전 코딩된 알고리즘이 있는 반면, TensorFlow 및 PyTorch와 같은 다른 프레임워크에서는 알고리즘을 직접 구현해야 할 수도 있습니다. 지원되는 프레임워크 이미지를 사용할 때의 유일한 제한은 PyPi에서 호스팅되지 않거나 프레임워크 이미지에 아직 포함되지 않은 소프트웨어 패키지를 가져올 수 없다는 것입니다.
SageMaker AI에서 지원하는 프레임워크에 대한 자세한 내용은 [기계 학습 프레임워크 및 언어](frameworks.md) 섹션을 참조하세요.
### 사용자 지정 도커 이미지 사용
Amazon SageMaker AI 기본 제공 알고리즘과 지원되는 프레임워크는 대부분의 사용 사례를 포함해야 하지만, 지원되는 프레임워크에 포함되지 않은 패키지의 알고리즘을 사용해야 하는 경우도 있습니다. 또한 배포해야 하는 곳에 사전 훈련된 모델을 선택하거나 유지한 모델이 있을 수 있습니다. SageMaker AI는 Docker 이미지를 사용하여 모든 모델의 훈련 및 서비스를 호스팅하므로 필요한 패키지 또는 소프트웨어가 지원되는 프레임워크에 포함되어 있지 않은 경우 사용자 지정 Docker 이미지를 제공할 수 있습니다. 이것은 사용자 고유의 Python 패키지일 수도 있고 Stan 또는 Julia와 같은 언어로 코딩된 알고리즘일 수도 있습니다. 또한 이러한 이미지의 경우 Dockerfile에서 알고리즘 훈련 및 모델 제공을 적절히 구성해야 합니다. 이를 위해서는 도커에 대한 중급 지식이 필요하므로, 사용자가 스스로 기계 학습 알고리즘을 작성하는 데 익숙하지 않은 한 사용하지 않는 것이 좋습니다. 모델을 제대로 교육시키고 제공할 수 있으려면 먼저 도커 이미지를 Amazon Elastic Container Registry(ECR)와 같은 온라인 리포지토리에 업로드해야 합니다.
SageMaker AI의 사용자 지정 Docker 이미지에 대한 자세한 내용은 [모델 훈련 및 배포를 위한 Docker 컨테이너](docker-containers.md) 섹션을 참조하세요.
## 기본 기계 학습 패러다임의 문제 유형
다음 세 섹션에서는 기계 학습의 세 가지 기본 패러다임에서 다루는 주요 문제 유형을 설명합니다. SageMaker AI가 이러한 문제 유형을 해결하기 위해 제공하는 내장된 알고리즘 목록은 [Amazon SageMaker 기본 제공 알고리즘 또는 사전 훈련된 모델 사용](algos.md) 섹션을 참조하세요.
**Topics**
+ [지도 학습](#algorithms-choose-supervised-learning)
+ [비지도 학습](#algorithms-choose-unsupervised-learning)
+ [강화 학습](#algorithms-choose-reinforcement-learning)
### 지도 학습
데이터세트가 대상 값(출력)을 포함하는 특징 또는 속성(입력)으로 구성된 경우 지도 학습 문제가 있는 것입니다. 대상 값이 범주형(수학적으로 불연속형)이면 **분류에 문제**가 있는 것입니다. 바이너리를 멀티클래스 분류와 구별하는 것이 표준 방법입니다.
+ **바이너리 분류**는 개인의 속성에 따라 미리 정의되고 상호 배타적인 두 클래스 중 하나에 개인을 할당하는 지도 학습의 한 유형입니다. 올바르게 레이블이 지정된 객체가 있는 속성을 제공하는 예제를 사용하여 모델이 훈련되므로 지도가 가능합니다. 진단 테스트의 결과에 기반하여 개인이 질병을 갖고 있는지 여부에 대한 의학적 진단은 바이너리 분류의 예입니다.
+ **멀티클래스 분류**는 개인의 속성에 따라 여러 클래스 중 하나에 개인을 할당하는 지도 학습의 한 유형입니다. 올바르게 레이블이 지정된 객체가 있는 속성을 제공하는 예제를 사용하여 모델이 훈련되므로 지도가 가능합니다. 예를 들어 텍스트 문서와 가장 관련성이 높은 주제를 예측합니다. 문서는 종교, 정치, 금융 또는 기타 다양한 미리 정의된 주제 클래스 중 하나에 대한 것으로 분류될 수 있습니다.
예측하려는 대상 값이 수학적으로 연속적이면 **회귀** 문제가 있는 것입니다. 회귀는 상관 관계가 있는 하나 이상의 다른 변수 또는 속성을 기반으로 종속 대상 변수의 값을 추정합니다. 예를 들어 욕실 및 침실 수, 주택 및 정원의 평방 피트와 같은 특징을 사용하여 주택 가격을 예측합니다. 회귀 분석을 통해 이들 특징 중 하나 이상을 입력으로 사용하는 모델을 만들고 주택 가격을 예측할 수 있습니다.
SageMaker AI에서 제공하는 내장된 지도 학습 알고리즘에 대한 자세한 내용은 [지도 학습](algos.md#algorithms-built-in-supervised-learning) 섹션을 참조하세요.
### 비지도 학습
데이터세트가 레이블 또는 대상 값(출력)을 포함하지 않는 특징 또는 속성(입력)으로 구성된 경우 비지도 학습 문제가 있는 것입니다. 이 유형의 문제에서는 입력 데이터에서 발견된 패턴을 기반으로 출력을 예측해야 합니다. 비지도 학습 문제의 목표는 데이터 내에서 그룹화와 같은 패턴을 발견하는 것입니다. 비지도 학습을 적용할 수 있는 태스크나 문제 유형은 매우 다양합니다. 주요 구성 요소 분석과 클러스터 분석은 데이터 사전 처리에 일반적으로 사용되는 두 가지 주요 방법입니다. 다음은 비지도 학습으로 해결할 수 있는 문제 유형의 간단한 목록입니다.
+ **차원 축소**는 일반적으로 모델 구성에 사용할 관련성이 가장 높은 특징을 결정하는 데 사용되는 데이터 탐색 단계의 일부입니다. 그러니까 인구 밀도가 낮은 고차원 공간의 데이터를 원본 데이터의 가장 중요한 속성을 유지하는 저차원 공간으로 변환하는 것입니다. 이렇게 하면 통계 분석에 문제가 되는 인구 밀도가 낮은 고차원 데이터에서 발생할 수 있는 차원상 폐해를 완화할 수 있습니다. 또한 고차원 데이터를 시각화할 수 있는 저차원으로 축소하여 데이터를 더 잘 이해할 수 있도록 사용할 수 있습니다.
+ **클러스터 분석**은 객체 또는 사례를 클러스터라는 그룹으로 분류하는 데 사용되는 일종의 기법입니다. 데이터 내 별도의 그룹화를 찾으려 합니다. 이 경우 그룹의 멤버는 가급적 다른 멤버와 유사하고 다른 그룹의 멤버와는 가급적 다릅니다. 알고리즘이 유사성을 결정하는 데 사용할 특징이나 속성을 정의하고, 유사성을 측정할 거리 함수를 선택하고, 분석에 사용할 클러스터 수를 지정합니다.
+ **이상 탐지**는 데이터세트에서 나머지 데이터와 크게 다르기 때문에 의심을 불러일으키는 희귀 항목, 이벤트 또는 관측치를 식별하는 것입니다. 예를 들어, 은행 사기 또는 의료 오류를 탐지하는 데 변칙 항목을 식별하는 데 사용할 수 있습니다. 이상은 특이값, 신규성, 노이즈, 편차, 예외라고도 합니다.
+ **밀도 추정**은 관측된 데이터를 기반으로 관측할 수 없는 기본 확률 밀도 함수의 추정치를 구성하는 것입니다. 밀도 추정치는 데이터 탐색에 자연스럽게 사용됩니다. 밀도 추정치를 통해 데이터에서 왜도 및 다중 모달과 같은 특징을 발견할 수 있습니다. 밀도 추정의 가장 기본적인 형태는 크기가 조정된 히스토그램입니다.
SageMaker AI는 이러한 비지도 학습 작업에 사용할 수 있는 몇 가지 내장 기계 학습 알고리즘을 제공합니다. SageMaker AI에서 제공하는 내장된 비지도 알고리즘에 대한 자세한 내용은 [비지도 학습](algos.md#algorithms-built-in-unsupervised-learning) 섹션을 참조하세요.
### 강화 학습
강화형 기계 학습은 환경과의 상호 작용을 기반으로 하는 학습 유형입니다. 이러한 유형의 학습은 행동의 결과로 받는 장기적 보상을 극대화하는 것을 목표로 동적 환경과의 시행착오 상호 작용을 통해 행동을 학습해야 하는 에이전트가 사용합니다. 불확실한 보상이 있는 행동의 탐색을 알려진 보상이 있는 행동의 악용과 절충함으로써 보상을 극대화합니다.
강화 학습을 위한 SageMaker AI의 프레임워크, 도구 키트 및 환경에 대한 자세한 내용은 [Amazon SageMaker AI를 통한 강화형 기계 학습 사용](reinforcement-learning.md) 섹션을 참조하세요.
# Amazon SageMaker 기본 제공 알고리즘 또는 사전 훈련된 모델 사용
Amazon SageMaker는 기본 제공 알고리즘, 사전 훈련된 모델, 사전 구축된 솔루션 템플릿 제품군을 제공하여 데이터 사이언티스트와 기계 학습 실무자가 기계 학습 모델을 빠르게 훈련 및 배포할 수 있도록 지원합니다. SageMaker를 처음 사용하는 사람에게는 특정 사용 사례에 적합한 알고리즘을 선택하는 것이 어려울 수 있습니다. 다음 테이블은 예제 문제 또는 사용 사례로 시작하여 해당 문제 유형에 적합한 SageMaker에서 제공하는 적절한 기본 제공 알고리즘을 찾는 방법을 보여주는 간단한 치트 시트를 제공합니다. 학습 패러다임(지도 및 비지도)과 중요한 데이터 도메인(텍스트 및 이미지)별로 구성된 추가 지침은 테이블 아래 섹션에 나와 있습니다.
테이블: 사용 사례를 기본 제공 알고리즘에 매핑
[\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/ko_kr/sagemaker/latest/dg/algos.html)
SageMaker AI에서 제공하는 모든 내장된 알고리즘에 공통적으로 사용되는 다음 항목에 대한 중요 내용은 [기본 제공 알고리즘의 파라미터](common-info-all-im-models.md) 섹션을 참조하세요.
+ Docker 레지스트리 경로
+ 데이터 형식
+ 권장 Amazon EC2 인스턴스 유형
+ CloudWatch 로그
다음 섹션에서는 Amazon SageMaker AI 기본 제공 알고리즘에 대한 추가 가이드를 제공합니다. 알고리즘은 해당 알고리즘이 속한 지도 학습 및 비지도 학습 패러다임으로 그룹화되어 있습니다. 이러한 학습 패러다임 및 관련 문제 유형에 대한 설명은 [알고리즘 유형](algorithms-choose.md) 섹션을 참조하세요. 텍스트 분석과 이미지 처리라는 2가지 중요한 기계 학습 영역을 다루는 데 사용할 수 있는 SageMaker AI 기본 제공 알고리즘에 대한 섹션도 제공됩니다.
+ [사전 훈련된 모델 및 솔루션 템플릿](#algorithms-built-in-jumpstart)
+ [지도 학습](#algorithms-built-in-supervised-learning)
+ [비지도 학습](#algorithms-built-in-unsupervised-learning)
+ [텍스트 분석](#algorithms-built-in-text-analysis)
+ [이미지 프로세싱](#algorithms-built-in-image-processing)
## 사전 훈련된 모델 및 솔루션 템플릿
Amazon SageMaker JumpStart는 다양한 사전 훈련된 모델, 사전 구축된 솔루션 템플릿 및 인기 있는 문제 유형에 대한 예제를 제공합니다. 이들은 SageMaker SDK와 Studio Classic을 사용합니다. 이러한 모델, 솔루션 및 Amazon SageMaker JumpStart에서 제공하는 예제 노트북에 대한 자세한 내용은 섹션을 참조하세요[SageMaker JumpStart 사전 훈련된 모델](studio-jumpstart.md).
## 지도 학습
Amazon SageMaker AI는 분류 또는 회귀 문제에 사용할 수 있는 몇 가지 내장된 범용 알고리즘을 제공합니다.
+ [AutoGluon-Tabular](autogluon-tabular.md) - 모델을 앙상블하고 여러 레이어로 쌓아 승계하는 오픈 소스 AutoML 프레임워크.
+ [CatBoost](catboost.md) - 그라디언트 부스트 트리 알고리즘의 구현으로, 순서가 있는 부스팅과 범주형 특성 처리를 위한 혁신적인 알고리즘의 구현.
+ [Factorization Machine 알고리즘](fact-machines.md) - 고차원 저밀도 데이터세트 내 특성 간 상호 작용을 경제적으로 캡처하도록 설계된 선형 모델의 확장.
+ [K-Nearest Neighbors(k-NN) 알고리즘](k-nearest-neighbors.md) - 가장 가까운 레이블이 지정된 k 점을 사용하여 값을 할당하는 비모수적 메서드입니다. 분류의 경우 새 데이터 포인트의 레이블입니다. 회귀의 경우 가장 가까운 k 포인트의 평균에서 예측된 목표 값입니다.
+ [LightGBM](lightgbm.md) - 효율성과 확장성을 높이기 위해 두 가지 새로운 기법을 추가하는 그라데이션 부스트 트리 알고리즘의 구현입니다. 이 두 가지 새로운 기법은 GOSS(Gradient-based One-Side Sampling)와 EFB(Exclusive Feature Bundling)입니다.
+ [선형 학습자 알고리즘](linear-learner.md) - 회귀를 위한 선형 함수 또는 분류를 위한 선형 임계값 함수를 학습합니다.
+ [TabTransformer](tabtransformer.md) - 셀프 어텐션 기반 변환기를 기반으로 구축된 새로운 딥 테이블 형식 데이터 모델링 아키텍처.
+ [Amazon SageMaker AI를 사용한 XGBoost 알고리즘](xgboost.md) - 더 간단하고 약한 모델 세트의 예상치 앙상블을 결합하는 그라디언트 부스트 트리 알고리즘의 구현.
Amazon SageMaker AI는 특성 엔지니어링과 예측 중에 시계열 데이터를 통해 더 전문화된 작업에 사용되는 몇 가지 내장된 지도 학습 알고리즘을 제공합니다.
+ [Object2Vec 알고리즘](object2vec.md) - 특성 추출에 사용되는 고도로 사용자 지정이 가능한 새로운 다목적 알고리즘. 고차원 객체의 저차원 밀도 임베딩을 학습하여 다운스트림 모델의 훈련 효율성을 향상시키는 특성을 생성할 수 있습니다. 이 알고리즘은 훈련에 레이블이 지정된 데이터가 필요하기 때문에 지도 알고리즘이지만, 사람의 명시적인 주석 없이 데이터의 자연스러운 클러스터링을 통해서만 관계 레이블을 얻을 수 있는 시나리오가 많이 있습니다. 훈련을 위해 레이블이 지정된 데이터가 필요하지만 명시적인 인적 주석 없이도 발생할 수 있습니다.
+ [SageMaker AI DeepAR 예측 알고리즘 사용](deepar.md) - 반복 신경망(RNN)을 사용하여 스칼라(1차원) 시계열을 예상하는 지도 학습 알고리즘.
## 비지도 학습
Amazon SageMaker AI는 다양한 비지도 학습 작업에 사용할 수 있는 몇 가지 내장된 기계 학습 알고리즘을 제공합니다. 이러한 작업에는 클러스터링, 차원 축소, 패턴 인식, 이상 감지 등이 포함됩니다.
+ [Principal Component Analysis(PCA) 알고리즘](pca.md) - 처음 몇 개의 주요 구성 요소에 데이터 포인트를 프로젝션하여 데이터세트 내의 차원(특성 수)을 줄입니다. 목표는 가능한 한 많은 정보나 변형을 유지하는 것입니다. 수학자의 경우 주요 구성 요소은 데이터 공분산 행렬의 고유벡터입니다.
+ [k-means 알고리즘](k-means.md) - 데이터 내에서 이산 그룹화를 찾습니다. 이 경우 그룹의 멤버는 가급적 다른 멤버와 유사하고 다른 그룹의 멤버와는 최대한 다릅니다.
+ [IP Insights](ip-insights.md) - IPv4 주소의 사용 패턴을 학습합니다. IPv4 주소와 여러 엔터티(예: 사용자 ID 또는 계정 번호) 간 연결을 캡처하도록 설계되어 있습니다.
+ [Random Cut Forest(RCF) 알고리즘](randomcutforest.md) - 데이터세트 내에서 제대로 구조화되거나 패턴이 있는 데이터와 다른 비정상적인 데이터 포인트를 탐지합니다.
## 텍스트 분석
SageMaker AI는 텍스트 문서의 분석에 맞게 조정된 알고리즘을 제공합니다. SageMaker는 자연어 처리, 문서 분류 또는 요약, 주제 모델링 또는 분류, 언어 트랜스크립션 또는 번역에 사용되는 텍스트 문서의 분석에 맞게 조정된 알고리즘을 제공합니다.
+ [BlazingText 알고리즘](blazingtext.md) - 대규모 데이터세트로 쉽게 확장할 수 있는 Word2vec 및 텍스트 분류 알고리즘의 고도로 최적화된 구현. 많은 다운스트림 자연어 처리 (NLP) 태스크에 유용합니다.
+ [Sequence-to-Sequence 알고리즘](seq-2-seq.md) - 신경망 기계 번역에 일반적으로 사용되는 감독형 알고리즘.
+ [Latent Dirichlet Allocation(LDA) 알고리즘](lda.md) - 여러 문서에서 주제를 결정하는 데 적합한 알고리즘. 비지도 알고리즘으로 훈련 중 답이 포함된 예제 데이터를 사용하지 않습니다.**
+ [Neural Topic Model(NTM) 알고리즘](ntm.md) - 신경망 접근 방식을 사용하여 여러 문서에서 주제를 결정하는 또 다른 비지도 기법.
+ [텍스트 분류 - TensorFlow](text-classification-tensorflow.md) - 텍스트 분류에 사용할 수 있는 사전 훈련된 모델을 사용하여 전이 학습을 지원하는 지도 알고리즘.
## 이미지 프로세싱
또한 SageMaker AI는 이미지 분류, 객체 감지 및 컴퓨팅 비전에 사용되는 이미지 처리 알고리즘을 제공합니다.
+ [이미지 분류 - MXNet](image-classification.md) - 답이 포함된 예제 데이터를 사용합니다(지도 알고리즘이라고 함).** 이 알고리즘을 사용하여 이미지를 분류할 수 있습니다.
+ [이미지 분류 - TensorFlow](image-classification-tensorflow.md) - 사전 훈련된 TensorFlow Hub 모델을 사용하여 특정 태스크에 맞게 미세 조정합니다(지도 알고리즘이라고 함).** 이 알고리즘을 사용하여 이미지를 분류할 수 있습니다.
+ [의미 체계 분할 알고리즘](semantic-segmentation.md) - 컴퓨터 비전 응용 분야를 개발하는 데 세분화된 픽셀 수준 접근 방식을 제공합니다.
+ [객체 감지 - MXNet](object-detection.md) - 단일 심층 신경망을 사용하여 이미지의 물체를 감지하고 분류합니다. 이 알고리즘은 입력으로 이미지를 가져와 이미지 장면 내에서 객체의 모든 인스턴스를 식별하는 지도 학습 알고리즘입니다.
+ [객체 감지 - TensorFlow](object-detection-tensorflow.md) - 이미지에서 경계 상자와 객체 레이블을 감지합니다. 사전 훈련된 TensorFlow 모델에 사용할 수 있는 전이 학습을 지원하는 지도 알고리즘입니다.
**Topics**
+ [사전 훈련된 모델 및 솔루션 템플릿](#algorithms-built-in-jumpstart)
+ [지도 학습](#algorithms-built-in-supervised-learning)
+ [비지도 학습](#algorithms-built-in-unsupervised-learning)
+ [텍스트 분석](#algorithms-built-in-text-analysis)
+ [이미지 프로세싱](#algorithms-built-in-image-processing)
+ [기본 제공 알고리즘의 파라미터](common-info-all-im-models.md)
+ [테이블 형식 데이터용 내장된 SageMaker AI 알고리즘](algorithms-tabular.md)
+ [텍스트 데이터용 내장된 SageMaker AI 알고리즘](algorithms-text.md)
+ [시계열 데이터용 내장된 SageMaker AI 알고리즘](algorithms-time-series.md)
+ [비지도 내장 SageMaker AI 알고리즘](algorithms-unsupervised.md)
+ [컴퓨터 비전용 내장 SageMaker AI 알고리즘](algorithms-vision.md)
# 기본 제공 알고리즘의 파라미터
다음 테이블에는 Amazon SageMaker AI에서 제공되는 각 알고리즘에 대한 파라미터가 나열되어 있습니다.
| 알고리즘 이름 | 채널 이름 | 훈련 입력 모드 | 파일 유형 | 인스턴스 클래스 | 병렬화 가능 |
| --- | --- | --- | --- | --- | --- |
| AutoGluon-Tabular | 훈련 및 (선택적으로) 검증 | 파일 | CSV | CPU 또는 GPU(단일 인스턴스 전용) | 아니요 |
| BlazingText | train | 파일 또는 파이프 | 텍스트 파일(행당 공백으로 분류된 토큰이 포함된 하나의 문장) | CPU 또는 GPU(단일 인스턴스 전용) | 아니요 |
| CatBoost | 훈련 및 (선택적으로) 검증 | 파일 | CSV | CPU(단일 인스턴스 전용) | 아니요 |
| DeepAR Forecasting | train 및 (선택 사항) test | 파일 | JSON 라인 또는 Parquet | CPU 또는 GPU | 예 |
| Factorization Machines | train 및 (선택 사항) test | 파일 또는 파이프 | recordIO-protobuf | CPU(밀집 데이터의 경우 GPU) | 예 |
| 이미지 분류 - MXNet | train 및 validation, (선택 사항) train\$1lst, validation\$1lst 및 model | 파일 또는 파이프 | recordIO 또는 이미지 파일(.jpg 또는 .png) | GPU | 예 |
| 이미지 분류 - TensorFlow | 훈련 및 검증 | 파일 | 이미지 파일(.jpg, .jpeg 또는.png) | CPU 또는 GPU | 예(단일 인스턴스의 여러 GPU에서만 가능) |
| IP Insights | 훈련 및 (선택적으로) 검증 | 파일 | CSV | CPU 또는 GPU | 예 |
| K-Means | train 및 (선택 사항) test | 파일 또는 파이프 | recordIO-protobuf 또는 CSV | CPU 또는 GPUCommon(하나 이상의 인스턴스에 대한 단일 GPU 디바이스) | 아니요 |
| K-Nearest-Neighbors(k-NN) | train 및 (선택 사항) test | 파일 또는 파이프 | recordIO-protobuf 또는 CSV | CPU 또는 GPU(하나 이상의 인스턴스에 대한 단일 GPU 디바이스) | 예 |
| LDA | train 및 (선택 사항) test | 파일 또는 파이프 | recordIO-protobuf 또는 CSV | CPU(단일 인스턴스 전용) | 아니요 |
| LightGBM | 훈련/훈련 및 (선택적으로) 검증 | 파일 | CSV | CPU | 예 |
| Linear Learner | train 및 (선택 사항) validation, test 또는 모두 | 파일 또는 파이프 | recordIO-protobuf 또는 CSV | CPU 또는 GPU | 예 |
| Neural Topic Model | train 및 (선택 사항) validation, test 또는 모두 | 파일 또는 파이프 | recordIO-protobuf 또는 CSV | CPU 또는 GPU | 예 |
| Object2Vec | train 및 (선택 사항) validation, test 또는 모두 | 파일 | JSON Lines | CPU 또는 GPU(단일 인스턴스 전용) | 아니요 |
| 객체 감지 - MXNet | train 및 validation, (선택 사항) train\$1annotation, validation\$1annotation 및 model | 파일 또는 파이프 | recordIO 또는 이미지 파일(.jpg 또는 .png) | GPU | 예 |
| 객체 감지 - TensorFlow | 훈련 및 검증 | 파일 | 이미지 파일(.jpg, .jpeg 또는.png) | GPU | 예(단일 인스턴스의 여러 GPU에서만 가능) |
| PCA | train 및 (선택 사항) test | 파일 또는 파이프 | recordIO-protobuf 또는 CSV | CPU 또는 GPU | 예 |
| Random Cut Forest | train 및 (선택 사항) test | 파일 또는 파이프 | recordIO-protobuf 또는 CSV | CPU | 예 |
| 의미 체계 분할 | train 및 validation, train\$1annotation, validation\$1annotation, 및 (선택 사항) label\$1map 및 model | 파일 또는 파이프 | 이미지 파일 | GPU(단일 인스턴스 전용) | 아니요 |
| Seq2Seq Modeling | train, validation 및 vocab | 파일 | recordIO-protobuf | GPU(단일 인스턴스 전용) | 아니요 |
| TabTransformer | 훈련 및 (선택적으로) 검증 | 파일 | CSV | CPU 또는 GPU(단일 인스턴스 전용) | 아니요 |
| 텍스트 분류 - TensorFlow | 훈련 및 검증 | 파일 | CSV | CPU 또는 GPU | 예(단일 인스턴스의 여러 GPU에서만 가능) |
| XGBoost(0.90-1, 0.90-2, 1.0-1, 1.2-1, 1.2-21) | 훈련 및 (선택적으로) 검증 | 파일 또는 파이프 | CSV, LibSVM, Parquet | CPU(또는 1.2-1의 경우 GPU) | 예 |
병렬화할 수 있는 알고리즘은 분산 훈련을 위해 여러 컴퓨팅 인스턴스에 배포할 수 있습니다.**
다음 주제에서는 Amazon SageMaker AI에서 제공하는 모든 내장된 알고리즘에 공통적인 데이터 형식, 권장 Amazon EC2 인스턴스 유형 및 CloudWatch 로그에 대한 정보를 제공합니다.
**참고**
SageMaker AI에서 관리하는 내장된 알고리즘의 Docker 이미지 URI를 조회하려면 [Docker Registry Paths and Example Code](https://docs.aws.amazon.com/sagemaker/latest/dg-ecr-paths/sagemaker-algo-docker-registry-paths)를 참조하세요.
**Topics**
+ [훈련을 위한 공통 데이터 형식](cdf-training.md)
+ [추론을 위한 공통 데이터 형식](cdf-inference.md)
+ [기본 제공 알고리즘의 인스턴스 유형](cmn-info-instance-types.md)
+ [기본 제공 알고리즘에 대한 로그](common-info-all-sagemaker-models-logs.md)
# 훈련을 위한 공통 데이터 형식
훈련을 준비하기 위해 Amazon EMR, Amazon Redshift AWS Glue, Amazon Relational Database Service, Amazon Athena 등 다양한 AWS 서비스를 사용하여 데이터를 사전 처리할 수 있습니다. 사전 처리 이후 데이터를 Amazon S3 버킷에 게시합니다. 훈련을 위해 데이터는 다음을 포함한 여러 변환 및 변형을 거쳐야 합니다.
+ 훈련 데이터 직렬화(사용자가 처리)
+ 훈련 데이터 역직렬화(알고리즘이 처리)
+ 훈련 모델 직렬화(알고리즘이 처리)
+ 교육 모델 역직렬화(선택 사항, 사용자가 처리)
알고리즘의 훈련 부분에서 Amazon SageMaker AI를 사용할 때 모든 데이터를 한 번에 업로드해야 합니다. 해당 위치에 더 많은 데이터가 추가된 경우 새로운 훈련 호출을 통해 새 모델을 생성해야 합니다.
**Topics**
+ [기본 제공 알고리즘으로 지원되는 콘텐츠 유형](#cdf-common-content-types)
+ [파이프 모드 사용](#cdf-pipe-mode)
+ [CSV 형식 사용](#cdf-csv-format)
+ [RecordIO 형식 사용](#cdf-recordio-format)
+ [교육된 모델 역직렬화](#td-deserialization)
## 기본 제공 알고리즘으로 지원되는 콘텐츠 유형
다음 테이블에는 일반적으로 지원되는 몇 가지 [https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_Channel.html#SageMaker-Type-Channel-ContentType](https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_Channel.html#SageMaker-Type-Channel-ContentType) 값과 이를 사용하는 알고리즘이 나와 있습니다.
기본 제공 알고리즘의 ContentTypes
| ContentType | Algorithm |
| --- | --- |
| application/x-image | 객체 감지 알고리즘, 의미 체계 분할 |
| application/x-recordio | Object Detection 알고리즘 |
| application/x-recordio-protobuf | Factorization Machines, K-Means, k-NN, Latent Dirichlet Allocation, Linear Learner, NTM, PCA, RCF, Sequence-to-Sequence |
| application/jsonlines | BlazingText, DeepAR |
| 이미지/jpeg | 객체 감지 알고리즘, 의미 체계 분할 |
| 이미지/png | 객체 감지 알고리즘, 의미 체계 분할 |
| text/csv | IP Insights, K-Means, k-NN, Latent Dirichlet Allocation, Linear Learner, NTM, PCA, RCF, XGBoost |
| 텍스트/libsvm | XGBoost |
각 알고리즘에서 사용되는 파라미터에 대한 요약은 개별 알고리즘의 설명서 또는 이 [테이블](https://docs.aws.amazon.com/sagemaker/latest/dg/sagemaker-algo-docker-registry-paths.html)을 참조하세요.
## 파이프 모드 사용
파이프 모드에서는 Amazon Simple Storage Service(S3)에서 훈련 작업이 데이터를 직접 스트리밍합니다.** 스트리밍을 통해 훈련 작업의 시작 시간을 더 앞당기고 처리량을 늘릴 수 있습니다. 이는 Amazon S3의 데이터가 훈련 인스턴스 볼륨에 저장되는 파일 모드와는 대조적입니다.** 파일 모드에서는 최종 모델 결과물과 전체 훈련 데이터세트를 저장하기 위한 공간을 사용합니다. 파이프 모드에서 Amazon S3에서 직접 데이터를 스트리밍하면 훈련 인스턴스의 Amazon Elastic 블록 스토어 볼륨 크기를 줄일 수 있습니다. 파이프 모드에서는 최종 모델 결과물을 저장하는 데 충분한 디스크 공간만 필요합니다. 훈련 입력 모드에 대한 자세한 정보는 [https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_AlgorithmSpecification.html](https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_AlgorithmSpecification.html) 섹션을 참조하세요.
## CSV 형식 사용
많은 Amazon SageMaker AI 알고리즘은 CSV 형식의 데이터를 사용하여 훈련을 지원합니다. CSV 형식의 데이터를 훈련에 사용하려면 입력 데이터 채널 사양에서 **text/csv**를 [https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_Channel.html#SageMaker-Type-Channel-ContentType](https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_Channel.html#SageMaker-Type-Channel-ContentType)으로 지정하세요. Amazon SageMaker AI에서는 CSV 파일에 헤더 레코드가 없고 대상 변수가 첫 번째 열에 있어야 합니다. 목표가 없는 비지도 학습 알고리즘을 실행하려면 콘텐츠 유형에서 레이블 열의 수를 지정합니다. 예를 들어, 이 경우에는 **'content\$1type=text/csv;label\$1size=0'**입니다. 자세한 내용은 [Now use Pipe mode with CSV datasets for faster training on Amazon SageMaker AI built-in algorithms](https://aws.amazon.com/blogs/machine-learning/now-use-pipe-mode-with-csv-datasets-for-faster-training-on-amazon-sagemaker-built-in-algorithms/)을 참조하세요.
## RecordIO 형식 사용
protobuf recordIO 형식의 경우 SageMaker AI에서는 데이터세트의 각 관측치를 4바이트 부동 소수점 세트로 나타나는 바이너리 표현으로 변환한 다음 protobuf values 필드로 로드합니다. 데이터 준비에 Python을 사용하는 경우에는 기존 변환을 사용하는 것이 좋습니다. 그러나 다른 언어를 사용하는 경우에는 아래의 protobuf 정의 파일이 데이터를 SageMaker AI protobuf 형식으로 변환하는 데 사용하는 스키마를 제공합니다.
**참고**
일반적으로 사용되는 numPy 배열을 protobuf recordIO 형식으로 변환하는 방법을 보여주는 예제는 [An Introduction to Factorization Machines with MNIST](https://sagemaker-examples.readthedocs.io/en/latest/introduction_to_amazon_algorithms/factorization_machines_mnist/factorization_machines_mnist.html)를 참고하세요.**
```
syntax = "proto2";
package aialgs.data;
option java_package = "com.amazonaws.aialgorithms.proto";
option java_outer_classname = "RecordProtos";
// A sparse or dense rank-R tensor that stores data as doubles (float64).
message Float32Tensor {
// Each value in the vector. If keys is empty, this is treated as a
// dense vector.
repeated float values = 1 [packed = true];
// If key is not empty, the vector is treated as sparse, with
// each key specifying the location of the value in the sparse vector.
repeated uint64 keys = 2 [packed = true];
// An optional shape that allows the vector to represent a matrix.
// For example, if shape = [ 10, 20 ], floor(keys[i] / 20) gives the row,
// and keys[i] % 20 gives the column.
// This also supports n-dimensonal tensors.
// Note: If the tensor is sparse, you must specify this value.
repeated uint64 shape = 3 [packed = true];
}
// A sparse or dense rank-R tensor that stores data as doubles (float64).
message Float64Tensor {
// Each value in the vector. If keys is empty, this is treated as a
// dense vector.
repeated double values = 1 [packed = true];
// If this is not empty, the vector is treated as sparse, with
// each key specifying the location of the value in the sparse vector.
repeated uint64 keys = 2 [packed = true];
// An optional shape that allows the vector to represent a matrix.
// For example, if shape = [ 10, 20 ], floor(keys[i] / 10) gives the row,
// and keys[i] % 20 gives the column.
// This also supports n-dimensonal tensors.
// Note: If the tensor is sparse, you must specify this value.
repeated uint64 shape = 3 [packed = true];
}
// A sparse or dense rank-R tensor that stores data as 32-bit ints (int32).
message Int32Tensor {
// Each value in the vector. If keys is empty, this is treated as a
// dense vector.
repeated int32 values = 1 [packed = true];
// If this is not empty, the vector is treated as sparse with
// each key specifying the location of the value in the sparse vector.
repeated uint64 keys = 2 [packed = true];
// An optional shape that allows the vector to represent a matrix.
// For Exmple, if shape = [ 10, 20 ], floor(keys[i] / 10) gives the row,
// and keys[i] % 20 gives the column.
// This also supports n-dimensonal tensors.
// Note: If the tensor is sparse, you must specify this value.
repeated uint64 shape = 3 [packed = true];
}
// Support for storing binary data for parsing in other ways (such as JPEG/etc).
// This is an example of another type of value and may not immediately be supported.
message Bytes {
repeated bytes value = 1;
// If the content type of the data is known, stores it.
// This allows for the possibility of using decoders for common formats
// in the future.
optional string content_type = 2;
}
message Value {
oneof value {
// The numbering assumes the possible use of:
// - float16, float128
// - int8, int16, int32
Float32Tensor float32_tensor = 2;
Float64Tensor float64_tensor = 3;
Int32Tensor int32_tensor = 7;
Bytes bytes = 9;
}
}
message Record {
// Map from the name of the feature to the value.
//
// For vectors and libsvm-like datasets,
// a single feature with the name `values`
// should be specified.
map features = 1;
// An optional set of labels for this record.
// Similar to the features field above, the key used for
// generic scalar / vector labels should be 'values'.
map label = 2;
// A unique identifier for this record in the dataset.
//
// Whilst not necessary, this allows better
// debugging where there are data issues.
//
// This is not used by the algorithm directly.
optional string uid = 3;
// Textual metadata describing the record.
//
// This may include JSON-serialized information
// about the source of the record.
//
// This is not used by the algorithm directly.
optional string metadata = 4;
// An optional serialized JSON object that allows per-record
// hyper-parameters/configuration/other information to be set.
//
// The meaning/interpretation of this field is defined by
// the algorithm author and may not be supported.
//
// This is used to pass additional inference configuration
// when batch inference is used (e.g. types of scores to return).
optional string configuration = 5;
}
```
프로토콜 버퍼를 만들면 Amazon SageMaker AI에서 액세스가 가능하고 `create_training_job`의 `InputDataConfig` 일부로 전달되는 Amazon S3 위치에 프로토콜 버퍼를 저장합니다.
**참고**
모든 Amazon SageMaker AI 알고리즘에서 `InputDataConfig`의 `ChannelName`은 `train`으로 설정되어야 합니다. 일부 알고리즘은 또한 검증 또는 테스트 `input channels`을 지원합니다. 이러한 채널은 일반적으로 홀드아웃 데이터세트를 사용하여 모델의 성능을 평가하는 데 사용됩니다. 홀드아웃 데이터세트는 초기 훈련에서는 사용되지 않지만 추가로 모델을 튜닝하는 데에는 사용할 수 있습니다.
## 교육된 모델 역직렬화
Amazon SageMaker AI 모델은 `create_training_job` 직접 호출의 `OutputDataConfig` `S3OutputPath` 파라미터에 지정된 S3 버킷에 model.tar.gz로 저장됩니다. S3 버킷은 노트북 인스턴스와 동일한 AWS 리전에 있어야 합니다. 호스팅 모델 생성 시 이러한 모델 결과물 대부분을 지정할 수 있습니다. 또한 노트북 인스턴스에서 이를 열고 검토할 수 있습니다. `model.tar.gz`가 압축 해제될 때 직렬화된 Apache MXNet 객체인 `model_algo-1`이 포함됩니다. 예를 들어 다음을 사용하여 메모리에 k-means 모델을 로드하고 이를 검토할 수 있습니다.
```
import mxnet as mx
print(mx.ndarray.load('model_algo-1'))
```
# 추론을 위한 공통 데이터 형식
Amazon SageMaker AI 알고리즘은 온라인 및 미니 배치 예측을 가져오는 데 사용되는 HTTP 페이로드에 대한 여러 가지 MIME 유형을 수락 및 프로덕션합니다. 추론을 실행하기 전에 여러 AWS 서비스를 사용하여 레코드를 변환하거나 사전 처리할 수 있습니다. 최소한 다음에 대한 데이터를 변환해야 합니다.
+ 추론 요청 직렬화(사용자가 처리)
+ 추론 요청 역직렬화(알고리즘이 처리)
+ 추론 응답 직렬화(알고리즘이 처리)
+ 추론 응답 역직렬화(사용자가 처리)
**Topics**
+ [추론 요청 직렬화를 위한 데이터 변환](#ir-serialization)
+ [추론 응답 역직렬화를 위한 데이터 변환](#ir-deserialization)
+ [모든 알고리즘에 대한 공통 요청 형식](#common-in-formats)
+ [기본 제공 알고리즘에서 배치 변환 사용](#cm-batch)
## 추론 요청 직렬화를 위한 데이터 변환
Amazon SageMaker AI 알고리즘 추론 요청을 위한 콘텐츠 유형 옵션에는 `text/csv`, `application/json` 및 `application/x-recordio-protobuf`가 있습니다. 이러한 유형을 모두 지원하지 않는 알고리즘은 다른 유형을 지원할 수 있습니다. 예를 들어 XGBoost는 이 목록에서 `text/csv`만 지원하지만 `text/libsvm`도 지원합니다.
`text/csv`에서 `invoke_endpoint`에 대한 Body 인수의 값은 각 특성에 대한 값을 쉼표로 구분하는 문자열이어야 합니다. 예를 들어 4가지 특성이 포함된 모델에 대한 레코드는 `1.5,16.0,14,23.0`과 유사할 수 있습니다. 훈련 데이터에서 수행되는 모든 변형은 또한 추론을 얻기 전 데이터에서 수행되어야 합니다. 특성의 순서가 중요하고, 변경되어서는 안 됩니다.
`application/json`은 더욱 유연하고 개발자가 애플리케이션에서 사용할 수 있는 여러 형식을 제공합니다. 상위 수준의 JavaScript에서 페이로드는 다음과 같은 모습일 수 있습니다.
```
let request = {
// Instances might contain multiple rows that predictions are sought for.
"instances": [
{
// Request and algorithm specific inference parameters.
"configuration": {},
// Data in the specific format required by the algorithm.
"data": {
"": dataElement
}
}
]
}
```
`dataElement` 지정에 대해 다음과 같은 옵션이 있습니다.
**프로토콜 버퍼 동등**
```
// Has the same format as the protocol buffers implementation described for training.
let dataElement = {
"keys": [],
"values": [],
"shape": []
}
```
**단순한 숫자 벡터**
```
// An array containing numeric values is treated as an instance containing a
// single dense vector.
let dataElement = [1.5, 16.0, 14.0, 23.0]
// It will be converted to the following representation by the SDK.
let converted = {
"features": {
"values": dataElement
}
}
```
**여러 레코드**
```
let request = {
"instances": [
// First instance.
{
"features": [ 1.5, 16.0, 14.0, 23.0 ]
},
// Second instance.
{
"features": [ -2.0, 100.2, 15.2, 9.2 ]
}
]
}
```
## 추론 응답 역직렬화를 위한 데이터 변환
Amazon SageMaker AI 알고리즘은 여러 레이아웃에서 JSON을 반환합니다. 상위 수준에서 구조는 다음과 같습니다.
```
let response = {
"predictions": [{
// Fields in the response object are defined on a per algorithm-basis.
}]
}
```
알고리즘 간 다른 예측이 포함된 필드입니다. 다음은 k-means 알고리즘 출력의 예제입니다.
**단일 레코드 추론**
```
let response = {
"predictions": [{
"closest_cluster": 5,
"distance_to_cluster": 36.5
}]
}
```
**다중 레코드 추론**
```
let response = {
"predictions": [
// First instance prediction.
{
"closest_cluster": 5,
"distance_to_cluster": 36.5
},
// Second instance prediction.
{
"closest_cluster": 2,
"distance_to_cluster": 90.3
}
]
}
```
**protobuf 입력이 포함된 다중 레코드 추론**
```
{
"features": [],
"label": {
"closest_cluster": {
"values": [ 5.0 ] // e.g. the closest centroid/cluster was 1.0
},
"distance_to_cluster": {
"values": [ 36.5 ]
}
},
"uid": "abc123",
"metadata": "{ "created_at": '2017-06-03' }"
}
```
또한 SageMaker AI 알고리즘은 레코드당 응답 콘텐츠가 JSON 형식과 동일한 JSONLINES 형식을 지원합니다. 멀티 레코드 구조는 줄 바꿈 문자로 구분되는 레코드당 응답 객체의 모음입니다. 입력 데이터 포인트 2개에 대한 기본 제공 KMeans 알고리즘의 응답 콘텐츠는 다음과 같습니다.
```
{"distance_to_cluster": 23.40593910217285, "closest_cluster": 0.0}
{"distance_to_cluster": 27.250282287597656, "closest_cluster": 0.0}
```
배치 변환을 실행하는 중에는 `CreateTransformJobRequest`의 `Accept` 필드를 `application/jsonlines`로 설정하여 `jsonlines` 응답 유형을 사용하는 것이 좋습니다.
## 모든 알고리즘에 대한 공통 요청 형식
대부분의 알고리즘은 다음과 같은 여러 가지 추론 요청 형식을 사용합니다.
### JSON 요청 형식
**콘텐츠 유형:** application/JSON
**고밀도 형식**
```
let request = {
"instances": [
{
"features": [1.5, 16.0, 14.0, 23.0]
}
]
}
let request = {
"instances": [
{
"data": {
"features": {
"values": [ 1.5, 16.0, 14.0, 23.0]
}
}
}
]
}
```
**저밀도 형식**
```
{
"instances": [
{"data": {"features": {
"keys": [26, 182, 232, 243, 431],
"shape": [2000],
"values": [1, 1, 1, 4, 1]
}
}
},
{"data": {"features": {
"keys": [0, 182, 232, 243, 431],
"shape": [2000],
"values": [13, 1, 1, 4, 1]
}
}
},
]
}
```
### JSONLINES 요청 형식
**콘텐츠 유형:** application/JSONLINES
**고밀도 형식**
밀집 형식의 단일 레코드는 다음 중 하나로 표현될 수 있습니다.
```
{ "features": [1.5, 16.0, 14.0, 23.0] }
```
또는 다음과 같습니다.
```
{ "data": { "features": { "values": [ 1.5, 16.0, 14.0, 23.0] } }
```
**저밀도 형식**
희소 형식의 단일 레코드는 다음 중 하나로 표현될 수 있습니다.
```
{"data": {"features": { "keys": [26, 182, 232, 243, 431], "shape": [2000], "values": [1, 1, 1, 4, 1] } } }
```
멀티 레코드는 줄 바꿈 문자로 구분되는 위의 단일 레코드 표현이 연결된 형태로 표현됩니다.
```
{"data": {"features": { "keys": [0, 1, 3], "shape": [4], "values": [1, 4, 1] } } }
{ "data": { "features": { "values": [ 1.5, 16.0, 14.0, 23.0] } }
{ "features": [1.5, 16.0, 14.0, 23.0] }
```
### CSV 요청 형식
**콘텐츠 유형:** text/CSV; label\$1size=0
**참고**
Factorization Machine에 대해 CSV 지원을 이용할 수 없습니다.
### RECORDIO 요청 형식
콘텐츠 유형: application/x-recordio-protobuf
## 기본 제공 알고리즘에서 배치 변환 사용
알고리즘에서 지원하는 경우 배치 변환을 실행하는 동안에는 JSON 대신 JSONLINES 응답 유형을 사용하는 것이 좋습니다. 이렇게 하려면 `CreateTransformJobRequest`의 `Accept` 필드를 `application/jsonlines`로 설정합니다.
변환 작업을 생성할 때 `SplitType`은 입력 데이터의 `ContentType`에 따라 설정해야 합니다. 마찬가지로, `CreateTransformJobRequest`의 `Accept` 필드에 따라 `AssembleWith`를 설정해야 합니다. 다음 테이블을 사용하여 이러한 필드를 설정합니다.
| ContentType | 권장 SplitType |
| --- | --- |
| application/x-recordio-protobuf | RecordIO |
| text/csv | Line |
| application/jsonlines | Line |
| application/json | None |
| application/x-image | None |
| image/\$1 | None |
| Accept | 권장 AssembleWith |
| --- | --- |
| application/x-recordio-protobuf | None |
| application/json | None |
| application/jsonlines | Line |
특정 알고리즘의 응답 형식에 자세한 정보는 다음을 참조하세요.
+ [DeepAR 추론 형식](deepar-in-formats.md)
+ [Factorization Machine 응답 형식](fm-in-formats.md)
+ [IP Insights 추론 데이터 형식](ip-insights-inference-data-formats.md)
+ [K-Means 응답 형식](km-in-formats.md)
+ [k-NN 요청 및 응답 형식](kNN-inference-formats.md)
+ [선형 학습자 응답 형식](LL-in-formats.md)
+ [NTM 응답 형식](ntm-in-formats.md)
+ [Object2Vec 추론을 위한 데이터 형식](object2vec-inference-formats.md)
+ [Object2Vec에 대한 인코더 임베딩](object2vec-encoder-embeddings.md)
+ [PCA 응답 형식](PCA-in-formats.md)
+ [RCF 응답 형식](rcf-in-formats.md)
# 기본 제공 알고리즘의 인스턴스 유형
대부분의 Amazon SageMaker AI 알고리즘은 훈련하는 데 GPU 컴퓨팅을 활용하도록 엔지니어링되었습니다. 높은 인스턴스당 비용에도 불구하고 GPU는 더욱 빠르게 교육하여 더욱 효율적입니다. 예외가 이 가이드에 언급되어 있습니다.
지원되는 EC2 인스턴스에 대한 자세한 내용은 [인스턴스 세부 정보](https://aws.amazon.com/sagemaker-ai/pricing/#Instance_details)를 참조하세요.
데이터의 크기와 유형은 어떤 하드웨어 구성이 가장 효율적인지에 대해 큰 영향을 미칠 수 있습니다. 동일한 모델이 반복적으로 훈련될 때 일련의 인스턴스 유형에 걸친 초기 테스팅을 통해 장기적으로 가장 비용 효과적인 구성을 발견할 수 있습니다. 추가로 GPU에서 가장 효율적으로 교육하는 알고리즘은 효율적인 추론에 대해 GPU가 필요하지 않을 수 있습니다. 실험을 통해 비용 효율성이 가장 높은 솔루션을 결정합니다. 자동 인스턴스 추천을 받거나 사용자 지정 로드 테스트를 수행하려면 [Amazon SageMaker Inference Recommender](https://docs.aws.amazon.com/sagemaker/latest/dg/inference-recommender.html)를 사용하세요.
SageMaker AI 하드웨어 사양에 대한 자세한 내용은 [Amazon SageMaker AI 요금을](https://aws.amazon.com/sagemaker/ai/pricing/) 참조하세요.
**UltraServer**
UltraServer는 지연 시간이 짧은 고대역폭 액셀러레이터 인터커넥트를 사용하여 여러 Amazon EC2 인스턴스를 연결합니다. 상당한 처리 능력이 필요한 대규모 AI/ML 워크로드를 처리하도록 구축되었습니다. 자세한 내용은 [Amazon EC2 UltraServers](https://aws.amazon.com/ec2/ultraservers/)를 참조하세요. UltraServer를 시작하려면 [훈련 작업 또는 HyperPod 클러스터에 대한 훈련 계획 예약](https://docs.aws.amazon.com/sagemaker/latest/dg/reserve-capacity-with-training-plans.html)을 참조하세요.
Amazon SageMaker AI에서 UltraServer를 시작하려면 [훈련 계획을 만듭니다](https://docs.aws.amazon.com/sagemaker/latest/dg/reserve-capacity-with-training-plans.html). 훈련 계획에서 UltraServer를 사용할 수 있게 되면 AWS Management Console Amazon SageMaker AI API 또는를 사용하여 훈련 작업을 생성합니다 AWS CLI. 훈련 계획에서 구매한 UltraServer 인스턴스 유형을 지정해야 합니다.
UltraServer는 한 번에 하나 또는 여러 개의 작업을 실행할 수 있습니다. UltraServer는 인스턴스를 그룹화하여 조직에서 UltraServer 용량을 할당하는 방법에 대한 유연성을 제공합니다. 또한 작업을 구성할 때 조직의 데이터 보안 가이드라인을 기억합니다. 하나의 UltraServer에 있는 인스턴스는 동일한 UltraServer에 있는 또 다른 인스턴스의 다른 작업에 대한 데이터에 액세스할 수 있기 때문입니다.
UltraServer에서 하드웨어 장애가 발생하면 SageMaker AI는 자동으로 문제를 해결하려고 시도합니다. SageMaker AI가 문제를 조사하고 해결하면 AWS Health 이벤트 또는를 통해 알림 및 작업을 받을 수 있습니다 AWS Support.
훈련 작업이 완료되면 SageMaker AI는 인스턴스를 중지하지만 계획이 아직 활성 상태인 경우 훈련 계획에 계속 사용할 수 있습니다. 작업이 완료된 후 UltraServer에서 인스턴스를 계속 실행하려면 [관리형 웜 풀](https://docs.aws.amazon.com/sagemaker/latest/dg/train-warm-pools.html)을 사용할 수 있습니다.
훈련 계획에 충분한 용량이 있는 경우 여러 UltraServer에서 훈련 작업을 실행할 수도 있습니다. 기본적으로 각 UltraServer에는 인스턴스 17개와 예비 인스턴스 1개로 구성된 인스턴스 18개가 함께 제공됩니다. 인스턴스가 더 필요한 경우 UltraServer를 더 구매해야 합니다. 훈련 작업을 만들 때 `InstancePlacementConfig` 파라미터를 사용하여 UltraServer에 작업을 배치하는 방법을 구성할 수 있습니다.
작업 배치를 구성하지 않으면 SageMaker AI는 UltraServer 내의 인스턴스에 작업을 자동으로 할당합니다. 이 기본 전략은 최선의 노력을 기반으로 하며, 다른 UltraServer를 사용하기 전에 단일 UltraServer의 모든 인스턴스를 채우는 데 우선순위를 둡니다. 예를 들어 인스턴스 14개를 요청하고 훈련 계획에 UltraServer가 2개 있는 경우 SageMaker AI는 첫 번째 UltraServer에서 모든 인스턴스를 사용합니다. 인스턴스 20개를 요청했고 훈련 계획에 UltraServer가 2개 있는 경우 SageMaker AI는 첫 번째 UltraServer에서 인스턴스 17개를 모두 사용한 다음, 두 번째 UltraServer에서 인스턴스 3개를 사용합니다. UltraServer 내의 인스턴스는 NVLink를 사용하여 통신하지만 개별 UltraServer는 모델 훈련 성능에 영향을 미칠 수 있는 Elastic Fabric Adapter(EFA)를 사용합니다.
# 기본 제공 알고리즘에 대한 로그
Amazon SageMaker AI 알고리즘은 훈련 프로세스 관련 세부 사항을 제공하는 Amazon CloudWatch 로그를 프로덕션합니다. 로그를 보려면 AWS 관리 콘솔에서 **CloudWatch**를 선택하고 **로그**를 선택한 다음 /aws/sagemaker/TrainingJobs **로그 그룹을** 선택합니다. 각 훈련 작업에는 훈련된 노드당 하나의 로그 스트림이 있습니다. 로그 스트림의 이름은 작업 생성 시 `TrainingJobName` 파라미터에 지정된 값으로 시작합니다.
**참고**
작업이 실패하고 로그가 CloudWatch에 표시되지 않는 경우 훈련 시작 전에 오류가 발생했을 수 있습니다. 이유 중에는 잘못된 훈련 이미지 또는 S3 위치 지정이 있습니다.
로그의 콘텐츠는 알고리즘에 따라 다릅니다. 하지만 일반적으로 다음 정보를 확인할 수 있습니다.
+ 로그 시작 시 제공된 인수의 확인
+ 훈련 도중 발생한 오류
+ 알고리즘 정확도 또는 수치 성능의 측정
+ 알고리즘에 대한 시점 및 알고리즘의 모든 주요 단계
## 일반적인 오류
훈련 작업이 실패한 경우 훈련 작업 설명의 `FailureReason` 반환 값에 실패에 대한 세부 정보가 제공됩니다.
```
sage = boto3.client('sagemaker')
sage.describe_training_job(TrainingJobName=job_name)['FailureReason']
```
나머지는 CloudWatch 로그에서만 보고됩니다. 일반적인 오류는 다음과 같습니다.
1. 하이퍼파라미터 미지정 또는 알고리즘에 대해 유효하지 않은 하이퍼파라미터 지정.
**CloudWatch 로그에서**
```
[10/16/2017 23:45:17 ERROR 139623806805824 train.py:48]
Additional properties are not allowed (u'mini_batch_siz' was
unexpected)
```
1. 하이퍼파라미터에 대한 유효하지 않은 값 지정.
**FailureReason**
```
AlgorithmError: u'abc' is not valid under any of the given
schemas\n\nFailed validating u'oneOf' in
schema[u'properties'][u'feature_dim']:\n {u'oneOf':
[{u'pattern': u'^([1-9][0-9]*)$', u'type': u'string'},\n
{u'minimum': 1, u'type': u'integer'}]}\
```
**FailureReason**
```
[10/16/2017 23:57:17 ERROR 140373086025536 train.py:48] u'abc'
is not valid under any of the given schemas
```
1. 정확하지 않은 protobuf 파일 형식.
**CloudWatch 로그에서**
```
[10/17/2017 18:01:04 ERROR 140234860816192 train.py:48] cannot
copy sequence with size 785 to array axis with dimension 784
```
# 테이블 형식 데이터용 내장된 SageMaker AI 알고리즘
Amazon SageMaker AI는 테이블 형식 데이터 분석에 맞게 조정된 내장 알고리즘을 제공합니다. 테이블 형식 데이터는 행(관측치)과 열(특징)로 구성된 테이블로 이루어진 모든 데이터 세트를 의미합니다. 테이블 형식 데이터용 내장된 SageMaker AI 알고리즘은 분류 또는 회귀 문제에 사용할 수 있습니다.
+ [AutoGluon-Tabular](autogluon-tabular.md) - 모델을 앙상블하고 여러 레이어로 쌓아 승계하는 오픈 소스 AutoML 프레임워크.
+ [CatBoost](catboost.md) - 그라디언트 부스트 트리 알고리즘의 구현으로, 순서가 있는 부스팅과 범주형 특성 처리를 위한 혁신적인 알고리즘의 구현.
+ [Factorization Machine 알고리즘](fact-machines.md) - 고차원 저밀도 데이터 세트 내 특성 간 상호 작용을 경제적으로 캡처하도록 설계된 선형 모델의 확장.
+ [K-Nearest Neighbors(k-NN) 알고리즘](k-nearest-neighbors.md) - 레이블이 지정된 가장 가까운 k개의 포인트를 사용하여 분류할 새 데이터 포인트에 레이블을 할당하거나 회귀를 위해 가장 가까운 k개의 포인트 평균을 바탕으로 예측된 대상 값을 지정하는 비모수적 방법.
+ [LightGBM](lightgbm.md) - 효율성과 확장성을 개선하기 위한 두 가지 새로운 기법인 그라디언트 기반 단측 샘플링(GOSS)과 배타적 특성 번들링(EFB)이 추가된 그라디언트 부스트 트리 알고리즘의 구현.
+ [선형 학습자 알고리즘](linear-learner.md) - 회귀를 위한 선형 함수 또는 분류를 위한 선형 임계값 함수를 학습합니다.
+ [TabTransformer](tabtransformer.md) - 셀프 어텐션 기반 변환기를 기반으로 구축된 새로운 딥 테이블 형식 데이터 모델링 아키텍처.
+ [Amazon SageMaker AI를 사용한 XGBoost 알고리즘](xgboost.md) - 더 간단하고 약한 모델 세트의 예상치 앙상블을 결합하는 그라디언트 부스트 트리 알고리즘의 구현.
| 알고리즘 이름 | 채널 이름 | 훈련 입력 모드 | 파일 유형 | 인스턴스 클래스 | 병렬화 가능 |
| --- | --- | --- | --- | --- | --- |
| AutoGluon-Tabular | 훈련 및 (선택적으로) 검증 | 파일 | CSV | CPU 또는 GPU(단일 인스턴스 전용) | 아니요 |
| CatBoost | 훈련 및 (선택적으로) 검증 | 파일 | CSV | CPU(단일 인스턴스 전용) | 아니요 |
| Factorization Machines | train 및 (선택 사항) test | 파일 또는 파이프 | recordIO-protobuf | CPU(밀집 데이터의 경우 GPU) | 예 |
| K-Nearest-Neighbors(k-NN) | train 및 (선택 사항) test | 파일 또는 파이프 | recordIO-protobuf 또는 CSV | CPU 또는 GPU(하나 이상의 인스턴스에 대한 단일 GPU 디바이스) | 예 |
| LightGBM | 훈련 및 (선택적으로) 검증 | 파일 | CSV | CPU(단일 인스턴스 전용) | 아니요 |
| Linear Learner | train 및 (선택 사항) validation, test 또는 모두 | 파일 또는 파이프 | recordIO-protobuf 또는 CSV | CPU 또는 GPU | 예 |
| TabTransformer | 훈련 및 (선택적으로) 검증 | 파일 | CSV | CPU 또는 GPU(단일 인스턴스 전용) | 아니요 |
| XGBoost(0.90-1, 0.90-2, 1.0-1, 1.2-1, 1.2-21) | 훈련 및 (선택적으로) 검증 | 파일 또는 파이프 | CSV, LibSVM, Parquet | CPU(또는 1.2-1의 경우 GPU) | 예 |
# AutoGluon-Tabular
[AutoGluon-Tabular](https://auto.gluon.ai/stable/index.html)는 널리 사용되는 오픈 소스 AutoML 프레임워크로, 처리되지 않은 테이블 형식 데이터세트에서 매우 정확한 기계 학습 모델을 훈련시킵니다. 주로 모델 및 하이퍼파라미터 선택에 초점을 맞춘 기존 AutoML 프레임워크와 달리 AutoGluon-Tabular는 여러 모델을 앙상블하고 여러 계층으로 쌓아 성공합니다. 이 페이지에는 AutoGluon-Tabular용 Amazon EC2 인스턴스 권장 사항 및 샘플 노트북에 대한 정보가 포함되어 있습니다.
# SageMaker AI AutoGluon-Tabular 사용 방법
AutoGluon-Tabular를 Amazon SageMaker AI 기본 제공 알고리즘으로 사용할 수 있습니다. 다음 섹션에서는 SageMaker Python SDK와 함께 AutoGluon-Tabular를 사용하는 방법을 설명합니다. Amazon SageMaker Studio Classic UI에서 AutoGluon-Tabular를 사용하는 방법에 대한 자세한 내용은 [SageMaker JumpStart 사전 훈련된 모델](studio-jumpstart.md) 섹션을 참조하세요.
+ **AutoGluon-Tabular를 기본 제공 알고리즘으로 사용하기**
AutoGluon-Tabular 기본 제공 알고리즘을 사용하여 다음 코드 예제와 같이 AutoGluon-Tabular 훈련 컨테이너를 빌드합니다. SageMaker AI `image_uris.retrieve` API(또는 [Amazon SageMaker Python SDK](https://sagemaker.readthedocs.io/en/stable) 버전 2를 사용하는 경우 `get_image_uri` API)를 사용하여 AutoGluon-Tabular 내장 알고리즘 이미지 URI를 자동으로 찾아낼 수 있습니다.
AutoGluon-Tabular 이미지 URI를 지정한 후 AutoGluon-Tabular 컨테이너를 사용하여 SageMaker AI Estimator API를 사용하는 예측기를 구문화하고 훈련 작업을 시작할 수 있습니다. AutoGluon-Tabular의 기본 제공 알고리즘은 스크립트 모드에서 실행되지만 훈련 스크립트는 자동으로 제공되므로 교체할 필요가 없습니다. 스크립트 모드를 사용하여 SageMaker 훈련 작업을 생성한 경험이 풍부하다면 사용자의 AutoGluon-Tabular 훈련 스크립트를 직접 통합할 수 있습니다.
```
from sagemaker import image_uris, model_uris, script_uris
train_model_id, train_model_version, train_scope = "autogluon-classification-ensemble", "*", "training"
training_instance_type = "ml.p3.2xlarge"
# Retrieve the docker image
train_image_uri = image_uris.retrieve(
region=None,
framework=None,
model_id=train_model_id,
model_version=train_model_version,
image_scope=train_scope,
instance_type=training_instance_type
)
# Retrieve the training script
train_source_uri = script_uris.retrieve(
model_id=train_model_id, model_version=train_model_version, script_scope=train_scope
)
train_model_uri = model_uris.retrieve(
model_id=train_model_id, model_version=train_model_version, model_scope=train_scope
)
# Sample training data is available in this bucket
training_data_bucket = f"jumpstart-cache-prod-{aws_region}"
training_data_prefix = "training-datasets/tabular_binary/"
training_dataset_s3_path = f"s3://{training_data_bucket}/{training_data_prefix}/train"
validation_dataset_s3_path = f"s3://{training_data_bucket}/{training_data_prefix}/validation"
output_bucket = sess.default_bucket()
output_prefix = "jumpstart-example-tabular-training"
s3_output_location = f"s3://{output_bucket}/{output_prefix}/output"
from sagemaker import hyperparameters
# Retrieve the default hyperparameters for training the model
hyperparameters = hyperparameters.retrieve_default(
model_id=train_model_id, model_version=train_model_version
)
# [Optional] Override default hyperparameters with custom values
hyperparameters[
"auto_stack"
] = "True"
print(hyperparameters)
from sagemaker.estimator import Estimator
from sagemaker.utils import name_from_base
training_job_name = name_from_base(f"built-in-algo-{train_model_id}-training")
# Create SageMaker Estimator instance
tabular_estimator = Estimator(
role=aws_role,
image_uri=train_image_uri,
source_dir=train_source_uri,
model_uri=train_model_uri,
entry_point="transfer_learning.py",
instance_count=1,
instance_type=training_instance_type,
max_run=360000,
hyperparameters=hyperparameters,
output_path=s3_output_location
)
# Launch a SageMaker Training job by passing the S3 path of the training data
tabular_estimator.fit(
{
"training": training_dataset_s3_path,
"validation": validation_dataset_s3_path,
}, logs=True, job_name=training_job_name
)
```
AutoGluon-Tabular를 기본 제공 알고리즘으로 설정하는 방법에 대한 자세한 내용은 다음 노트북 예제를 참조하세요. 이러한 예제에서 사용되는 모든 S3 버킷은 이를 실행하는 데 사용되는 노트북 인스턴스와 동일한 AWS 리전에 있어야 합니다.
+ [Amazon SageMaker AI AutoGluon-Tabular 알고리즘을 사용한 테이블 형식 분류](https://github.com/aws/amazon-sagemaker-examples/blob/main/introduction_to_amazon_algorithms/autogluon_tabular/Amazon_Tabular_Classification_AutoGluon.ipynb)
+ [Amazon SageMaker AI AutoGluon-Tabular 알고리즘을 사용한 테이블 형식 회귀](https://github.com/aws/amazon-sagemaker-examples/blob/main/introduction_to_amazon_algorithms/autogluon_tabular/Amazon_Tabular_Regression_AutoGluon.ipynb)
# AutoGluon-Tabular 알고리즘의 입력 및 출력 인터페이스
그라디언트 부스팅은 테이블형 데이터에서 작동합니다. 행은 관측치를 나타내고 1개 열은 대상 변수 또는 레이블을 나타내며, 나머지 열은 특징을 나타냅니다.
AutoGluon-Tabular의 SageMaker AI 구현은 훈련 및 추론을 위한 CSV를 지원합니다.
+ **훈련 ContentType**의 경우 유효한 입력은 *text/csv*여야 합니다.
+ **추론 ContentType**의 경우 유효한 입력은 *text/csv*여야 합니다.
**참고**
CSV 훈련의 경우 알고리즘은 대상 변수가 첫 번째 열에 있고 CSV에는 헤더 레코드가 없다고 추정합니다.
CSV 추론의 경우 알고리즘은 CSV 입력에 레이블 열이 없다고 추정합니다.
**훈련 데이터, 검증 데이터 및 범주형 기능의 입력 형식**
AutoGluon-Tabular 모델에 입력하기 위해 훈련 데이터의 형식을 지정하는 방법을 염두에 두세요. 훈련 및 검증 데이터를 포함하는 Amazon S3 버킷의 경로를 제공해야 합니다. 범주형 기능 목록을 포함시킬 수도 있습니다. `training` 및 `validation` 채널을 모두 사용하여 입력 데이터를 제공하세요 또는 `training` 채널만 사용해도 됩니다.
**`training` 및 `validation` 채널을 모두 사용**
`training` 채널용과 `validation` 채널용 두 개의 S3 경로를 통해 입력 데이터를 제공할 수 있습니다. 각 S3 경로는 S3 접두사이거나 특정 CSV 파일 하나를 가리키는 전체 S3 경로일 수 있습니다. 대상 변수는 CSV 파일의 첫 번째 열에 있어야 합니다. 나머지 열에는 예측 변수(특징)가 표시되어야 합니다. 검증 데이터는 각 부스팅 반복 종료 시 검증 점수를 계산하는 데 사용됩니다. 유효성 검증 점수가 더 이상 향상되지 않으면 조기 중지가 적용됩니다.
예측 변수에 범주형 기능이 포함된 경우 훈련 데이터 파일이 있는 위치에 이름이 `categorical_index.json`인 JSON 파일을 제공할 수 있습니다. 범주형 기능을 위한 JSON 파일을 제공하는 경우 `training` 채널은 특정 CSV 파일이 아닌 S3 접두사를 가리켜야 합니다. 이 파일은 키가 문자열 `"cat_index_list"`이고 값이 고유 정수 목록인 Python 사전을 포함해야 합니다. 값 목록의 각 정수는 훈련 데이터 CSV 파일에 있는 해당 범주형 기능의 열 인덱스를 나타내야 합니다. 각 값은 양의 정수(0은 목표 값을 나타내므로 0보다 커야 함), `Int32.MaxValue`(2147483647) 미만, 총 열 수보다 작아야 합니다. 범주형 인덱스 JSON 파일은 하나만 있어야 합니다.
**`training` 채널만 사용**:
`training` 채널의 단일 S3 경로를 통해 입력 데이터를 제공할 수도 있습니다. 이 S3 경로는 CSV 파일이 들어 있는 `training/`이라는 이름의 하위 디렉터리가 있는 디렉터리를 가리켜야 합니다. 선택적으로 `validation/`이라는 동일한 위치에 CSV 파일이 있는 다른 하위 디렉토리를 포함할 수 있습니다. 검증 데이터가 제공되지 않는 경우 훈련 데이터의 20%가 무작위로 샘플링되어 검증 데이터로 사용됩니다. 예측 변수에 범주형 기능이 포함되어 있다면 데이터 하위 디렉터리와 같은 위치에 `categorical_index.json`이라는 이름의 JSON 파일을 제공할 수 있습니다.
**참고**
CSV 훈련 입력 모드의 경우, 알고리즘에 대해 사용 가능한 전체 메모리(인스턴스 수 \$1 `InstanceType`의 가용 메모리)가 훈련 데이터세트를 담을 수 있어야 합니다.
SageMaker AI AutoGluon-Tabular는 `autogluon.tabular.TabularPredictor` 모듈을 사용하여 모델을 직렬화/역직렬화하고, 이는 모델 저장 또는 로딩에 사용될 수 있습니다.
**SageMaker AI AutoGluon-Tabular로 훈련된 모델을 AutoGluon 프레임워크와 함께 사용하려면 다음과 같이 합니다.**
+ 다음 Python 코드를 사용합니다.
```
import tarfile
from autogluon.tabular import TabularPredictor
t = tarfile.open('model.tar.gz', 'r:gz')
t.extractall()
model = TabularPredictor.load(model_file_path)
# prediction with test data
# dtest should be a pandas DataFrame with column names feature_0, feature_1, ..., feature_d
pred = model.predict(dtest)
```
## AutoGluon-Tabular 알고리즘에 대한 Amazon EC2 인스턴스 권장 사항
SageMaker AI AutoGluon-Tabular는 단일 인스턴스 CPU 및 단일 인스턴스 GPU 훈련을 지원합니다. 높은 인스턴스당 비용에도 불구하고 GPU는 더욱 빠르게 교육하여 더욱 효율적입니다. GPU 훈련을 활용하려면 인스턴스 유형을 GPU 인스턴스 중 하나로 지정하세요. (예: P3) SageMaker AI AutoGluon-Tabular는 현재 멀티 GPU 훈련을 지원하지 않습니다.
## AutoGluon-Tabular 샘플 노트북
다음 테이블에는 Amazon SageMaker AI AutoGluon-Tabular 알고리즘의 다양한 사용 사례를 다루는 여러 샘플 노트북이 나와 있습니다.
****
| **노트북 제목** | **설명** |
| --- | --- |
| [Amazon SageMaker AI AutoGluon-Tabular 알고리즘을 사용한 테이블 형식 분류](https://github.com/aws/amazon-sagemaker-examples/blob/main/introduction_to_amazon_algorithms/autogluon_tabular/Amazon_Tabular_Classification_AutoGluon.ipynb) | 이 노트북은 Amazon SageMaker AI AutoGluon-Tabular 알고리즘을 사용하여 테이블 형식 분류 모델을 훈련하고 호스팅하는 방법을 보여줍니다. |
| [Amazon SageMaker AI AutoGluon-Tabular 알고리즘을 사용한 테이블 형식 회귀](https://github.com/aws/amazon-sagemaker-examples/blob/main/introduction_to_amazon_algorithms/autogluon_tabular/Amazon_Tabular_Regression_AutoGluon.ipynb) | 이 노트북은 Amazon SageMaker AI AutoGluon-Tabular 알고리즘을 사용하여 테이블 형식 회귀 모델을 훈련하고 호스팅하는 방법을 보여줍니다. |
SageMaker AI에서 예시 실행에 사용할 수 있는 Jupyter Notebook 인스턴스를 만들고 액세스하는 방법은 [Amazon SageMaker 노트북 인스턴스](nbi.md) 섹션을 참조하세요. 노트북 인스턴스를 만든 후 열고 **SageMaker AI 예시** 탭을 선택하여 모든 SageMaker AI 샘플 목록을 확인하세요. 노트북을 열려면 **사용** 탭을 선택한 후 **사본 생성**을 선택합니다.
# AutoGluon-Tabular의 작동 방식
AutoGluon-Tabular는 고급 데이터 처리, 딥 러닝 및 다층 모델 앙상블 메서드를 수행합니다. 텍스트 필드의 특수 처리를 포함하여 각 열의 데이터 유형을 자동으로 인식하여 강력한 데이터 전처리가 가능합니다.
AutoGluon은 상용 부스트 트리부터 맞춤형 신경망에 이르기까지 다양한 모델에 적합합니다. 이러한 모델은 참신한 방식으로 결합됩니다. 모델을 여러 계층으로 쌓아 계층별로 훈련함으로써 주어진 시간 제약 내에서 원시 데이터를 고품질 예측으로 변환할 수 있습니다. 이 프로세스는 틀린 예제를 주의 깊게 추적하여 데이터를 다양한 방식으로 분할하여 과적합을 완화합니다.
AutoGluon-Tabular 알고리즘은 다양한 데이터 형식, 관계, 분포를 강력하게 처리하기 때문에 기계 학습 경쟁에서 잘 작동합니다. 회귀, 분류(바이너리 및 멀티클래스) 및 순위 결정 관련 문제에 AutoGluon-Tabular를 사용할 수 있습니다.
다층 적층 전략의 작동 방식을 보여주는 다음 다이어그램을 참조하세요.
![\[AutoGluon의 다층 적층 전략은 두 개의 적층 계층으로 표시됩니다.\]](http://docs.aws.amazon.com/ko_kr/sagemaker/latest/dg/images/autogluon_tabular_illustration.png)
자세한 내용은 [AutoGluon-Tabular: 구조화된 데이터를 위한 강력하고 정확한 AutoML](https://arxiv.org/pdf/2003.06505.pdf)을 참조하세요.**
# AutoGluon-Tabular 하이퍼파라미터
다음 테이블에는 Amazon SageMaker AI AutoGluon-Tabular 알고리즘에 필요하거나 가장 일반적으로 사용되는 하이퍼파라미터 하위 세트가 포함되어 있습니다. 이들은 사용자가 데이터를 통해 모델 파라미터를 쉽게 예측하기 위해 설정하는 파라미터입니다. SageMaker AI AutoGluon-Tabular 알고리즘은 오픈 소스 [AutoGluon-Tabular](https://github.com/awslabs/autogluon) 패키지를 구현한 것입니다.
**참고**
기본 하이퍼파라미터는 [AutoGluon-Tabular 샘플 노트북](autogluon-tabular.md#autogluon-tabular-sample-notebooks)의 예제 데이터세트를 기준으로 정해집니다.
기본적으로 SageMaker AI AutoGluon-Tabular 알고리즘은 분류 문제 유형에 따라 평가 지표를 자동으로 선택합니다. 이 알고리즘은 데이터의 레이블 수를 기반으로 분류 문제 유형을 탐지합니다. 회귀 문제의 경우 평가 지표는 평균 제곱근 오차입니다. 바이너리 분류 문제의 경우 평가 지표는 수신기 작동 특성 곡선(AUC) 아래 영역입니다. 멀티클래스 분류 문제의 경우 평가 지표는 정확도입니다. `eval_metric` 하이퍼파라미터를 사용하여 기본 평가 지표를 변경할 수 있습니다. 설명, 유효한 값, 기본값을 포함하여 AutoGluon-Tabular 하이퍼파라미터에 대한 자세한 내용은 다음 테이블을 참조하세요.
| 파라미터 이름 | 설명 |
| --- | --- |
| eval\$1metric | 검증 데이터에 대한 평가 지표. `eval_metric`을 디폴트 `"auto"` 값으로 설정하면 알고리즘이 분류 문제의 유형에 따라 평가 지표를 자동으로 선택합니다. [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/ko_kr/sagemaker/latest/dg/autogluon-tabular-hyperparameters.html) 유효한 값: 문자열, 유효한 값은 [AutoGluon 설명서](https://auto.gluon.ai/stable/api/autogluon.tabular.TabularPredictor.html)를 참조하세요. 기본값: `"auto"`. |
| presets | 다양한 인수에 대한 사전 설정 구성 목록은 `fit()`에서 확인할 수 있습니다. [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/ko_kr/sagemaker/latest/dg/autogluon-tabular-hyperparameters.html) 자세한 내용은 [AutoGluon Predictors](https://auto.gluon.ai/stable/api/autogluon.tabular.TabularPredictor.html)를 참조하세요. 유효한 값: 문자열, 다음 중 하나: (`"best_quality"`, `"high_quality"`, `good_quality"`, `"medium_quality"`, `"optimize_for_deployment"` 또는 ` or "interpretable"`). 기본값: `"medium_quality"`. |
| auto\$1stack | AutoGluon의 예측 정확도를 높이기 위한 배깅 및 다중 계층 스택 앙상블 자동 활용 여부. 예측 정확도를 극대화하기 위해 더 긴 훈련 시간을 감수할 의향이 있으면 `auto_stack`을 `"True"`로 설정하세요. 이렇게 하면 데이터세트 속성에 따라 `num_bag_folds` 및 `num_stack_levels` 인수가 자동으로 설정됩니다. 유효한 값: 문자열: `"True"` 또는 `"False"` 기본값: `"False"`. |
| num\$1bag\$1folds | 모델 배깅에 사용되는 폴드 수. `num_bag_folds`가 `k`와 같으면 훈련 시간이 대략 `k`배 증가합니다. 배깅을 비활성화하려면 `num_bag_folds`를 0으로 설정합니다. 이 기능은 기본적으로 비활성화되어 있지만 예측 성능을 극대화하려면 5에서 10 사이의 값을 사용하는 것이 좋습니다. `num_bag_folds`를 증가시키면 치우침은 낮은 모델이 생성되지만 과적합이 발생하기 쉽습니다. 이 파라미터의 값이 1이면 유효하지 않으므로 `ValueError`가 발생합니다. 값이 10보다 크면 수익이 감소할 수 있으며 과적합으로 인해 전체 결과에 해를 끼칠 수도 있습니다. 예측치를 더 높이려면 `num_bag_folds` 값을 늘리지 말고 `num_bag_sets` 값을 높이세요. 유효한 값: 문자열, `"0"` 및 `"10"`과 그 사이의 모든 정수. 기본값: `"0"`. |
| num\$1bag\$1sets | 수행할 kfold 배깅 반복 횟수(값은 1 이상이어야 함) 배깅 중에 훈련된 총 모델 수는 `num_bag_folds` \$1 `num_bag_sets`와 같습니다. `time_limit`이 지정되지 않은 경우 이 파라미터의 기본값은 1입니다. `num_bag_folds`를 지정하지 않으면 이 파라미터를 사용할 수 없습니다. 값이 1보다 크면 예측 성능이 뛰어나며, 특히 작은 문제에서 스택이 활성화된 경우 더욱 그렇습니다. 유효한 값: 정수, 범위: [`1`, `20`]. 기본값: `1`. |
| num\$1stack\$1levels | 스택 앙상블에서 사용할 스태킹 레벨 수. 모델 훈련 시간을 대략 `num_stack_levels`\$11배 늘립니다. 스택 앙상블을 비활성화하려면 이 파라미터를 0으로 설정합니다. 이 파라미터는 기본적으로 비활성화되지만 예측 성능을 극대화하려면 1에서 3 사이의 값을 사용하는 것이 좋습니다. 과적합과 `ValueError`를 방지하려면 `num_bag_folds`는 2보다 크거나 같아야 합니다. 유효한 값: 부동 소수점, 범위: [`0`, `3`]. 기본값: `0`. |
| refit\$1full | 정상적인 훈련 절차 후에 모든 데이터(훈련 및 검증)에 대해 모든 모델을 재훈련할지 여부. 자세한 내용은 [AutoGluon Predictors](https://auto.gluon.ai/stable/api/autogluon.tabular.TabularPredictor.html)를 참조하세요. 유효한 값: 문자열: `"True"` 또는 `"False"` 기본값: `"False"`. |
| set\$1best\$1to\$1refit\$1full | 예측자가 예측에 사용하는 기본 모델을 변경할지 여부. `set_best_to_refit_full`을 `"True"`로 설정하면 기본 모델이 재구성(`refit_full`에 의해 활성화) 결과 가장 높은 검증 점수를 보인 모델로 변경됩니다. `refit_full`이 설정된 경우에만 유효합니다. 유효한 값: 문자열: `"True"` 또는 `"False"` 기본값: `"False"`. |
| save\$1space | 새 데이터 예측에 필요하지 않은 보조 모델 파일을 삭제하여 예측자의 메모리 및 디스크 크기를 줄일지 여부. 이는 추론 정확도에는 영향을 미치지 않습니다. 훈련된 모델을 예측에 사용하는 것이 유일한 목표라면 `save_space`를 `"True"`로 설정하는 것이 좋습니다. `save_space`를 `"True"`로 설정하면 특정 고급 기능을 더 이상 사용하지 못할 수 있습니다. 자세한 내용은 `[predictor.save\$1space()](https://auto.gluon.ai/stable/api/autogluon.tabular.TabularPredictor.save_space.html)` 설명서를 참조하세요. 유효한 값: 문자열: `"True"` 또는 `"False"` 기본값: `"False"`. |
| verbosity | 인쇄 메시지의 상세 내용. `verbosity` 레벨의 범위는 `0`\$1`4`까지입니다. 레벨이 높을수록 인쇄 명세서가 더 상세해집니다. `0`의 `verbosity`는 경고를 표시하지 않습니다. 유효한 값: 정수, 다음 중 하나: (`0`, `1`, `2`, `3` 또는 `4`). 기본값: `2`. |
# AutoGluon-Tabular 모델 튜닝
AutoGluon-Tabular를 모델 튜닝과 함께 사용할 수 있지만, AutoGluon-Tabular의 설계는 스태킹 및 앙상블 방법을 사용하여 우수한 성능을 제공할 수 있으므로 하이퍼파라미터 최적화가 필요하지 않습니다. AutoGluon-Tabular는 모델 튜닝에 초점을 맞추는 대신 모델을 여러 계층으로 쌓고 계층별로 훈련함으로써 성공을 거둡니다.
AutoGluon-Tabular 하이퍼파라미터에 대한 자세한 내용은 [AutoGluon-Tabular 하이퍼파라미터](autogluon-tabular-hyperparameters.md)을 참조하세요.
# CatBoost
[CatBoost](https://catboost.ai/)는 그라데이션 부스팅 의사 결정 트리 알고리즘(GBDT)에서 널리 사용되는 고성능 오픈 소스 구현입니다. GBDT는 더욱 단순하고 약한 모델 세트의 추정치의 앙상블을 결합하여 대상 변수를 정확하게 예측하려 시도하는 지도 학습 알고리즘입니다.
CatBoost는 GBDT에 두 가지 중요한 알고리즘 고급 기능을 도입했습니다.
1. 기존 알고리즘에 대한 순열 기반 대안인 순서가 있는 부스팅 구현
1. 범주형 기능을 처리하기 위한 혁신적인 알고리즘
두 기법 모두 현재의 모든 기존 그라데이션 부스팅 알고리즘 구현에 존재하는 특수한 종류의 표적 누출로 인한 예측 변화를 막기 위해 개발되었습니다. 이 페이지에는 Amazon EC2 인스턴스 권장 사항 및 CatBoost용 샘플 노트북에 대한 정보가 포함되어 있습니다.
# SageMaker AI CatBoost 사용 방법
CatBoost를 Amazon SageMaker AI 기본 제공 알고리즘으로 사용할 수 있습니다. 다음 섹션에서는 SageMaker Python SDK와 함께 CatBoost를 사용하는 방법을 설명합니다. Amazon SageMaker Studio Classic UI에서 CatBoost를 사용하는 방법에 대한 자세한 내용은 [SageMaker JumpStart 사전 훈련된 모델](studio-jumpstart.md)을 참조하세요.
+ **CatBoost를 기본 제공 알고리즘으로 사용**
CatBoost 기본 제공 알고리즘을 사용하여 다음 코드 예제와 같이 CatBoost 훈련 컨테이너를 빌드합니다. SageMaker AI `image_uris.retrieve` API(또는 [Amazon SageMaker Python SDK](https://sagemaker.readthedocs.io/en/stable) 버전 2를 사용하는 경우 `get_image_uri` API)를 사용하여 CatBoost 내장 알고리즘 이미지 URI를 자동으로 찾아낼 수 있습니다.
CatBoost 이미지 URI를 지정한 후 CatBoost 컨테이너를 사용하여 SageMaker AI Estimator API를 사용하는 예측기를 구문화하고 훈련 작업을 시작할 수 있습니다. CatBoost 기본 제공 알고리즘은 스크립트 모드에서 실행되지만 훈련 스크립트가 제공되므로 교체할 필요가 없습니다. 스크립트 모드를 사용하여 SageMaker 훈련 작업을 생성한 경험이 풍부하다면 사용자의 CatBoost 훈련 스크립트를 직접 통합할 수 있습니다.
```
from sagemaker import image_uris, model_uris, script_uris
train_model_id, train_model_version, train_scope = "catboost-classification-model", "*", "training"
training_instance_type = "ml.m5.xlarge"
# Retrieve the docker image
train_image_uri = image_uris.retrieve(
region=None,
framework=None,
model_id=train_model_id,
model_version=train_model_version,
image_scope=train_scope,
instance_type=training_instance_type
)
# Retrieve the training script
train_source_uri = script_uris.retrieve(
model_id=train_model_id, model_version=train_model_version, script_scope=train_scope
)
train_model_uri = model_uris.retrieve(
model_id=train_model_id, model_version=train_model_version, model_scope=train_scope
)
# Sample training data is available in this bucket
training_data_bucket = f"jumpstart-cache-prod-{aws_region}"
training_data_prefix = "training-datasets/tabular_multiclass/"
training_dataset_s3_path = f"s3://{training_data_bucket}/{training_data_prefix}/train"
validation_dataset_s3_path = f"s3://{training_data_bucket}/{training_data_prefix}/validation"
output_bucket = sess.default_bucket()
output_prefix = "jumpstart-example-tabular-training"
s3_output_location = f"s3://{output_bucket}/{output_prefix}/output"
from sagemaker import hyperparameters
# Retrieve the default hyperparameters for training the model
hyperparameters = hyperparameters.retrieve_default(
model_id=train_model_id, model_version=train_model_version
)
# [Optional] Override default hyperparameters with custom values
hyperparameters[
"iterations"
] = "500"
print(hyperparameters)
from sagemaker.estimator import Estimator
from sagemaker.utils import name_from_base
training_job_name = name_from_base(f"built-in-algo-{train_model_id}-training")
# Create SageMaker Estimator instance
tabular_estimator = Estimator(
role=aws_role,
image_uri=train_image_uri,
source_dir=train_source_uri,
model_uri=train_model_uri,
entry_point="transfer_learning.py",
instance_count=1,
instance_type=training_instance_type,
max_run=360000,
hyperparameters=hyperparameters,
output_path=s3_output_location
)
# Launch a SageMaker Training job by passing the S3 path of the training data
tabular_estimator.fit(
{
"training": training_dataset_s3_path,
"validation": validation_dataset_s3_path,
}, logs=True, job_name=training_job_name
)
```
CatBoost를 기본 제공 알고리즘으로 설정하는 방법에 대한 자세한 내용은 다음 노트북 예제를 참조하세요.
+ [Amazon SageMaker AI LightGBM 및 CatBoost 알고리즘을 사용한 테이블 형식 분류](https://github.com/aws/amazon-sagemaker-examples/blob/main/introduction_to_amazon_algorithms/lightgbm_catboost_tabular/Amazon_Tabular_Classification_LightGBM_CatBoost.ipynb)
+ [Amazon SageMaker AI LightGBM 및 CatBoost 알고리즘을 사용한 테이블 형식 회귀](https://github.com/aws/amazon-sagemaker-examples/blob/main/introduction_to_amazon_algorithms/lightgbm_catboost_tabular/Amazon_Tabular_Regression_LightGBM_CatBoost.ipynb)
# CatBoost 알고리즘의 입력 및 출력 인터페이스
그라디언트 부스팅은 테이블형 데이터에서 작동합니다. 행은 관측치를 나타내고 1개 열은 대상 변수 또는 레이블을 나타내며, 나머지 열은 특징을 나타냅니다.
CatBoost의 SageMaker AI 구현은 훈련 및 추론을 위한 CSV를 지원합니다.
+ **훈련 ContentType**의 경우 유효한 입력은 *text/csv*여야 합니다.
+ **추론 ContentType**의 경우 유효한 입력은 *text/csv*여야 합니다.
**참고**
CSV 훈련의 경우 알고리즘은 대상 변수가 첫 번째 열에 있고 CSV에는 헤더 레코드가 없다고 추정합니다.
CSV 추론의 경우 알고리즘은 CSV 입력에 레이블 열이 없다고 추정합니다.
**훈련 데이터, 검증 데이터 및 범주형 기능의 입력 형식**
CatBoost 모델에 입력하기 위한 훈련 데이터의 형식을 지정하는 방법을 염두에 두세요. 훈련 및 검증 데이터를 포함하는 Amazon S3 버킷의 경로를 제공해야 합니다. 범주형 기능 목록을 포함시킬 수도 있습니다. `training` 및 `validation` 채널을 모두 사용하여 입력 데이터를 제공하세요 또는 `training` 채널만 사용해도 됩니다.
**`training` 및 `validation` 채널을 모두 사용**
`training` 채널용과 `validation` 채널용 두 개의 S3 경로를 통해 입력 데이터를 제공할 수 있습니다. 각 S3 경로는 하나 이상의 CSV 파일을 가리키는 S3 접두사이거나 특정 CSV 파일 하나를 가리키는 전체 S3 경로일 수 있습니다. 대상 변수는 CSV 파일의 첫 번째 열에 있어야 합니다. 예측기 변수(기능)는 나머지 열에 있어야 합니다. `training` 또는 `validation` 채널에 대해 여러 CSV 파일이 제공되는 경우 CatBoost 알고리즘은 파일을 연결합니다. 검증 데이터는 각 부스팅 반복 종료 시 검증 점수를 계산하는 데 사용됩니다. 유효성 검증 점수가 더 이상 향상되지 않으면 조기 중지가 적용됩니다.
예측 변수에 범주형 기능이 포함된 경우 훈련 데이터 파일 또는 파일이 있는 위치에 이름이 `categorical_index.json`인 JSON 파일을 제공할 수 있습니다. 범주형 기능을 위한 JSON 파일을 제공하는 경우 `training` 채널은 특정 CSV 파일이 아닌 S3 접두사를 가리켜야 합니다. 이 파일은 키가 문자열 `"cat_index_list"`이고 값이 고유 정수 목록인 Python 사전을 포함해야 합니다. 값 목록의 각 정수는 훈련 데이터 CSV 파일에 있는 해당 범주형 기능의 열 인덱스를 나타내야 합니다. 각 값은 양의 정수(0은 목표 값을 나타내므로 0보다 커야 함), `Int32.MaxValue`(2147483647) 미만, 총 열 수보다 작아야 합니다. 범주형 인덱스 JSON 파일은 하나만 있어야 합니다.
**`training` 채널만 사용**:
`training` 채널의 단일 S3 경로를 통해 입력 데이터를 제공할 수도 있습니다. 이 S3 경로는 하나 이상의 CSV 파일이 들어 있는 `training/`이라는 이름의 하위 디렉터리가 있는 디렉터리를 가리켜야 합니다. 선택적으로 `validation/`이라는 동일한 위치에 하나 이상의 CSV 파일이 있는 다른 하위 디렉토리를 포함할 수 있습니다. 검증 데이터가 제공되지 않는 경우 훈련 데이터의 20%가 무작위로 샘플링되어 검증 데이터로 사용됩니다. 예측 변수에 범주형 기능이 포함되어 있다면 데이터 하위 디렉터리와 같은 위치에 `categorical_index.json`이라는 이름의 JSON 파일을 제공할 수 있습니다.
**참고**
CSV 훈련 입력 모드의 경우, 알고리즘에 대해 사용 가능한 전체 메모리(인스턴스 수 \$1 `InstanceType`의 가용 메모리)가 훈련 데이터세트를 담을 수 있어야 합니다.
SageMaker AI CatBoost는 `catboost.CatBoostClassifier` 및 `catboost.CatBoostRegressor` 모듈을 사용하여 모델을 직렬화/역직렬화하며, 이는 모델 저장 또는 로딩에 사용될 수 있습니다.
**`catboost`를 포함한 SageMaker AI CatBoost로 훈련된 모델을 사용하려면 다음과 같이 합니다.**
+ 다음 Python 코드를 사용합니다.
```
import tarfile
from catboost import CatBoostClassifier
t = tarfile.open('model.tar.gz', 'r:gz')
t.extractall()
file_path = os.path.join(model_file_path, "model")
model = CatBoostClassifier()
model.load_model(file_path)
# prediction with test data
# dtest should be a pandas DataFrame with column names feature_0, feature_1, ..., feature_d
pred = model.predict(dtest)
```
## CatBoost 알고리즘에 대한 Amazon EC2 인스턴스 권장 사항
SageMaker AI CatBoost는 현재 CPU를 사용한 훈련만 가능합니다. CatBoost는 메모리 바운드(컴퓨팅 바운드와는 반대) 알고리즘입니다. 따라서 컴퓨팅 최적화 인스턴스(예: C5)보다 범용 컴퓨팅 인스턴스(예: M5)를 선택하는 것이 좋습니다. 또한 훈련 데이터를 보유하기 위해 선택한 인스턴스에 총 메모리가 충분한 것이 좋습니다.
## CatBoost 샘플 노트북
다음 테이블에는 Amazon SageMaker AI CatBoost 알고리즘의 다양한 사용 사례를 다루는 다양한 샘플 노트북이 나와 있습니다.
****
| **노트북 제목** | **설명** |
| --- | --- |
| [Amazon SageMaker AI LightGBM 및 CatBoost 알고리즘을 사용한 테이블 형식 분류](https://github.com/aws/amazon-sagemaker-examples/blob/main/introduction_to_amazon_algorithms/lightgbm_catboost_tabular/Amazon_Tabular_Classification_LightGBM_CatBoost.ipynb) | 이 노트북은 Amazon SageMaker AI CatBoost 알고리즘을 사용하여 테이블 형식 분류 모델을 훈련하고 호스팅하는 방법을 보여줍니다. |
| [Amazon SageMaker AI LightGBM 및 CatBoost 알고리즘을 사용한 테이블 형식 회귀](https://github.com/aws/amazon-sagemaker-examples/blob/main/introduction_to_amazon_algorithms/lightgbm_catboost_tabular/Amazon_Tabular_Regression_LightGBM_CatBoost.ipynb) | 이 노트북은 Amazon SageMaker AI CatBoost 알고리즘을 사용하여 테이블 형식 회귀 모델을 훈련하고 호스팅하는 방법을 보여줍니다. |
SageMaker AI에서 예시 실행에 사용할 수 있는 Jupyter Notebook 인스턴스를 만들고 액세스하는 방법은 [Amazon SageMaker 노트북 인스턴스](nbi.md) 섹션을 참조하세요. 노트북 인스턴스를 만든 후 열고 **SageMaker AI 예시** 탭을 선택하여 모든 SageMaker AI 샘플 목록을 확인하세요. 노트북을 열려면 **사용** 탭을 선택한 후 **사본 생성**을 선택합니다.
# CatBoost 작동 방식
CatBoost는 기존의 GBDT(그라데이션 부스팅 의사 결정 트리) 알고리즘을 구현하여 다음과 같은 두 가지 중요한 알고리즘 개선 사항을 추가했습니다.
1. 기존 알고리즘에 대한 순열 기반 대안인 순서가 있는 부스팅 구현
1. 범주형 기능을 처리하기 위한 혁신적인 알고리즘
두 기법 모두 현재의 모든 기존 그라데이션 부스팅 알고리즘 구현에 존재하는 특수한 종류의 표적 누출로 인한 예측 변화를 막기 위해 개발되었습니다.
CatBoost 알고리즘은 다양한 데이터 형식, 관계, 분포 및 미세 조정할 수 있는 다양한 하이퍼파라미터를 강력하게 처리하기 때문에 기계 학습 경쟁에서 잘 작동합니다. 회귀, 분류(바이너리 및 멀티클래스) 및 순위 결정 관련 문제에 CatBoost를 사용할 수 있습니다.
그라데이션 부스팅에 대한 자세한 내용은 [SageMaker AI XGBoost 알고리즘의 작동 방식](xgboost-HowItWorks.md) 섹션을 참조하세요. CatBoost 방법에 사용되는 추가 GOSS 및 EFB 기법에 대한 자세한 내용은 [CatBoost: 범주형 기능을 사용한 편견 없는 부스팅](https://arxiv.org/pdf/1706.09516.pdf)을 참조하세요.**
# CatBoost 하이퍼파라미터
다음 테이블에는 Amazon SageMaker AI CatBoost 알고리즘에 필요하거나 가장 일반적으로 사용되는 하이퍼파라미터 하위 세트가 포함되어 있습니다. 이들은 사용자가 데이터를 통해 모델 파라미터를 쉽게 예측하기 위해 설정하는 파라미터입니다. SageMaker AI CatBoost 알고리즘은 오픈 소스 [CatBoost](https://github.com/catboost/catboost) 패키지의 구현입니다.
**참고**
기본 하이퍼파라미터는 [CatBoost 샘플 노트북](catboost.md#catboost-sample-notebooks)의 예제 데이터세트를 기준으로 정해집니다.
기본적으로 SageMaker AI CatBoost 알고리즘은 분류 문제 유형에 따라 평가 지표와 손실 함수를 자동 선택합니다. 이 CatBoost 알고리즘은 데이터의 레이블 수를 기반으로 분류 문제 유형을 탐지합니다. 회귀 문제의 경우 평가 지표와 손실 함수는 모두 평균 제곱근 오차입니다. 바이너리 분류 문제의 경우 평가 지표는 곡선 아래 면적(AUC)이고 손실 함수는 로그 손실입니다. 멀티클래스 분류 문제의 경우 평가 지표 및 손실 함수는 멀티클래스 교차 엔트로피입니다. `eval_metric` 하이퍼파라미터를 사용하여 기본 평가 지표를 변경할 수 있습니다. 설명, 유효한 값, 기본값을 포함하여 LightGBM 하이퍼파라미터에 대한 자세한 내용은 다음 표를 참조하세요.
| 파라미터 이름 | 설명 |
| --- | --- |
| iterations | 빌드할 수 있는 최대 트리 수입니다. 유효한 값: 정수, 범위: 양의 정수. 기본값: `500`. |
| early\$1stopping\$1rounds | 마지막 `early_stopping_rounds` 라운드에서 한 검증 데이터 요소 중 하나의 지표가 개선되지 않으면 훈련이 중지됩니다. `early_stopping_rounds`가 0보다 작거나 같으면 이 하이퍼파라미터는 무시됩니다. 유효한 값: 정수. 기본값: `5`. |
| eval\$1metric | 검증 데이터에 대한 평가 지표. `eval_metric`을 디폴트 `"auto"` 값으로 설정하면 알고리즘이 분류 문제의 유형에 따라 평가 지표를 자동으로 선택합니다. [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/ko_kr/sagemaker/latest/dg/catboost-hyperparameters.html) 유효한 값: 문자열, 유효한 값은 [CatBoost 설명서](https://catboost.ai/en/docs/references/eval-metric__supported-metrics)를 참조하세요. 기본값: `"auto"`. |
| learning\$1rate | 각 훈련 예제 배치를 살펴본 후 모델 가중치가 업데이트되는 비율입니다. 유효한 값: 부동 소수점, 범위: (`0.0`, `1.0`). 기본값: `0.009`. |
| depth | 트리의 깊이. 유효한 값: 정수, 범위: (`1`, `16`). 기본값: `6`. |
| l2\$1leaf\$1reg | 비용 함수의 L2 정규화 항에 대한 계수. 유효한 값: 정수, 범위: 양의 정수. 기본값: `3`. |
| random\$1strength | 점수를 매기는 데 사용할 무작위성의 양은 트리 구조를 선택할 때 분할됩니다. 이 파라미터를 사용하면 모델이 과적합되지 않도록 할 수 있습니다. 유효한 값: 부동 소수, 범위: 양의 부동 소수점 수 기본값: `1.0`. |
| max\$1leaves | 결과 트리의 최대 잎 수입니다. `"Lossguide"` 성장 정책에만 사용할 수 있습니다. 유효한 값: 정수, 범위: [`2`, `64`]. 기본값: `31`. |
| rsm | 무작위 부분 공간 매서드. 기능을 무작위로 다시 선택한 경우 각 분할 선택에서 사용할 기능의 백분율. 유효한 값: 부동 소수, 범위: (`0.0`, `1.0`]. 기본값: `1.0`. |
| sampling\$1frequency | 트리를 빌드할 때 가중치와 객체를 샘플링하는 빈도. 유효한 값: 문자열, 둘 중 하나: (`"PerTreeLevel"` 또는 `"PerTree"`). 기본값: `"PerTreeLevel"`. |
| min\$1data\$1in\$1leaf | 리프에 있는 훈련 샘플의 최소 개수. CatBoost는 샘플 수가 지정된 값보다 적은 리프에서 새 분할을 검색하지 않습니다. `"Lossguide"` 및 `"Depthwise"` 성장 정책에만 사용할 수 있습니다. 유효한 값: 정수, 범위: (`1` 또는 `∞`). 기본값: `1`. |
| bagging\$1temperature | 베이지안 부트스트랩의 설정을 정의합니다. 베이지안 부트스트랩을 사용하여 객체에 임의의 가중치를 할당할 수 있습니다. `bagging_temperature`를 `1.0`로 설정하면 지수 분포에서 가중치를 샘플링합니다. `bagging_temperature`를 `0.0`로 설정하면 모든 가중치는 1.0입니다. 유효한 값: 부동 소수, 범위: 음수가 아닌 부동 소수. 기본값: `1.0`. |
| boosting\$1type | 부스팅 체계. ‘자동’은 `boosting_type`이 처리 장치 유형, 훈련 데이터세트의 개체 수, 선택한 학습 모드를 기반으로 선택됨을 의미합니다. 유효한 값: 문자열, 다음 중 하나: (`"Auto"`, `"Ordered"`, `"Plain"`). 기본값: `"Auto"`. |
| scale\$1pos\$1weight | 바이너리 분류에서 양의 클래스에 대한 가중치. 이 값은 양의 클래스의 객체 가중치를 곱한 값으로 사용됩니다. 유효한 값: 부동 소수, 범위: 양의 부동 소수. 기본값: `1.0`. |
| max\$1bin | 수치적 특징의 분할 횟수. `"Auto"`이란 `max_bin`가 처리 중인 장치 유형 및 기타 파라미터를 기반으로 선택됨을 의미합니다. 자세한 내용은 CatBoost 설명서를 참조하세요. 유효한 값: 문자열, 둘 중 하나 (`"Auto"` 또는 `"1"` \$1 `"65535"`까지의 정수 문자열). 기본값: `"Auto"`. |
| grow\$1policy | 트리 성장 정책. 거대한 트리 빌드 방법을 정의합니다. 유효한 값: 문자열, 다음 중 하나: (`"SymmetricTree"`, `"Depthwise"` 또는 `"Lossguide"`). 기본값: `"SymmetricTree"`. |
| random\$1seed | 훈련에 사용되는 무작위 시드. 유효한 값: 정수, 범위: 음수가 아닌 정수. 기본값: `1.0`. |
| thread\$1count | 훈련 중에 사용할 스레드 수입니다. `thread_count`이 `-1`인 경우 스레드 수는 프로세서 코어 수와 같습니다. `thread_count`은 `0`일 수 없습니다. 유효한 값: 정수, 둘 중 하나 (`-1` 또는 양의 정수). 기본값: `-1`. |
| verbose | 인쇄 메시지의 상세 내용. 레벨이 높을수록 인쇄 명세서가 더 상세해집니다. 유효한 값: 정수, 범위: 양의 정수. 기본값: `1`. |
# CatBoost 모델 튜닝
자동 모델 튜닝은 하이퍼파라미터 튜닝이라고도 하며, 훈련 데이터세트 및 검증 데이터세트에 대한 다양한 하이퍼파라미터를 테스트하는 여러 작업을 실행하여 최적의 모델 버전을 찾는 기능입니다.** 모델 튜닝은 다음과 같은 하이퍼파라미터에 초점을 맞춥니다.
**참고**
훈련 손실 함수는 레이블 열의 고유 정수 수에 따라 결정되는 분류 작업 유형에 따라 자동 할당됩니다. 자세한 내용은 [CatBoost 하이퍼파라미터](catboost-hyperparameters.md) 섹션을 참조하세요.
+ 모델 훈련 중에 최적화하는 학습 손실 함수
+ 검증 중에 모델 성능을 평가하는 데 사용되는 평가 지표입니다.
+ 모델을 자동 튜닝할 때 사용할 하이퍼파라미터 세트와 각 값의 범위
자동 모델 튜닝은 선택한 하이퍼파라미터를 검색하여 선택된 평가 지표를 최적화하는 모델을 만드는 값 조합을 찾습니다.
**참고**
CatBoost의 자동 모델 튜닝은 SageMaker AI 콘솔이 아닌 Amazon SageMaker SDK에서만 사용할 수 있습니다.
모델 튜닝에 대한 추가 정보는 [SageMaker AI로 자동 모델 튜닝](automatic-model-tuning.md) 섹션을 참조하세요.
## CatBoost 알고리즘으로 계산되는 평가 지표
SageMaker AI CatBoost 알고리즘은 모델 검증에 사용할 다음 지표를 계산합니다. 평가 지표는 분류 작업 유형(레이블 열에 표시된 고유 정수의 개수로 결정됨)에 따라 자동으로 할당됩니다.
| 지표 이름 | 설명 | 최적화 방향 | 정규식 패턴 |
| --- | --- | --- | --- |
| RMSE | 평균 제곱근 오차 | 최소화 | "bestTest = ([0-9\$1\$1.]\$1)" |
| MAE | 평균 절대 오차 | 최소화 | "bestTest = ([0-9\$1\$1.]\$1)" |
| MedianAbsoluteError | 평균 절대 오차 | 최소화 | "bestTest = ([0-9\$1\$1.]\$1)" |
| R2 | r2 점수 | 최대화 | "bestTest = ([0-9\$1\$1.]\$1)" |
| Logloss | 바이너리 교차 엔트로피 | 최대화 | "bestTest = ([0-9\$1\$1.]\$1)" |
| Precision | precision | 최대화 | "bestTest = ([0-9\$1\$1.]\$1)" |
| Recall | 리콜 | 최대화 | "bestTest = ([0-9\$1\$1.]\$1)" |
| F1 | F1 점수 | 최대화 | "bestTest = ([0-9\$1\$1.]\$1)" |
| AUC | 오크 점수 | 최대화 | "bestTest = ([0-9\$1\$1.]\$1)" |
| MultiClass | 멀티클래스 교차 엔트로피 | 최대화 | "bestTest = ([0-9\$1\$1.]\$1)" |
| Accuracy | 정확도 | 최대화 | "bestTest = ([0-9\$1\$1.]\$1)" |
| BalancedAccuracy | 균형 잡힌 정확도 | 최대화 | "bestTest = ([0-9\$1\$1.]\$1)" |
## 튜닝 가능한 CatBoost 하이퍼파라미터
다음 하이퍼파라미터를 사용하여 CatBoost 모델을 튜닝합니다. CatBoost 평가 지표를 최적화하는데 가장 큰 영향을 미치는 하이퍼파라미터는 `learning_rate`, `depth`, `l2_leaf_reg`, 및 `random_strength`입니다. 모든 CatBoost 하이퍼파라미터 목록은 [CatBoost 하이퍼파라미터](catboost-hyperparameters.md) 섹션을 참조하세요.
| 파라미터 이름 | 파라미터 유형 | 권장 범위 |
| --- | --- | --- |
| learning\$1rate | ContinuousParameterRanges | MinValue: 0.001, MaxValue: 0.01 |
| depth | IntegerParameterRanges | MinValue: 4, MaxValue: 10 |
| l2\$1leaf\$1reg | IntegerParameterRanges | MinValue: 2, MaxValue: 10 |
| random\$1strength | ContinuousParameterRanges | MinValue: 0, MaxValue: 10 |
# Factorization Machine 알고리즘
Factorization Machine 알고리즘은 분류 및 회귀 작업 모두에 대해 사용할 수 있는 범용 지도 학습 알고리즘입니다. 고차원 희소 데이터세트 내 특징 간 상호 작용을 경제적으로 캡처하도록 설계된 선형 모델의 확장입니다. 예를 들어 클릭 예측 시스템에서 Factorization Machine 모델은 특정 페이지 범주에 속한 페이지에 배치된 특정 광고 범주의 광고로부터 관측된 클릭 비율 패턴을 캡쳐할 수 있습니다. Factorization Machine은 클릭 예측 및 품목 추천과 같은 고차원 희소 데이터세트를 처리하는 작업에 있어 좋은 선택합니다.
**참고**
Factorization Machine 알고리즘의 Amazon SageMaker AI 구현은 특성 간 쌍 비교(pair-wise)(2차) 상호 작용만을 고려합니다.
**Topics**
+ [Factorization Machines 알고리즘의 입력/출력 인터페이스](#fm-inputoutput)
+ [Factorization Machines 알고리즘에 대한 EC2 인스턴스 권장 사항](#fm-instances)
+ [Factorization Machines 샘플 노트북](#fm-sample-notebooks)
+ [Factorization Machine 작동 방법](fact-machines-howitworks.md)
+ [Factorization Machine 하이퍼파라미터](fact-machines-hyperparameters.md)
+ [Factorization Machine 모델 튜닝](fm-tuning.md)
+ [Factorization Machine 응답 형식](fm-in-formats.md)
## Factorization Machines 알고리즘의 입력/출력 인터페이스
Factorization Machine 알고리즘은 바이너리 분류 모드 또는 회귀 모드 중 하나에서 실행될 수 있습니다. 각 모드에서 데이터세트는 교육 채널 데이터세트와 함께 **테스트** 채널로 제공될 수 있습니다. 점수 계산은 사용하는 모드에 따라 달라집니다. 회귀 모드에서 테스팅 데이터세트는 평균 제곱근 오차(RMSE)를 사용하여 점수가 매겨집니다. 바이너리 분류 모드에서 테스트 데이터세트는 바이너리 교차 엔트로피(로그 손실), 정확성(임계치 = 0.5) 및 F1 점수(임계치 = 0.5)를 사용하여 점수가 매겨집니다.
**훈련**의 경우 Factorization Machine 알고리즘은 현재 `Float32` 텐서가 포함된 `recordIO-protobuf` 형식만 지원합니다. 사용 사례가 주로 희소 데이터이기 때문에 `CSV`는 좋은 선택이 아닙니다. 파일 및 파이프 모드 훈련 둘 다 recordIO-wrapped protobuf에 대해 지원됩니다.
**추론**의 경우 Factorization Machine 알고리즘은 `application/json` 및 `x-recordio-protobuf` 형식을 지원합니다.
+ **바이너리 분류** 문제의 경우 알고리즘은 점수와 레이블을 예측합니다. 레이블은 숫자이고 `0` 또는 `1`일 수 있습니다. 점수는 알고리즘이 레이블이 `1`일 것이라고 판단하는 강도를 나타내는 숫자입니다. 알고리즘은 먼저 점수를 계산한 후 점수 값에서 레이블을 도출합니다. 점수가 0.5 이상이면 레이블은 `1`입니다.
+ **회귀** 문제의 경우 점수만 반환되며 이것은 예측된 값입니다. 예를 들어 Factorization Machines을 사용하여 영화 평점을 예측하는 경우 점수는 에측된 평점 값입니다.
훈련 및 추론 파일 형식에 대한 자세한 정보는 [Factorization Machines 샘플 노트북](#fm-sample-notebooks) 섹션을 참조하세요.
## Factorization Machines 알고리즘에 대한 EC2 인스턴스 권장 사항
Amazon SageMaker AI Factorization Machine 알고리즘은 확장성이 높고 배포된 인스턴스에 걸쳐 훈련이 가능합니다. 희소 및 밀집 데이터세트에 대해 CPU 인스턴스를 사용한 훈련 및 추론을 권장합니다. 일부 환경의 경우 밀집 데이터에서 하나 이상의 GPU를 사용한 훈련은 약간의 이점을 제공할 수 있습니다. GPU를 사용한 훈련은 밀집 데이터에서만 가능합니다. 희소 데이터에 대해 CPU 인스턴스를 사용하세요. Factorization Machines 알고리즘은 훈련 및 추론을 위해 P2, P3, G4dn, G5 인스턴스를 지원합니다.
## Factorization Machines 샘플 노트북
SageMaker AI Factorization Machines 알고리즘을 사용하여 MNIST 데이터세트 내에서 0\$19의 수기 숫자 이미지를 분석하는 샘플 노트북은 [An Introduction to Factorization Machines with MNIST](https://sagemaker-examples.readthedocs.io/en/latest/introduction_to_amazon_algorithms/factorization_machines_mnist/factorization_machines_mnist.html)를 참조하세요. SageMaker AI에서 예시 실행에 사용할 수 있는 Jupyter Notebook 인스턴스를 만들고 이 인스턴스에 액세스하는 방법에 대한 설명은 [Amazon SageMaker 노트북 인스턴스](nbi.md) 섹션을 참조하세요. 노트북 인스턴스를 만든 후 열면 **SageMaker AI 예시** 탭을 선택하여 모든 SageMaker AI 샘플 목록을 확인할 수 있습니다. Factorization Machines 알고리즘을 사용하는 예제 노트북은 **Amazon 알고리즘 소개** 섹션에 있습니다. 노트북을 열려면 **사용** 탭을 클릭하고 사본 생성을 선택합니다.
# Factorization Machine 작동 방법
Factorization Machines 모델의 예측 작업은 기능 세트 xi에서 대상 도메인까지 함수 ŷ를 추정하는 것입니다. 이 도메인은 회귀의 경우 실제 값이고 분류의 경우 바이너리입니다. Factorization Machine 모델은 감독되므로 사용 가능한 훈련 데이터세트 (xi,yj)가 있습니다. 이 모델의 이점은 인수분해된 파라미터화를 사용하여 쌍으로 이루어지는 특징 상호 작용을 캡처하는 방식에 있습니다. 이는 다음과 같은 수학 공식으로 나타낼 수 있습니다.
![\[Factorization Machine 모델에 대한 방정식을 포함한 이미지\]](http://docs.aws.amazon.com/ko_kr/sagemaker/latest/dg/images/FM1.jpg)
이 방정식의 3개 항은 각각 모델 구성 요소 3개에 해당합니다.
+ w0 항은 전역 편향을 나타냅니다.
+ wi 선형항은 i번째 변수의 강도를 모델링합니다.
+ 인수분해 항은 i번째와 j번째 변수 간 쌍별 상호 작용을 모델링합니다.
전역 편향 및 선형항은 선형 모델에서와 동일합니다. 쌍별 특징 상호 작용은 각 특징에 대해 학습된 해당 인수의 내적으로 세 번째 항에서 모델링됩니다. 학습된 팩터는 각 특징에 대한 임베딩 벡터로 고려될 수 있습니다. 예를 들어 분류 작업에서 한 쌍의 기능이 정상 샘플에서 더욱 자주 동시에 발생하는 편인 경우 이러한 팩터의 내적은 클 것입니다. 다시 말해 임베딩 벡터는 코사인 유사도에 있는 각각과 근접합니다. Factorization Machine 모델에 대한 자세한 정보는 [Factorization Machines](https://www.ismll.uni-hildesheim.de/pub/pdfs/Rendle2010FM.pdf)를 참조하세요.
회귀 작업의 경우 모델 예측 ŷn 및 대상 값 yn 사이의 제곱근 오차를 최소화함으로써 모델을 훈련합니다. 이를 제곱 손실이라고 합니다.
![\[제곱 손실에 대한 방정식이 포함된 이미지\]](http://docs.aws.amazon.com/ko_kr/sagemaker/latest/dg/images/FM2.jpg)
분류 작업의 경우 모델은 교차 엔트로피 손실(로그 손실이라고도 함)을 최소화함으로써 훈련됩니다.
![\[로그 손실에 대한 방정식이 포함된 이미지\]](http://docs.aws.amazon.com/ko_kr/sagemaker/latest/dg/images/FM3.jpg)
여기서 각 항목은 다음과 같습니다.
![\[예측 값의 로지스틱 함수가 포함된 이미지\]](http://docs.aws.amazon.com/ko_kr/sagemaker/latest/dg/images/FM4.jpg)
분류용 손실 함수에 대한 자세한 정보는 [Loss functions for classification](https://en.wikipedia.org/wiki/Loss_functions_for_classification)을 참조하세요.
# Factorization Machine 하이퍼파라미터
다음 표에는 Factorization Machines 알고리즘의 하이퍼파라미터가 나와 있습니다. 이들은 사용자가 데이터로부터 모델 파라미터의 예측을 촉진하기 위해 설정하는 파라미터입니다. 먼저 반드시 설정해야 하는 필수 하이퍼파라미터가 알파벳 순으로 나열되어 있습니다. 그 다음에 설정할 수 있는 선택적 하이퍼파라미터가 알파벳 순으로 나열되어 있습니다.
| 파라미터 이름 | 설명 |
| --- | --- |
| feature\$1dim | 입력 특징 공간의 차원. 희소 입력을 포함하여 매우 높을 수 있습니다. **필수** 유효한 값: 양수. 제안 값 범위: [10000,10000000] |
| num\$1factors | 인수분해의 차원. **필수** 유효한 값: 양수. 제안된 값 범위: [2,1000], 64는 일반적으로 좋은 결과를 생성하므로 좋은 출발점이 됩니다. |
| predictor\$1type | 예측기의 유형. [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/ko_kr/sagemaker/latest/dg/fact-machines-hyperparameters.html) **필수** 유효한 값: 문자열: `binary_classifier` 또는 `regressor` |
| bias\$1init\$1method | 편향항에 대한 초기화 메서드: [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/ko_kr/sagemaker/latest/dg/fact-machines-hyperparameters.html) **선택 사항** 유효값: `uniform`, `normal` 또는 `constant` 기본값: `normal` |
| bias\$1init\$1scale | 편향항 초기화 범위. `bias_init_method`가 `uniform`으로 설정된 경우에만 적용됩니다. **선택 사항** 유효한 값: 음수가 아닌 부동 소수점. 제안 값 범위: [1e-8, 512]. 기본값: 없음 |
| bias\$1init\$1sigma | 편향항 초기화 표준편차. `bias_init_method`가 `normal`으로 설정된 경우에만 적용됩니다. **선택 사항** 유효한 값: 음수가 아닌 부동 소수점. 제안 값 범위: [1e-8, 512]. 기본 값: 0.01 |
| bias\$1init\$1value | 편향항의 초기 값. `bias_init_method`가 `constant`으로 설정된 경우에만 적용됩니다. **선택 사항** 유효한 값: 부동 소수점. 제안 값 범위: [1e-8, 512]. 기본값: 없음 |
| bias\$1lr | 편향항에 대한 학습률. **선택 사항** 유효한 값: 음수가 아닌 부동 소수점. 제안 값 범위: [1e-8, 512]. 기본값: 0.1 |
| bias\$1wd | 편향항에 대한 가중치 감소. **선택 사항** 유효한 값: 음수가 아닌 부동 소수점. 제안 값 범위: [1e-8, 512]. 기본 값: 0.01 |
| clip\$1gradient | 그라디언트 클리핑 옵티마이저 파라미터. 간격 [-`clip_gradient`, \$1`clip_gradient`]에 투사하여 그라디언트를 클리핑합니다. **선택 사항** 유효한 값: 부동 소수점. 기본값: 없음 |
| epochs | 실행할 훈련 epoch의 수. **선택 사항** 유효한 값: 양수 기본값: 1 |
| eps | 0으로 나누기를 방지하는 Epsilon 파라미터. **선택 사항** 유효한 값: 부동 소수점. 제안 값: 작음 기본값: 없음 |
| factors\$1init\$1method | 인수분해 항에 대한 초기화 메서드: [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/ko_kr/sagemaker/latest/dg/fact-machines-hyperparameters.html) **선택 사항** 유효한 값: `uniform`, `normal` 또는 `constant`. 기본값: `normal` |
| factors\$1init\$1scale | 인수분해 항 초기화 범위. `factors_init_method`가 `uniform`으로 설정된 경우에만 적용됩니다. **선택 사항** 유효한 값: 음수가 아닌 부동 소수점. 제안 값 범위: [1e-8, 512]. 기본값: 없음 |
| factors\$1init\$1sigma | 인수분해 항 초기화 표준편차. `factors_init_method`가 `normal`으로 설정된 경우에만 적용됩니다. **선택 사항** 유효한 값: 음수가 아닌 부동 소수점. 제안 값 범위: [1e-8, 512]. 기본값: 0.001 |
| factors\$1init\$1value | 인수분해 항의 초기 값. `factors_init_method`가 `constant`으로 설정된 경우에만 적용됩니다. **선택 사항** 유효한 값: 부동 소수점. 제안 값 범위: [1e-8, 512]. 기본값: 없음 |
| factors\$1lr | 인수분해 항에 대한 학습률. **선택 사항** 유효한 값: 음수가 아닌 부동 소수점. 제안 값 범위: [1e-8, 512]. 기본값: 0.0001 |
| factors\$1wd | 인수분해 항에 대한 가중치 감소. **선택 사항** 유효한 값: 음수가 아닌 부동 소수점. 제안 값 범위: [1e-8, 512]. 기본값: 0.00001 |
| linear\$1lr | 선형항에 대한 학습률. **선택 사항** 유효한 값: 음수가 아닌 부동 소수점. 제안 값 범위: [1e-8, 512]. 기본값: 0.001 |
| linear\$1init\$1method | 선형항에 대한 초기화 메서드: [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/ko_kr/sagemaker/latest/dg/fact-machines-hyperparameters.html) **선택 사항** 유효한 값: `uniform`, `normal` 또는 `constant`. 기본값: `normal` |
| linear\$1init\$1scale | 선형항 초기화 범위. `linear_init_method`가 `uniform`으로 설정된 경우에만 적용됩니다. **선택 사항** 유효한 값: 음수가 아닌 부동 소수점. 제안 값 범위: [1e-8, 512]. 기본값: 없음 |
| linear\$1init\$1sigma | 선형항 초기화 표준편차. `linear_init_method`가 `normal`으로 설정된 경우에만 적용됩니다. **선택 사항** 유효한 값: 음수가 아닌 부동 소수점. 제안 값 범위: [1e-8, 512]. 기본 값: 0.01 |
| linear\$1init\$1value | 선형항의 초기 값. `linear_init_method`가 *constant*로 설정된 경우에만 적용됩니다. **선택 사항** 유효한 값: 부동 소수점. 제안 값 범위: [1e-8, 512]. 기본값: 없음 |
| linear\$1wd | 선형항에 대한 가중치 감소. **선택 사항** 유효한 값: 음수가 아닌 부동 소수점. 제안 값 범위: [1e-8, 512]. 기본값: 0.001 |
| mini\$1batch\$1size | 훈련용 미니 배치의 크기. **선택 사항** 유효한 값: 양수 기본값: 1000 |
| rescale\$1grad | 그라디언트 리스케일링 옵티마이저 파라미터. 설정된 경우 업데이트 전에 `rescale_grad`를 사용하여 경사를 곱합니다. 주로 1.0/`batch_size`를 선택합니다. **선택 사항** 유효한 값: 부동 소수점. 기본값: 없음 |
# Factorization Machine 모델 튜닝
하이퍼파라미터 튜닝이라고도 하는 자동 모델 튜닝은 데이터세트에 대한 광범위한 하이퍼파라미터를 테스트하는 여러 작업을 실행하여 최적의 모델 버전을 찾습니다.** 튜닝 가능한 하이퍼파라미터, 각 하이퍼파라미터에 대한 값 범위 및 목표 지표를 선택합니다. 알고리즘에서 계산하는 지표 중에서 목표 지표를 선택합니다. 자동 모델 튜닝은 선택한 하이퍼파라미터를 검색하여 목표 지표를 최적화하는 모델을 만드는 값 조합을 찾습니다.
모델 튜닝에 대한 추가 정보는 [SageMaker AI로 자동 모델 튜닝](automatic-model-tuning.md) 섹션을 참조하세요.
## Factorization Machine 알고리즘으로 계산되는 지표
Factorization Machine 알고리즘에는 바이너리 분류 및 회귀 예측기 유형이 둘 다 있습니다. 예측기 유형은 자동 모델 튜닝에 사용할 수 있는 지표를 결정합니다. 알고리즘은 `test:rmse` 회귀 지표를 보고하며, 이러한 지표는 훈련 중 계산됩니다. 회귀 작업을 위한 모델을 튜닝하는 경우 이 지표를 목표 지표로 선택합니다.
| 지표 이름 | 설명 | 최적화 방향 |
| --- | --- | --- |
| test:rmse | 평균 제곱근 오차 | 최소화 |
Factorization Machine 알고리즘은 3가지 바이너리 분류 지표를 보고하며, 이러한 지표는 훈련 중 계산됩니다. 바이너리 분류 작업을 위한 모델을 튜닝하는 경우 이러한 지표 중 하나를 목표 지표로 선택합니다.
| 지표 이름 | 설명 | 최적화 방향 |
| --- | --- | --- |
| test:binary\$1classification\$1accuracy | 정확도 | 최대화 |
| test:binary\$1classification\$1cross\$1entropy | 교차 엔트로피 | 최소화 |
| test:binary\$1f\$1beta | 베타 | 최대화 |
## 튜닝 가능한 Factorization Machine 하이퍼파라미터
Factorization Machine 알고리즘에 대한 다음 하이퍼파라미터를 튜닝할 수 있습니다. 편향항, 선형 및 인수분해가 포함된 초기화 파라미터는 초기화 메서드에 따라 달라집니다. `uniform`, `normal` 및 `constant`, 이렇게 3가지 초기화 메서드가 있습니다. 이러한 초기화 메서드 자체는 튜닝이 불가능합니다. 튜닝 가능한 파라미터는 선택한 초기화 메서드에 따라 달라집니다. 예를 들어, 초기화 메서드가 `uniform`이면 `scale` 파라미터만 튜닝할 수 있습니다. 특히, 초기화 메서드가 `bias_init_method==uniform`인 경우에는 `bias_init_scale`, `linear_init_scale` 및 `factors_init_scale`을 튜닝할 수 있습니다. 마찬가지로, 초기화 메서드가 `normal`이면 `sigma` 파라미터만 튜닝할 수 있습니다. 초기화 메서드가 `constant`이면 `value` 파라미터만 튜닝할 수 있습니다. 다음 표에는 이러한 종속성이 나열되어 있습니다.
| 파라미터 이름 | 파라미터 유형 | 권장 범위 | 종속성 |
| --- | --- | --- | --- |
| bias\$1init\$1scale | ContinuousParameterRange | MinValue: 1e-8, MaxValue: 512 | bias\$1init\$1method==uniform |
| bias\$1init\$1sigma | ContinuousParameterRange | MinValue: 1e-8, MaxValue: 512 | bias\$1init\$1method==normal |
| bias\$1init\$1value | ContinuousParameterRange | MinValue: 1e-8, MaxValue: 512 | bias\$1init\$1method==constant |
| bias\$1lr | ContinuousParameterRange | MinValue: 1e-8, MaxValue: 512 | 없음 |
| bias\$1wd | ContinuousParameterRange | MinValue: 1e-8, MaxValue: 512 | 없음 |
| epoch | IntegerParameterRange | MinValue: 1, MaxValue: 1000 | 없음 |
| factors\$1init\$1scale | ContinuousParameterRange | MinValue: 1e-8, MaxValue: 512 | bias\$1init\$1method==uniform |
| factors\$1init\$1sigma | ContinuousParameterRange | MinValue: 1e-8, MaxValue: 512 | bias\$1init\$1method==normal |
| factors\$1init\$1value | ContinuousParameterRange | MinValue: 1e-8, MaxValue: 512 | bias\$1init\$1method==constant |
| factors\$1lr | ContinuousParameterRange | MinValue: 1e-8, MaxValue: 512 | 없음 |
| factors\$1wd | ContinuousParameterRange | MinValue: 1e-8, MaxValue: 512] | 없음 |
| linear\$1init\$1scale | ContinuousParameterRange | MinValue: 1e-8, MaxValue: 512 | bias\$1init\$1method==uniform |
| linear\$1init\$1sigma | ContinuousParameterRange | MinValue: 1e-8, MaxValue: 512 | bias\$1init\$1method==normal |
| linear\$1init\$1value | ContinuousParameterRange | MinValue: 1e-8, MaxValue: 512 | bias\$1init\$1method==constant |
| linear\$1lr | ContinuousParameterRange | MinValue: 1e-8, MaxValue: 512 | 없음 |
| linear\$1wd | ContinuousParameterRange | MinValue: 1e-8, MaxValue: 512 | 없음 |
| mini\$1batch\$1size | IntegerParameterRange | MinValue: 100, MaxValue: 10000 | 없음 |
# Factorization Machine 응답 형식
Amazon SageMaker AI는 바이너리 분류 및 회귀 작업을 위한 특정 구조와 함께 JSON, JSONLINES 및 RECORDIO와 같은 Factorization Machines 모델에서 추론을 가져오기 위한 여러 응답 형식을 제공합니다.
## JSON 응답 형식
바이너리 분류
```
let response = {
"predictions": [
{
"score": 0.4,
"predicted_label": 0
}
]
}
```
회귀
```
let response = {
"predictions": [
{
"score": 0.4
}
]
}
```
## JSONLINES 응답 형식
바이너리 분류
```
{"score": 0.4, "predicted_label": 0}
```
회귀
```
{"score": 0.4}
```
## RECORDIO 응답 형식
바이너리 분류
```
[
Record = {
features = {},
label = {
'score’: {
keys: [],
values: [0.4] # float32
},
'predicted_label': {
keys: [],
values: [0.0] # float32
}
}
}
]
```
회귀
```
[
Record = {
features = {},
label = {
'score’: {
keys: [],
values: [0.4] # float32
}
}
}
]
```
# K-Nearest Neighbors(k-NN) 알고리즘
Amazon SageMaker AI k-Nearest Neighbors(k-NN) 알고리즘은 인덱스 기반 알고리즘입니다. 이 알고리즘은 분류 또는 회귀에 비모수적 방법을 사용합니다. 분류 문제의 경우 이 알고리즘은 샘플 지점과 가장 가까운 *k* 지점을 쿼리하여 가장 자주 사용하는 클래스 레이블을 예측 레이블로 반환합니다. 회귀 문제의 경우 이 알고리즘은 샘플 지점과 가장 가까운 *k* 지점을 쿼리해 특징 값의 평균을 예측 값으로 반환합니다.
k-NN 알고리즘을 사용한 훈련에는 샘플링, 차원 감소 및 인덱스 빌드, 이렇게 3가지 단계가 있습니다. 샘플링은 메모리에 맞도록 최초 데이터세트의 크기를 줄입니다. 차원 감소를 위해 이 알고리즘은 데이터의 특징 차원을 줄여 메모리 내에서 k-NN 모델이 차지하는 공간을 줄이고 추론 지연 시간을 단축합니다. 차원 감소 메서드로 Random Projection과 빠른 Johnson-Lindenstrauss 변환 두 가지를 제공합니다. 일반적으로, 차원의 증가에 따라 밀도가 떨어지는 데이터의 통계적 분석 문제를 일으키는 "차원의 저주"(curse of dimensionality)를 피하기 위해 고차원(d >1000) 데이터세트에 대해 차원 감소를 사용합니다. k-NN의 주요 훈련 목표는 인덱스를 생성하는 것입니다. 인덱스를 사용하면 값 또는 클래스 레이블이 아직 확인되지 않은 지점과 추론에 사용할 k nearest 지점 간에 거리를 효율적으로 조회할 수 있습니다.
**Topics**
+ [k-NN 알고리즘에 대한 입력/출력 인터페이스](#kNN-input_output)
+ [k-NN 샘플 노트북](#kNN-sample-notebooks)
+ [k-NN 알고리즘 작동 방법](kNN_how-it-works.md)
+ [k-NN 알고리즘에 대한 EC2 인스턴스 권장 사항](#kNN-instances)
+ [k-NN 하이퍼파라미터](kNN_hyperparameters.md)
+ [k-NN 모델 튜닝](kNN-tuning.md)
+ [k-NN 훈련 입력을 위한 데이터 형식](kNN-in-formats.md)
+ [k-NN 요청 및 응답 형식](kNN-inference-formats.md)
## k-NN 알고리즘에 대한 입력/출력 인터페이스
SageMaker AI k-NN은 훈련 및 테스트 데이터 채널을 지원합니다.
+ train 채널은 샘플링하거나 k-NN 인덱스로 생성하려는 데이터에 사용합니다.**
+ test 채널은 로그 파일에 점수를 내보냅니다.** 점수는 미니 배치당 행 하나로 나열되는데, `classifier`는 정확도, `regressor` 점수는 평균 제곱근 오차(mse)를 나타냅니다.
훈련 입력의 경우 k-NN은 `text/csv` 및 `application/x-recordio-protobuf` 데이터 형식을 지원합니다. 입력 유형 `text/csv`의 경우 첫 번째 `label_size` 열은 해당 행의 레이블 벡터로 해석됩니다. 파일 모드 또는 파이프 모드를 사용하여 `recordIO-wrapped-protobuf` 또는 `CSV`로 형식이 지정된 데이터에 대해 모델을 훈련할 수 있습니다.
추론 입력의 경우 k-NN은 `application/json`, `application/x-recordio-protobuf` 및 `text/csv` 데이터 형식을 지원합니다. `text/csv` 형식은 `label_size` 및 인코딩 파라미터를 수용하고, 0의 `label_size`와 UTF-8 인코딩을 가정합니다.
추론 출력의 경우 k-NN은 `application/json` 및 `application/x-recordio-protobuf` 데이터 형식을 지원합니다. 이러한 두 가지 데이터 형식 역시 verbose 출력 모드를 지원합니다. verbose 출력 모드에서 API는 가장 작은 항목에서 가장 큰 항목 순으로 정렬된 거리 벡터 및 레이블 벡터의 해당 요소와 함께 검색 결과를 제공합니다.
배치 변환의 경우 k-NN은 입력 및 출력 둘 다에 대해 `application/jsonlines` 데이터 형식을 지원합니다. 예제 입력은 다음과 같습니다.
```
content-type: application/jsonlines
{"features": [1.5, 16.0, 14.0, 23.0]}
{"data": {"features": {"values": [1.5, 16.0, 14.0, 23.0]}}
```
예제 출력은 다음과 같습니다.
```
accept: application/jsonlines
{"predicted_label": 0.0}
{"predicted_label": 2.0}
```
입력 및 출력 파일 형식에 대한 자세한 정보는 [k-NN 훈련 입력을 위한 데이터 형식](kNN-in-formats.md)(훈련의 경우), [k-NN 요청 및 응답 형식](kNN-inference-formats.md)(추론의 경우) 및 [k-NN 샘플 노트북](#kNN-sample-notebooks) 섹션을 참조하세요.
## k-NN 샘플 노트북
지질 및 삼림 서비스 데이터에서 황무지 초목 유형을 예측하기 위해 SageMaker AI K-Nearest Neighbor 알고리즘을 사용하는 샘플 노트북은 [K-Nearest Neighbor Covertype](https://sagemaker-examples.readthedocs.io/en/latest/introduction_to_amazon_algorithms/k_nearest_neighbors_covtype/k_nearest_neighbors_covtype.html)을 참조하세요.
Jupyter Notebook 인스턴스를 사용하여 SageMaker AI에서 예시를 실행합니다. SageMaker AI에서 Jupyter Notebook 인스턴스를 만들어 여는 방법은 [Amazon SageMaker 노트북 인스턴스](nbi.md) 섹션을 참조하세요. 노트북 인스턴스를 만들어 열었으면 **SageMaker 예시** 탭을 선택하여 모든 SageMaker AI 예시 노트북의 목록을 확인합니다. **Introduction to Amazon algorithms(Amazon 알고리즘 소개)** 섹션에서 K-Nearest Neighbor 노트북을 찾으세요. 노트북을 열려면 **사용** 탭을 클릭하고 사본 생성을 선택합니다.
# k-NN 알고리즘 작동 방법
Amazon SageMaker AI k-Nearest Neighbors(k-NN) 알고리즘은 입력 데이터 샘플링, 차원 축소 수행, 인덱스 구축을 포함하는 다단계 훈련 프로세스를 따릅니다. 그런 다음 추론 중에 인덱싱된 데이터를 사용하여 지정된 데이터 포인트에 대한 k-Nearest Neighbors(k-NN)를 효율적으로 찾고 인접 레이블 또는 값을 기반으로 예측합니다.
## 1단계: 샘플
훈련 데이터세트에서 샘플링할 데이터 포인트의 총 수를 지정하려면 `sample_size` 파라미터를 사용합니다. 예를 들어, 최초 데이터세트에 데이터 포인트가 1,000개 있고, `sample_size`가 100으로 설정되어 있으면(여기서 총 인스턴스 수는 2개임) 이 각 작업자는 포인트 50개를 샘플링합니다. 총 100개의 데이터 포인트 세트가 수집됩니다. 샘플링은 데이터 포인트 수를 기준으로 선형 시간으로 실행됩니다.
## 2단계: 차원 감소 수행
현재 구현된 k-NN 알고리즘에는 두 가지 차원 감소 방법이 있습니다. 이러한 메서드는 `dimension_reduction_type` 하이퍼파라미터에서 지정합니다. `sign` 메서드는 무작위 투영을 지정하는데, 이 투영은 임의 신호 매트릭스를 사용하는 선형 투영을 사용합니다. `fjlt` 메서드는 푸리에 변환을 기반으로 하는 방법인 빠른 Johnson-Lindenstrauss 변환을 지정합니다. 두 메서드 모두 L2 및 내적 거리를 보존합니다. `fjlt` 메서드는 대상 차원이 크고 CPU 추론과 관련해 성능이 보다 뛰어난 경우 사용해야 합니다. 메서드는 컴퓨팅 복잡성에 따라 달라집니다. 차원 d의 n개 포인트로 구성된 배치의 차원을 대상 차원 k로 줄이려면 `sign` 메서드에는 O(ndk) 시간이 필요합니다. `fjlt` 메서드에는 O(nd 로그(d)) 시간이 필요하지만 관련 상수가 더 클 수 있습니다. 차원 감소를 사용하면 데이터에 노이즈가 유입되고 이러한 노이즈는 예측 정확도를 떨어뜨릴 수 있습니다.
## 3단계: 인덱스 빌드
추론 중 이 알고리즘은 샘플 포인트의 k-nearest-neighbors에 대한 인덱스를 쿼리합니다. 포인트에 대한 추론을 기반으로 이 알고리즘은 분류 또는 회귀 예측을 수행합니다. 제공된 클래스 레이블 또는 값을 기반으로 예측합니다. k-NN은 플랫 인덱스, 반전 인덱스 및 프로덕트 양자화가 적용된 반전 인덱스, 이렇게 3가지 다른 유형의 인덱스가 있습니다. `index_type` 파라미터를 사용하여 유형을 지정합니다.
## 모델 직렬화
k-NN 알고리즘이 훈련을 마치면 추론을 준비하기 위해 파일 3개를 직렬화합니다.
+ model\$1algo-1: 가장 가까운 아웃을 계산하기 위해 직렬화된 인덱스를 포함합니다.
+ model\$1algo-1.labels: 인덱스의 쿼리 결과를 기반으로 예측 레이블을 계산하기 위해 직렬화된 레이블(np.float32 바이너리 형식)을 포함합니다.
+ model\$1algo-1.json: 추론을 위한 훈련에서 `k` 및 `predictor_type` 하이퍼파라미터를 저장하는 JSON 형식 모델 메타데이터를 기타 관련 상태와 함께 포함합니다.
k-NN이 현재 구현을 사용하면 메타데이터 파일을 수정해 예측 계산 방식을 변경할 수 있습니다. 예를 들어, `k`를 10으로 변경하거나 `predictor_type`을 *regressor*로 변경할 수 있습니다.
```
{
"k": 5,
"predictor_type": "classifier",
"dimension_reduction": {"type": "sign", "seed": 3, "target_dim": 10, "input_dim": 20},
"normalize": False,
"version": "1.0"
}
```
## k-NN 알고리즘에 대한 EC2 인스턴스 권장 사항
CPU 인스턴스(예: ml.m5.2xlarge) 또는 GPU 인스턴스에서 훈련하는 것이 좋습니다. k-NN 알고리즘은 훈련 및 추론을 위해 P2, P3, G4dn, G5 GPU 인스턴스 패밀리를 지원합니다.
GPU 하드웨어를 사용하는 경우 GPU 간 통신에 대한 부담이 있기 때문에 CPU의 추론 요청은 일반적으로 GPU의 요청보다 평균 지연 시간이 낮습니다. 그러나 GPU는 일반적으로 큰 배치에 대해 처리량이 더 많습니다.
# k-NN 하이퍼파라미터
다음 표에는 Amazon SageMaker AI k-Nearest Neighbors(k-NN) 알고리즘에 대해 설정할 수 있는 하이퍼파라미터가 나열되어 있습니다.
| 파라미터 이름 | 설명 |
| --- | --- |
| feature\$1dim | 입력 데이터의 특징 수. **필수** 유효한 값: 양수. |
| k | 가장 가까운 이웃 수. **필수** 유효한 값: 양수 |
| predictor\$1type | 데이터 레이블에 사용할 추론 유형. **필수** 유효한 값: 분류의 경우 분류자 또는 회귀의 경우 *regressor*** |
| sample\$1size | 훈련 데이터세트에서 샘플링할 데이터 포인트의 총 수. **필수** 유효한 값: 양수 |
| dimension\$1reduction\$1target | 줄일 대상 차원. `dimension_reduction_type` 파라미터를 지정하는 경우 **필수**입니다. 유효한 값: 0보다 크고 `feature_dim`보다 작은 양의 정수. |
| dimension\$1reduction\$1type | 차원 감소 메서드 유형. **선택 사항** 유효한 값: 무작위 투영의 경우 *sign* 또는 빠른 Johnson-Lindenstrauss 변환의 경우 *fjlt* 기본값: 차원 감소 없음 |
| faiss\$1index\$1ivf\$1nlists | `index_type`이 *faiss.IVFFlat* 또는 *faiss.IVFPQ*인 경우 인덱스 내에서 생성할 중심 수. **선택 사항** 유효한 값: 양수 기본값: 자동이며 `sqrt(sample_size)`로 확인됩니다.** |
| faiss\$1index\$1pq\$1m | `index_type`이 *faiss.IVFPQ*로 설정된 경우 인덱스 내에서 생성할 벡터 하위 구성 요소 수. FaceBook AI Similarity Search(FAISS) 라이브러리를 사용하려면 `faiss_index_pq_m`의 값이 데이터 차원의 나눗수여야 합니다. `faiss_index_pq_m`이 데이터 차원의 나눗수가 아닌 경우 데이터 차원을 `faiss_index_pq_m`으로 나눌 수 있는 가장 작은 정수로 늘립니다. 차원 감소가 적용되지 않는 경우 이 알고리즘은 제로 패딩을 추가합니다. 차원 감소가 적용된 경우 이 알고리즘은 `dimension_reduction_target` 하이퍼파라미터의 값을 늘립니다. **선택 사항** 유효한 값: 다음 정수 중 하나: 1, 2, 3, 4, 8, 12, 16, 20, 24, 28, 32, 40, 48, 56, 64, 96 |
| index\$1metric | 가장 가까운 이웃을 찾을 때 지점 간 거리를 측정하는 지표. `faiss.IVFPQ`로 설정된 `index_type`을 사용하여 훈련하는 경우 `INNER_PRODUCT` 거리 및 `COSINE` 유사성은 지원되지 않습니다. **선택 사항** 유효한 값: 유클리드 거리의 경우 *L2*, 내적 거리의 경우 *INNER\$1PRODUCT*, 코사인 유사도의 경우 *COSINE*. 기본값: *L2* |
| index\$1type | 인덱스의 유형. **선택 사항** 유효한 값: *faiss.Flat*, *faiss.IVFFlat*, *faiss.IVFPQ*. 기본값: *faiss.Flat* |
| mini\$1batch\$1size | 데이터 반복자의 미니 배치당 관측치의 수. **선택 사항** 유효한 값: 양수 기본값: 5000 |
# k-NN 모델 튜닝
Amazon SageMaker AI k-nearest-neighbor 알고리즘은 지도 알고리즘입니다. 이 알고리즘은 테스트 데이터세트를 사용하고 분류 작업에 대한 정확도 관련 지표 또는 회귀 작업에 대한 평균 제곱근 오차 관련 지표를 내보냅니다. 이러한 정확도 지표는 경험적 테스트 데이터가 제공하는 실측 정보를 기준으로 각 작업에 대한 모델 예측을 비교합니다. 테스트 데이터세트에 대해 가장 높은 정확도 또는 가장 낮은 오차를 보고하는 최적의 모델을 찾기 위해 k-NN에 대해 하이퍼파라미터 튜닝 작업을 실행할 수 있습니다.
하이퍼파라미터 튜닝이라고도 하는 자동 모델 튜닝은 데이터세트에 대한 광범위한 하이퍼파라미터를 테스트하는 여러 작업을 실행하여 최적의 모델 버전을 찾습니다.** 튜닝 가능한 하이퍼파라미터, 각 하이퍼파라미터에 대한 값 범위 및 목표 지표를 선택합니다. 알고리즘의 예측 작업에 적절한 목표 지표를 선택합니다. 자동 모델 튜닝은 선택한 하이퍼파라미터를 검색하여 목표 지표를 최적화하는 모델을 만드는 값 조합을 찾습니다. 이러한 하이퍼파라미터는 예측 모델 파라미터를 지원하기 위한 용도로만 사용하고, 훈련된 모델이 예측을 위해 사용하지 않습니다.
모델 튜닝에 대한 추가 정보는 [SageMaker AI로 자동 모델 튜닝](automatic-model-tuning.md) 섹션을 참조하세요.
## k-NN 알고리즘으로 계산되는 지표
k-nearest neighbors 알고리즘은 훈련 중 `predictor_type` 하이퍼파라미터가 지정한 작업 유형에 따라 다음 표에 있는 두 가지 지표 중 하나를 계산합니다.
+ 분류자는 분류 작업을 지정하고 `test:accuracy`를 계산합니다.**
+ *regressor*는 회귀 작업을 지정하고 `test:mse`를 계산합니다.
모델 튜닝 시 관련 목표 지표를 계산하기 위해 수행되는 작업 유형에 적절한 `predictor_type` 값을 선택합니다.
| 지표 이름 | 설명 | 최적화 방향 |
| --- | --- | --- |
| test:accuracy | `predictor_type`을 *classifier*로 설정하면 k-NN은 k-nearest neighbors의 레이블 평균을 기반으로 예측 레이블을 test 채널 데이터에서 제공되는 실측 정보 레이블과 비교합니다. 보고되는 정확도 범위는 0.0(0%)\$11.0(100%)입니다. | 최대화 |
| test:mse | `predictor_type`을 *regressor*로 설정하면 k-NN은 k-nearest neighbors의 레이블 평균을 기반으로 예측 레이블을 test 채널 데이터에서 제공되는 실측 정보 레이블과 비교합니다. 평균 제곱근 오차는 두 레이블을 비교해 계산됩니다. | 최소화 |
## 튜닝 가능한 k-NN 하이퍼파라미터
다음 하이퍼파라미터를 사용하여 Amazon SageMaker AI k-nearest-neighbor 모델을 튜닝합니다.
| 파라미터 이름 | 파라미터 유형 | 권장 범위 |
| --- | --- | --- |
| k | IntegerParameterRanges | MinValue: 1, MaxValue: 1024 |
| sample\$1size | IntegerParameterRanges | MinValue: 256, MaxValue: 20000000 |
# k-NN 훈련 입력을 위한 데이터 형식
모든 Amazon SageMaker AI 기본 제공 알고리즘은 [공통 데이터 형식 - 훈련](https://docs.aws.amazon.com/sagemaker/latest/dg/cdf-training.html)에서 설명하는 공통 입력 훈련 형식을 따릅니다. 이 주제에는 Amazon SageMaker AI k-nearest-neighbor 알고리즘에 사용 가능한 입력 형식 목록이 포함되어 있습니다.
## CSV 데이터 형식
content-type: text/csv; label\$1size=1
```
4,1.2,1.3,9.6,20.3
```
첫 번째 `label_size` 열은 해당 행의 레이블 벡터로 해석됩니다.
## RECORDIO 데이터 형식
content-type: application/x-recordio-protobuf
```
[
Record = {
features = {
'values': {
values: [1.2, 1.3, 9.6, 20.3] # float32
}
},
label = {
'values': {
values: [4] # float32
}
}
}
]
}
```
# k-NN 요청 및 응답 형식
모든 Amazon SageMaker AI 기본 제공 알고리즘은 [공통 데이터 형식 - 추론](https://docs.aws.amazon.com/sagemaker/latest/dg/cdf-inference.html)에서 설명하는 공통 입력 추론 형식을 따릅니다. 이 주제에는 Amazon SageMaker AI k-nearest-neighbor 알고리즘에 사용 가능한 출력 형식 목록이 포함되어 있습니다.
## 입력: CSV 요청 형식
content-type: text/csv
```
1.2,1.3,9.6,20.3
```
`label_size` 또는 인코딩 파라미터를 수용합니다. 0의 `label_size`와 utf-8 인코딩을 가정합니다.
## 입력: JSON 요청 형식
content-type: application/json
```
{
"instances": [
{"data": {"features": {"values": [-3, -1, -4, 2]}}},
{"features": [3.0, 0.1, 0.04, 0.002]}]
}
```
## INPUT: JSONLINES 요청 형식
content-type: application/jsonlines
```
{"features": [1.5, 16.0, 14.0, 23.0]}
{"data": {"features": {"values": [1.5, 16.0, 14.0, 23.0]}}
```
## 입력: RECORDIO 요청 형식
content-type: application/x-recordio-protobuf
```
[
Record = {
features = {
'values': {
values: [-3, -1, -4, 2] # float32
}
},
label = {}
},
Record = {
features = {
'values': {
values: [3.0, 0.1, 0.04, 0.002] # float32
}
},
label = {}
},
]
```
## OUTPUT: JSON 응답 형식
accept: application/json
```
{
"predictions": [
{"predicted_label": 0.0},
{"predicted_label": 2.0}
]
}
```
## OUTPUT: JSONLINES 응답 형식
accept: application/jsonlines
```
{"predicted_label": 0.0}
{"predicted_label": 2.0}
```
## 출력: VERBOSE JSON 응답 형식
verbose 모드에서 API는 가장 작은 항목에서 가장 큰 항목 순으로 정렬된 거리 벡터 및 레이블 벡터의 해당 요소와 함께 검색 결과를 제공합니다. 이 예에서는 k가 3으로 설정되어 있습니다.
accept: application/json; verbose=true
```
{
"predictions": [
{
"predicted_label": 0.0,
"distances": [3.11792408, 3.89746071, 6.32548437],
"labels": [0.0, 1.0, 0.0]
},
{
"predicted_label": 2.0,
"distances": [1.08470316, 3.04917915, 5.25393973],
"labels": [2.0, 2.0, 0.0]
}
]
}
```
## 출력: RECORDIO-PROTOBUF 응답 형식
content-type: application/x-recordio-protobuf
```
[
Record = {
features = {},
label = {
'predicted_label': {
values: [0.0] # float32
}
}
},
Record = {
features = {},
label = {
'predicted_label': {
values: [2.0] # float32
}
}
}
]
```
## 출력: VERBOSE RECORDIO-PROTOBUF 응답 형식
verbose 모드에서 API는 가장 작은 항목에서 가장 큰 항목 순으로 정렬된 거리 벡터 및 레이블 벡터의 해당 요소와 함께 검색 결과를 제공합니다. 이 예에서는 k가 3으로 설정되어 있습니다.
accept: application/x-recordio-protobuf; verbose=true
```
[
Record = {
features = {},
label = {
'predicted_label': {
values: [0.0] # float32
},
'distances': {
values: [3.11792408, 3.89746071, 6.32548437] # float32
},
'labels': {
values: [0.0, 1.0, 0.0] # float32
}
}
},
Record = {
features = {},
label = {
'predicted_label': {
values: [0.0] # float32
},
'distances': {
values: [1.08470316, 3.04917915, 5.25393973] # float32
},
'labels': {
values: [2.0, 2.0, 0.0] # float32
}
}
}
]
```
## k-NN 알고리즘의 샘플 출력
regressor 작업의 경우:
```
[06/08/2018 20:15:33 INFO 140026520049408] #test_score (algo-1) : ('mse', 0.013333333333333334)
```
classifier 작업의 경우:
```
[06/08/2018 20:15:46 INFO 140285487171328] #test_score (algo-1) : ('accuracy', 0.98666666666666669)
```
# LightGBM
[LightGBM](https://lightgbm.readthedocs.io/en/latest/)은 그라디언트 부스팅 의사 결정 트리 알고리즘(GBDT)에서 유명하고 효율적인 오픈 소스 구현입니다. GBDT는 더욱 단순하고 약한 모델 세트의 추정치의 앙상블을 결합하여 대상 변수를 정확하게 예측하려 시도하는 지도 훈련 알고리즘입니다. LightGBM은 추가 기술을 사용하여 기존 GBDT의 효율성과 확장성을 크게 개선합니다. 이 페이지에는 Amazon EC2 인스턴스 권장 사항 및 LightGBM용 샘플 노트북에 대한 정보가 포함되어 있습니다.
# SageMaker AI LightGBM 사용 방법
LightGBM을 Amazon SageMaker AI 기본 제공 알고리즘으로 사용할 수 있습니다. 다음 섹션에서는 SageMaker Python SDK와 함께 LightGBM을 사용하는 방법을 설명합니다. Amazon SageMaker Studio Classic UI에서 LightGBM을 사용하는 방법에 대한 자세한 내용은 [SageMaker JumpStart 사전 훈련된 모델](studio-jumpstart.md) 섹션을 참조하세요.
+ **LightGBM을 내장 알고리즘으로 사용**
LightGBM 기본 제공 알고리즘을 사용하여 다음 코드 예제와 같이 LightGBM 훈련 컨테이너를 빌드합니다. SageMaker AI `image_uris.retrieve` API(또는 [Amazon SageMaker Python SDK](https://sagemaker.readthedocs.io/en/stable) 버전 2를 사용하는 경우 `get_image_uri` API)를 사용하여 LightGBM 내장 알고리즘 이미지 URI를 자동으로 찾아낼 수 있습니다.
LightGBM 이미지 URI를 지정한 후 LightGBM 컨테이너를 사용하여 SageMaker AI Estimator API를 사용하는 예측기를 구문화하고 훈련 작업을 시작할 수 있습니다. LightGBM 내장 알고리즘은 스크립트 모드에서 실행되지만 훈련 스크립트는 자동으로 제공되므로 교체할 필요가 없습니다. 스크립트 모드를 사용하여 SageMaker 훈련 작업을 만든 경험이 많으면 자체 LightGBM 훈련 스크립트를 통합할 수 있습니다.
```
from sagemaker import image_uris, model_uris, script_uris
train_model_id, train_model_version, train_scope = "lightgbm-classification-model", "*", "training"
training_instance_type = "ml.m5.xlarge"
# Retrieve the docker image
train_image_uri = image_uris.retrieve(
region=None,
framework=None,
model_id=train_model_id,
model_version=train_model_version,
image_scope=train_scope,
instance_type=training_instance_type
)
# Retrieve the training script
train_source_uri = script_uris.retrieve(
model_id=train_model_id, model_version=train_model_version, script_scope=train_scope
)
train_model_uri = model_uris.retrieve(
model_id=train_model_id, model_version=train_model_version, model_scope=train_scope
)
# Sample training data is available in this bucket
training_data_bucket = f"jumpstart-cache-prod-{aws_region}"
training_data_prefix = "training-datasets/tabular_multiclass/"
training_dataset_s3_path = f"s3://{training_data_bucket}/{training_data_prefix}/train"
validation_dataset_s3_path = f"s3://{training_data_bucket}/{training_data_prefix}/validation"
output_bucket = sess.default_bucket()
output_prefix = "jumpstart-example-tabular-training"
s3_output_location = f"s3://{output_bucket}/{output_prefix}/output"
from sagemaker import hyperparameters
# Retrieve the default hyperparameters for training the model
hyperparameters = hyperparameters.retrieve_default(
model_id=train_model_id, model_version=train_model_version
)
# [Optional] Override default hyperparameters with custom values
hyperparameters[
"num_boost_round"
] = "500"
print(hyperparameters)
from sagemaker.estimator import Estimator
from sagemaker.utils import name_from_base
training_job_name = name_from_base(f"built-in-algo-{train_model_id}-training")
# Create SageMaker Estimator instance
tabular_estimator = Estimator(
role=aws_role,
image_uri=train_image_uri,
source_dir=train_source_uri,
model_uri=train_model_uri,
entry_point="transfer_learning.py",
instance_count=1, # for distributed training, specify an instance_count greater than 1
instance_type=training_instance_type,
max_run=360000,
hyperparameters=hyperparameters,
output_path=s3_output_location
)
# Launch a SageMaker Training job by passing the S3 path of the training data
tabular_estimator.fit(
{
"train": training_dataset_s3_path,
"validation": validation_dataset_s3_path,
}, logs=True, job_name=training_job_name
)
```
XGBoost를 기본 제공 알고리즘으로 설정하는 방법에 대한 자세한 내용은 다음 노트북 예제를 참조하세요.
+ [Amazon SageMaker AI LightGBM 및 CatBoost 알고리즘을 사용한 테이블 형식 분류](https://github.com/aws/amazon-sagemaker-examples/blob/main/introduction_to_amazon_algorithms/lightgbm_catboost_tabular/Amazon_Tabular_Classification_LightGBM_CatBoost.ipynb)
+ [Amazon SageMaker AI LightGBM 및 CatBoost 알고리즘을 사용한 테이블 형식 회귀](https://github.com/aws/amazon-sagemaker-examples/blob/main/introduction_to_amazon_algorithms/lightgbm_catboost_tabular/Amazon_Tabular_Regression_LightGBM_CatBoost.ipynb)
# LightGBM 알고리즘의 입력 및 출력 인터페이스
그라디언트 부스팅은 테이블형 데이터에서 작동합니다. 행은 관측치를 나타내고 1개 열은 대상 변수 또는 레이블을 나타내며, 나머지 열은 특징을 나타냅니다.
LightGBM의 SageMaker AI 구현은 훈련 및 추론을 위한 CSV를 지원합니다.
+ **훈련 ContentType**의 경우 유효한 입력은 *text/csv*여야 합니다.
+ **추론 ContentType**의 경우 유효한 입력은 *text/csv*여야 합니다.
**참고**
CSV 훈련의 경우 알고리즘은 대상 변수가 첫 번째 열에 있고 CSV에는 헤더 레코드가 없다고 추정합니다.
CSV 추론의 경우 알고리즘은 CSV 입력에 레이블 열이 없다고 추정합니다.
**훈련 데이터, 검증 데이터 및 범주형 기능의 입력 형식**
LightGBM 모델에 입력하기 위해 훈련 데이터의 형식을 지정하는 방법을 염두에 두세요. 훈련 및 검증 데이터를 포함하는 Amazon S3 버킷의 경로를 제공해야 합니다. 범주형 기능 목록을 포함시킬 수도 있습니다. `train` 및 `validation` 채널을 모두 사용하여 입력 데이터를 제공하세요 아니면 `train` 채널만 사용해도 됩니다.
**참고**
`train` 및 `training`은 모두 LightGBM 훈련에 사용할 수 있는 유효한 채널 이름입니다.
**`train` 및 `validation` 채널을 모두 사용하세요.**
`train` 채널용과 `validation` 채널용 두 개의 S3 경로를 통해 입력 데이터를 제공할 수 있습니다. 각 S3 경로는 하나 이상의 CSV 파일을 가리키는 S3 접두사이거나 특정 CSV 파일 하나를 가리키는 전체 S3 경로일 수 있습니다. 대상 변수는 CSV 파일의 첫 번째 열에 있어야 합니다. 예측 변수(특징)는 나머지 열에 있어야 합니다. `train` 또는 `validation` 채널에 대해 여러 CSV 파일이 제공되는 경우 LightGBM 알고리즘은 파일을 연결합니다. 검증 데이터는 각 부스팅 반복 종료 시 검증 점수를 계산하는 데 사용됩니다. 유효성 검증 점수가 더 이상 향상되지 않으면 조기 중지가 적용됩니다.
예측 변수에 범주형 기능이 포함된 경우 훈련 데이터 파일 또는 파일이 있는 위치에 이름이 `categorical_index.json`인 JSON 파일을 제공할 수 있습니다. 범주형 기능을 위한 JSON 파일을 제공하는 경우 `train` 채널은 특정 CSV 파일이 아닌 S3 접두사를 가리켜야 합니다. 이 파일은 키가 문자열 `"cat_index_list"`이고 값이 고유 정수 목록인 Python 사전을 포함해야 합니다. 값 목록의 각 정수는 훈련 데이터 CSV 파일에 있는 해당 범주형 기능의 열 인덱스를 나타내야 합니다. 각 값은 양의 정수(0은 목표 값을 나타내므로 0보다 커야 함), `Int32.MaxValue`(2147483647) 미만, 총 열 수보다 작아야 합니다. 범주형 인덱스 JSON 파일은 하나만 있어야 합니다.
**`train` 채널만 사용**:
`train` 채널의 단일 S3 경로를 통해 입력 데이터를 제공할 수도 있습니다. 이 S3 경로는 하나 이상의 CSV 파일이 들어 있는 `train/`이라는 이름의 하위 디렉터리가 있는 디렉터리를 가리켜야 합니다. 선택적으로 `validation/`이라는 동일한 위치에 하나 이상의 CSV 파일이 있는 다른 하위 디렉토리를 포함할 수 있습니다. 검증 데이터가 제공되지 않는 경우 훈련 데이터의 20%가 무작위로 샘플링되어 검증 데이터로 사용됩니다. 예측 변수에 범주형 기능이 포함되어 있다면 데이터 하위 디렉터리와 같은 위치에 `categorical_index.json`이라는 이름의 JSON 파일을 제공할 수 있습니다.
**참고**
CSV 훈련 입력 모드의 경우, 알고리즘에 대해 사용 가능한 전체 메모리(인스턴스 수 \$1 `InstanceType`의 가용 메모리)가 훈련 데이터세트를 담을 수 있어야 합니다.
SageMaker AI LightGBM는 Python Joblib 모듈을 사용하여 모델을 직렬화 또는 역직렬화하고, 이는 모델 저장 또는 로드에 사용될 수 있습니다.
**SageMaker AI LightGBM으로 훈련한 모델을 JobLib 모듈과 함께 사용하려면 다음과 같이 합니다.**
+ 다음 Python 코드를 사용합니다.
```
import joblib
import tarfile
t = tarfile.open('model.tar.gz', 'r:gz')
t.extractall()
model = joblib.load(model_file_path)
# prediction with test data
# dtest should be a pandas DataFrame with column names feature_0, feature_1, ..., feature_d
pred = model.predict(dtest)
```
## LightGBM 알고리즘에 대한 Amazon EC2 인스턴스 권장 사항
SageMaker AI LightGBM은 현재 단일 인스턴스 및 여러 인스턴스 CPU 훈련을 지원합니다. 다중 인스턴스 CPU 훈련(분산 훈련)의 경우, 예측기를 정의할 때 1보다 큰 `instance_count`를 지정하세요 LightGBM을 사용한 분산 훈련에 대한 자세한 내용은 [Amazon SageMaker AI LightGBM Distributed training using Dask](https://sagemaker-examples.readthedocs.io/en/latest/introduction_to_applying_machine_learning/sagemaker_lightgbm_distributed_training_dask/sagemaker-lightgbm-distributed-training-dask.html)를 참조하세요.
LightGBM은 메모리 바운드(컴퓨팅 파운드와는 반대) 알고리즘입니다. 따라서 컴퓨팅 최적화 인스턴스(예: C5)보다 범용 컴퓨팅 인스턴스(예: M5)를 선택하는 것이 좋습니다. 또한 훈련 데이터를 보유하기 위해 선택한 인스턴스에 총 메모리가 충분한 것이 좋습니다.
## LightGBM 샘플 노트북
다음 표에는 Amazon SageMaker AI LightGBM 알고리즘의 다양한 사용 사례를 다루는 다양한 샘플 노트북이 요약되어 있습니다.
****
| **노트북 제목** | **설명** |
| --- | --- |
| [Amazon SageMaker AI LightGBM 및 CatBoost 알고리즘을 사용한 테이블 형식 분류](https://sagemaker-examples.readthedocs.io/en/latest/introduction_to_amazon_algorithms/lightgbm_catboost_tabular/Amazon_Tabular_Classification_LightGBM_CatBoost.html) | 이 노트북은 Amazon SageMaker AI LightGBM 알고리즘을 사용하여 테이블 형식 분류 모델을 훈련하고 호스팅하는 방법을 보여줍니다. |
| [Amazon SageMaker AI LightGBM 및 CatBoost 알고리즘을 사용한 테이블 형식 회귀](https://sagemaker-examples.readthedocs.io/en/latest/introduction_to_amazon_algorithms/lightgbm_catboost_tabular/Amazon_Tabular_Regression_LightGBM_CatBoost.html) | 이 노트북은 Amazon SageMaker AI LightGBM 알고리즘을 사용하여 테이블 형식 회귀 모델을 훈련하고 호스팅하는 방법을 보여줍니다. |
| [Amazon SageMaker AI LightGBM Distributed training using Dask](https://sagemaker-examples.readthedocs.io/en/latest/introduction_to_applying_machine_learning/sagemaker_lightgbm_distributed_training_dask/sagemaker-lightgbm-distributed-training-dask.html) | 이 노트북은 Dask 프레임워크를 사용하는 Amazon SageMaker AI LightGBM 알고리즘을 사용한 분산 훈련을 보여줍니다. |
SageMaker AI에서 예시 실행에 사용할 수 있는 Jupyter Notebook 인스턴스를 만들고 액세스하는 방법은 [Amazon SageMaker 노트북 인스턴스](nbi.md) 섹션을 참조하세요. 노트북 인스턴스를 만든 후 열고 **SageMaker AI 예시** 탭을 선택하여 모든 SageMaker AI 샘플 목록을 확인하세요. 노트북을 열려면 **사용** 탭을 선택한 후 **사본 생성**을 선택합니다.
# LightGBM의 작동 방식
LightGBM은 GOSS(그라디언트 기반 단면 샘플링)와 EFB(독점 기능 번들링)라는 두 가지 새로운 기술을 추가하여 기존의 GBDT(그라디언트 부스팅 의사 결정 트리) 알고리즘을 구현합니다. 이러한 기법은 GBDT의 효율성과 확장성을 크게 개선하도록 설계되었습니다.
LightGBM 알고리즘은 다양한 데이터 형식, 관계, 분포 및 미세 조정할 수 있는 다양한 하이퍼파라미터를 강력하게 처리하기 때문에 기계 훈련 경쟁에서 잘 작동합니다. 회귀, 분류(바이너리 및 멀티클래스) 및 순위 결정 관련 문제에 LightGBM을 사용할 수 있습니다.
그라디언트 부스팅에 대한 자세한 내용은 [SageMaker AI XGBoost 알고리즘의 작동 방식](xgboost-HowItWorks.md) 섹션을 참조하세요. LightGBM 방법에 사용되는 추가 GOSS 및 EFB 기술에 대한 자세한 내용은 [LightGBM: 매우 효율적인 그라디언트 부스팅 의사 결정 트리](https://proceedings.neurips.cc/paper/2017/file/6449f44a102fde848669bdd9eb6b76fa-Paper.pdf)를 참조하세요.**
# 라이트GBM 하이퍼파라미터
다음 표에는 Amazon SageMaker AI LightGBM 알고리즘에 필요하거나 가장 일반적으로 사용되는 하이퍼파라미터 하위 세트가 포함되어 있습니다. 이들은 사용자가 데이터를 통해 모델 파라미터를 쉽게 예측하기 위해 설정하는 파라미터입니다. SageMaker AI LightGBM 알고리즘은 [LightGBM](https://github.com/microsoft/LightGBM) 패키지의 오픈 소스 구현입니다.
**참고**
기본 하이퍼파라미터는 [LightGBM 샘플 노트북](lightgbm.md#lightgbm-sample-notebooks)의 예제 데이터세트를 기준으로 정해집니다.
기본적으로 SageMaker AI LightGBM 알고리즘은 분류 문제 유형에 따라 평가 지표와 목적 함수를 자동으로 선택합니다. LightGBM 알고리즘은 데이터의 레이블 수를 기반으로 분류 문제 유형을 탐지합니다. 회귀 문제의 경우 평가 지표는 평균 제곱근 오차이고 목적 함수는 L2 손실입니다. 바이너리 분류 문제의 경우 평가 지표와 목적 함수는 모두 바이너리 교차 엔트로피입니다. 다중 클래스 분류 문제의 경우 평가 지표는 다중 클래스 교차 엔트로피이고 목적 함수는 소프트맥스입니다. `metric` 하이퍼파라미터를 사용하여 기본 평가 지표를 변경할 수 있습니다. 설명, 유효한 값, 기본값을 포함하여 LightGBM 하이퍼파라미터에 대한 자세한 내용은 다음 표를 참조하세요.
| 파라미터 이름 | 설명 |
| --- | --- |
| num\$1boost\$1round | 최대 부스팅 반복 횟수. **참고:** 내부적으로 LightGBM은 다중 클래스 분류 문제에 대한 `num_class * num_boost_round` 트리를 생성합니다. 유효 값: 정수, 범위: 양의 정수. 기본값: `100`. |
| early\$1stopping\$1rounds | 마지막 `early_stopping_rounds` 라운드에서 한 검증 데이터 요소 중 하나의 지표가 개선되지 않으면 훈련이 중지됩니다. `early_stopping_rounds`가 0보다 작거나 같으면 이 하이퍼파라미터는 무시됩니다. 유효한 값: 정수. 기본값: `10`. |
| metric | 검증 데이터에 대한 평가 지표. `metric`을 디폴트 `"auto"` 값으로 설정하면 알고리즘이 분류 문제의 유형에 따라 평가 지표를 자동으로 선택합니다. [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/ko_kr/sagemaker/latest/dg/lightgbm-hyperparameters.html) 유효한 값: 문자열, 다음 중 하나: (`"auto"`, `"rmse"`, `"l1"`, `"l2"`, `"huber"`, `"fair"`, `"binary_logloss"`, `"binary_error"`, `"auc"`, `"average_precision"`, `"multi_logloss"`, `"multi_error"`, `"auc_mu"` 또는 `"cross_entropy"`). 기본값: `"auto"`. |
| learning\$1rate | 각 훈련 예제 배치를 살펴본 후 모델 가중치가 업데이트되는 비율입니다. 유효한 값: 부동 소수점, 범위: (`0.0`, `1.0`). 기본값: `0.1`. |
| num\$1leaves | 한 나무의 최대 잎 수입니다. 유효한 값: 정수, 범위: (`1`, `131072`). 기본값: `64`. |
| feature\$1fraction | 각 반복(트리)에서 선택할 기능의 하위 집합. 1.0 미만이어야 합니다. 유효한 값: 부동 소수점, 범위: (`0.0`, `1.0`). 기본값: `0.9`. |
| bagging\$1fraction | `feature_fraction`과 유사한 기능의 하위 집합이지만 `bagging_fraction`은 리샘플링 없이 데이터의 일부를 무작위로 선택합니다. 유효한 값: 부동 소수점, 범위: (`0.0`, `1.0`]. 기본값: `0.9`. |
| bagging\$1freq | 배깅을 수행하는 빈도. LightGBM은 `bagging_freq` 반복 때마다 다음 `bagging_freq` 반복에 사용할 데이터의 백분율을 무작위로 선택합니다. 이 비율은 `bagging_fraction` 하이퍼파라미터에 의해 결정됩니다. `bagging_freq`이 0이면 배깅이 비활성화됩니다. 유효한 값: 정수, 범위: 음수가 아닌 정수. 기본값: `1`. |
| max\$1depth | 나무 모델의 최대 깊이입니다. 이는 데이터 양이 적을 때 오버피팅을 처리하는 데 사용됩니다. `max_depth`가 0보다 작거나 같으면 최대 깊이에 제한이 없습니다. 유효한 값: 정수. 기본값: `6`. |
| min\$1data\$1in\$1leaf | 한 리프에 있는 최소 데이터 양. 오버피팅을 처리하는 데 사용할 수 있습니다. 유효한 값: 정수, 범위: 음수가 아닌 정수. 기본값: `3`. |
| max\$1delta\$1step | 나무 잎의 최대 생산량을 제한하는 데 사용됩니다. `max_delta_step`이 0보다 작거나 같으면 제약 조건이 없습니다. 나뭇잎의 최종 최대 출력은 `learning_rate * max_delta_step`입니다. 유효한 값: 부동 소수점. 기본값: `0.0`. |
| lambda\$1l1 | L1 정규화. 유효한 값: 부동 소수점, 범위: 음수가 아닌 부동 소수점. 기본값: `0.0`. |
| lambda\$1l2 | L2 정규화. 유효한 값: 부동 소수점, 범위: 음수가 아닌 부동 소수점. 기본값: `0.0`. |
| boosting | 부스팅 타입 유효한 값: 문자열, 다음 중 하나: (`"gbdt"`, `"rf"`, `"dart"` 또는 `"goss"`). 기본값: `"gbdt"`. |
| min\$1gain\$1to\$1split | 스플릿을 수행하는 데 필요한 최소 게인. 훈련 속도를 높이는 데 사용할 수 있습니다. 유효한 값: 정수, 부동 소수점: 음수가 아닌 부동 소수점. 기본값: `0.0`. |
| scale\$1pos\$1weight | 포지티브 클래스가 있는 레이블의 가중치. 바이너리 분류 작업에만 사용됩니다. `is_unbalance`가 `"True"`로 설정된 경우 `scale_pos_weight`를 사용할 수 없습니다. 유효한 값: 부동 소수점, 범위: 양의 부동 소수점. 기본값: `1.0`. |
| tree\$1learner | 트리 훈련자 유형. 유효한 값: 문자열, 다음 중 하나: (`"serial"`, `"feature"`, `"data"` 또는 `"voting"`). 기본값: `"serial"`. |
| feature\$1fraction\$1bynode | 각 트리 노드에서 무작위 기능의 하위 집합을 선택합니다. 예를 들어 `feature_fraction_bynode`가 `0.8`인 경우 기능의 80% 가 선택됩니다. 오버피팅을 처리하는 데 사용할 수 있습니다. 유효한 값: 정수, 범위: (`0.0`, `1.0`]. 기본값: `1.0`. |
| is\$1unbalance | 훈련 데이터가 불균형한 경우 `"True"`로 설정합니다. 바이너리 분류 작업에만 사용됩니다. `is_unbalance`를 `scale_pos_weight`와 함께 사용할 수 없습니다. 유효한 값: 문자열, 다음 중 하나: (`"True"` 또는 `"False"`). 기본값: `"False"`. |
| max\$1bin | 기능 값을 버킷화하는 데 사용되는 최대 빈 수입니다. 빈 수가 적으면 훈련 정확도가 떨어질 수 있지만 전반적인 성능은 향상될 수 있습니다. 오버피팅을 처리하는 데 사용할 수 있습니다. 유효한 값: 정수, 범위: (1, ∞) 기본값: `255`. |
| tweedie\$1variance\$1power | Tweedie 분포의 분산을 제어합니다. 감마 분포로 전환하려면 이 값을 `2.0`에 더 가깝게 설정하세요 푸아송 분포로 전환하려면 이 값을 `1.0`에 더 가깝게 설정하세요 회귀 작업에만 사용됩니다. 유효한 값: 부동 소수점, 범위: [`1.0`, `2.0`). 기본값: `1.5`. |
| num\$1threads | LightGBM 실행에 사용되는 병렬 스레드의 수. 값 0은 OpenMP의 기본 스레드 수를 의미합니다. 유효한 값: 정수, 범위: 음수가 아닌 정수. 기본값: `0`. |
| verbosity | 인쇄 메시지의 장황함. `verbosity`가 `0`보다 작으면 인쇄 메시지에는 치명적 오류만 표시됩니다. `verbosity`를 `0`으로 설정하면 인쇄 메시지에 오류 및 경고가 포함됩니다. `verbosity`가 `1`로 설정된 경우 인쇄 메시지에 추가 정보가 표시됩니다. `1`보다 큰 `verbosity`는 인쇄 메시지에서 가장 많은 정보를 나타내며 디버깅에 사용할 수 있습니다. 유효한 값: 정수. 기본값: `1`. |
# LightGBM 모델을 튜닝하세요.
자동 모델 튜닝은 하이퍼파라미터 튜닝이라고도 하며, 훈련 데이터세트 및 검증 데이터세트에 대한 다양한 하이퍼파라미터를 테스트하는 여러 작업을 실행하여 최적의 모델 버전을 찾는 기능입니다.** 모델 튜닝은 다음과 같은 하이퍼파라미터에 초점을 맞춥니다.
**참고**
훈련 목표 함수는 레이블 열의 고유 정수 수에 따라 결정되는 분류 작업 유형에 따라 자동으로 할당됩니다. 자세한 내용은 [라이트GBM 하이퍼파라미터](lightgbm-hyperparameters.md) 섹션을 참조하세요.
+ 모델 훈련 중에 최적화하기 위한 학습 목표 함수
+ 검증 중에 모델 성능을 평가하는 데 사용되는 평가 지표
+ 모델을 자동으로 튜닝할 때 사용하기 쉬운 하이퍼파라미터 세트와 일정한 범위의 값
자동 모델 튜닝은 지정된 하이퍼파라미터를 검색하여 선택한 평가 지표를 최적화하는 모델을 만드는 값 조합을 찾습니다.
**참고**
LightGBM의 자동 모델 튜닝은 SageMaker AI 콘솔이 아닌 Amazon SageMaker SDK에서만 사용할 수 있습니다.
모델 튜닝에 대한 추가 정보는 [SageMaker AI로 자동 모델 튜닝](automatic-model-tuning.md) 섹션을 참조하세요.
## LightGBM 알고리즘으로 계산되는 평가 지표
SageMaker AI LightGBM 알고리즘은 모델 검증에 사용할 다음 지표를 계산합니다. 평가 지표는 분류 작업 유형(레이블 열에 표시된 고유 정수의 개수로 결정됨)에 따라 자동으로 할당됩니다.
| 지표 이름 | 설명 | 최적화 방향 | 정규식 패턴 |
| --- | --- | --- | --- |
| rmse | 평균 제곱근 오차 | 최소화 | "rmse: ([0-9\$1\$1.]\$1)" |
| l1 | 평균 절대 오차 | 최소화 | "l1: ([0-9\$1\$1.]\$1)" |
| l2 | 평균 제곱 오차 | 최소화 | "l2: ([0-9\$1\$1.]\$1)" |
| huber | Huber 손실 | 최소화 | "huber: ([0-9\$1\$1.]\$1)" |
| fair | 공정 손실 | 최소화 | "fair: ([0-9\$1\$1.]\$1)" |
| binary\$1logloss | 바이너리 크로스 엔트로피 | 최대화 | "binary\$1logloss: ([0-9\$1\$1.]\$1)" |
| binary\$1error | 바이너리 오류 | 최소화 | "binary\$1error: ([0-9\$1\$1.]\$1)" |
| auc | AUC | 최대화 | "auc: ([0-9\$1\$1.]\$1)" |
| average\$1precision | 평균 정밀도 점수 | 최대화 | "average\$1precision: ([0-9\$1\$1.]\$1)" |
| multi\$1logloss | 멀티클래스 교차 엔트로피 | 최대화 | "multi\$1logloss: ([0-9\$1\$1.]\$1)" |
| multi\$1error | 다중 클래스 오류 점수 | 최소화 | "multi\$1error: ([0-9\$1\$1.]\$1)" |
| auc\$1mu | AUC-MU | 최대화 | "auc\$1mu: ([0-9\$1\$1.]\$1)" |
| cross\$1entropy | 교차 엔트로피 | 최소화 | "cross\$1entropy: ([0-9\$1\$1.]\$1)" |
## 튜닝 가능한 LightGBM 하이퍼파라미터
다음 하이퍼파라미터를 사용하여 LightGBM 모델을 튜닝합니다. LightGBM 평가 지표를 최적화하는데 가장 큰 영향을 미치는 하이퍼파라미터는 `learning_rate`, `num_leaves`, `feature_fraction`, `bagging_fraction`, `bagging_freq`, `max_depth`, `min_data_in_leaf`입니다. 모든 LightGbm 하이퍼파라미터 목록은 [라이트GBM 하이퍼파라미터](lightgbm-hyperparameters.md) 섹션을 참조하세요.
| 파라미터 이름 | 파라미터 유형 | 권장 범위 |
| --- | --- | --- |
| learning\$1rate | ContinuousParameterRanges | MinValue: 0.001, MaxValue: 0.01 |
| num\$1leaves | IntegerParameterRanges | MinValue: 10, MaxValue: 100 |
| feature\$1fraction | ContinuousParameterRanges | MinValue: 0.1, MaxValue: 1.0 |
| bagging\$1fraction | ContinuousParameterRanges | MinValue: 0.1, MaxValue: 1.0 |
| bagging\$1freq | IntegerParameterRanges | MinValue: 0, MaxValue: 10 |
| max\$1depth | IntegerParameterRanges | MinValue: 15, MaxValue: 100 |
| min\$1data\$1in\$1leaf | IntegerParameterRanges | MinValue: 10, MaxValue: 200 |
# 선형 학습자 알고리즘
선형 모델은 분류 또는 회귀 문제를 해결하는 데 사용되는 지도 학습 알고리즘입니다.** 입력을 위해 라벨링된 모델 예제를 제공합니다(*x*, *y*). *x* 는 고차원 벡터이고, *y*는 숫자 레이블입니다. 바이너리 분류 문제의 경우 레이블이 0 또는 1이어야 합니다. 멀티클래스 분류 문제의 경우 레이블이 0 또는 `num_classes` - 1이어야 합니다. 회귀 문제의 경우 *y*는 실수입니다. 이 알고리즘은 선형 함수 또는 선형 임계 함수(분류 문제의 경우)를 학습하여 벡터 *x*를 레이블 *y*의 근사치로 매핑합니다.
Amazon SageMaker AI 선형 학습자 알고리즘은 분류 및 회귀 문제에 대한 솔루션을 제공합니다. SageMaker AI 알고리즘을 사용하면 다양한 훈련 목표를 동시에 탐색할 수 있고 검증 세트에서 최적의 솔루션을 선택할 수 있습니다. 또한 많은 수의 모델을 탐색하여 최적의 모델을 선택할 수 있습니다. 최적의 모델은 다음 중 하나를 최적화합니다.
+ 지속적 목표(예: 평균 제곱근 오차, 교차 엔트로피 손실, 절대 오차).
+ 분류에 맞는 별도 목표(예: F1 측정, 정밀도, 재현율 또는 정확도)
지속적인 목표에 대한 솔루션만을 제공하는 방법과 비교했을 때 SageMaker AI 선형 학습자 알고리즘은 단순한 하이퍼파라미터 최적화 기법에 비해 속도를 크게 높입니다. 뿐만 아니라 훨씬 더 편리합니다.
Linear Learner 알고리즘은 데이터 매트릭스를 예상합니다. 매트릭스에서 행은 관측치를 나타내고 열은 특징의 차원을 나타냅니다. 또한 데이터 지점과 일치하는 레이블을 포함하는 추가 열을 필요로 합니다. 최소한 Amazon SageMaker AI 선형 학습자의 경우 입력 및 출력 데이터 위치와 목표 유형(분류 또는 회귀)을 인수로 지정해야 합니다. 특징 차원 또한 필요합니다. 자세한 내용은 [https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_CreateTrainingJob.html](https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_CreateTrainingJob.html) 섹션을 참조하세요. 요청 본문의 `HyperParameters` 문자열 맵에서 추가 파라미터를 지정할 수 있습니다. 이러한 파라미터는 최적화 절차를 제어하거나 훈련시킬 목표 함수를 지정합니다. epoch의 수, 정규화 및 손실 유형이 그 예입니다.
[관리형 스팟 훈련](https://docs.aws.amazon.com/sagemaker/latest/dg/model-managed-spot-training.html)을 사용하는 경우 선형 학습자 알고리즘은 [모델 상태의 스냅샷을 찍을 수 있는 체크포인트](https://docs.aws.amazon.com/sagemaker/latest/dg/model-checkpoints.html) 사용을 지원합니다.
**Topics**
+ [선형 학습자 알고리즘에 대한 입력/출력 인터페이스](#ll-input_output)
+ [선형 학습자 알고리즘에 대한 EC2 인스턴스 권장 사항](#ll-instances)
+ [선형 학습자 샘플 노트북](#ll-sample-notebooks)
+ [선형 학습자 작동 방식](ll_how-it-works.md)
+ [선형 학습자 하이퍼파라미터](ll_hyperparameters.md)
+ [선형 학습자 모델 튜닝](linear-learner-tuning.md)
+ [선형 학습자 응답 형식](LL-in-formats.md)
## 선형 학습자 알고리즘에 대한 입력/출력 인터페이스
Amazon SageMaker AI 선형 학습자 알고리즘은 훈련, 검증(선택 사항) 및 테스트(선택 사항)라는 3가지 데이터 채널을 지원합니다. 검증 데이터를 제공하는 경우 `S3DataDistributionType`은 `FullyReplicated`여야 합니다. 이 알고리즘은 epoch마다 검증 손실을 로깅하고, 검증 데이터의 샘플을 사용해 최적의 모델을 보정 및 선택합니다. 검증 데이터를 제공하지 않는 경우 이 알고리즘은 훈련 데이터 샘플을 사용하여 모델을 보정 및 선택합니다. 테스트 데이터가 제공된 경우 알고리즘 로그에는 최종 모델에 대한 테스트 점수가 포함됩니다.
**훈련의 경우** 선형 학습자 알고리즘은 `recordIO-wrapped protobuf` 및 `CSV` 형식을 지원합니다. `application/x-recordio-protobuf` 입력 유형의 경우 Float32 텐서만 지원됩니다. `text/csv` 입력 유형의 경우 첫 번째 열은 레이블(예측에 대한 대상 변수)로 간주됩니다. 파일 모드 또는 파이프 모드를 사용하여 `recordIO-wrapped-protobuf` 또는 `CSV`로 형식이 지정된 데이터에 대해 선형 학습자 모델을 훈련할 수 있습니다.
**추론의 경우** 선형 학습자 알고리즘은 `application/json`, `application/x-recordio-protobuf`, 및 `text/csv` 형식을 지원합니다. 새로운 데이터에 대해 예측할 경우 응답 형식은 모델 유형에 따라 달라집니다. **회귀의 경우** (`predictor_type='regressor'`) `score`는 모델에 의해 생성된 예측입니다. **분류의 경우** (`predictor_type='binary_classifier'` 또는 `predictor_type='multiclass_classifier'`) 모델은 `score`를 반환하고 `predicted_label`도 반환합니다. `predicted_label`은 모델이 예측한 클래스이고, `score`는 해당 예측의 강도를 측정합니다.
+ **바이너리 분류의 경우** `predicted_label`은 `0`이나 `1` 및 `score`이며 레이블이 1이어야 한다고 알고리즘에서 간주하는 정도를 나타내는 단일 부동 소수점 숫자입니다.
+ **멀티클래스 분류의 경우** `predicted_class`는 `0`\$1`num_classes-1` 사이의 정수이고, `score`는 클래스당 단일 부동 소수점 숫자의 목록입니다.
분류 문제에서 `score`를 해석하려면 사용된 손실 함수를 고려해야 합니다. `loss` 하이퍼파라미터 값이 `logistic`(바이너리 분류) 또는 `softmax_loss` 멀티클래스 분류인 경우 `score`는 해당 클래스의 확률로 해석할 수 있습니다. 이들은 `loss` 값이 `auto` 기본값일 때 선형 학습자가 사용하는 손실 값입니다. 하지만 손실이 `hinge_loss`로 설정된 경우 점수를 확률로 해석할 수 없습니다. 이는 Hinge 손실이 확률 추정치를 생산하지 않는 Support Vector 분류자에 해당하기 때문입니다.
입력 및 출력 파일 형식에 대한 자세한 내용은 [선형 학습자 응답 형식](LL-in-formats.md) 섹션을 참조하세요. 추론 형식에 대한 자세한 내용은 [선형 학습자 샘플 노트북](#ll-sample-notebooks) 섹션을 참조하세요.
## 선형 학습자 알고리즘에 대한 EC2 인스턴스 권장 사항
선형 학습자 알고리즘은 훈련 및 추론을 위해 CPU 및 GPU 인스턴스를 모두 지원합니다. GPU의 경우 선형 학습자 알고리즘은 P2, P3, G4dn 및 G5 GPU 패밀리를 지원합니다.
테스트 과정에서 다중 GPU 인스턴스가 단일 GPU 인스턴스에 비해 빠르다는 확실한 증거는 발견되지 않았습니다. 결과는 특정 사용 사례에 따라 다를 수 있습니다.
## 선형 학습자 샘플 노트북
다음 테이블에는 Amazon SageMaker AI 선형 학습자 알고리즘의 다양한 사용 사례를 다루는 다양한 샘플 노트북이 요약되어 있습니다.
| **노트북 제목** | **설명** |
| --- | --- |
| [MNIST 데이터 세트 소개](https://sagemaker-examples.readthedocs.io/en/latest/introduction_to_amazon_algorithms/linear_learner_mnist/linear_learner_mnist.html) | MNIST 데이터 세트를 사용하여 한 자릿수를 예측하도록 바이너리 분류자를 훈련시킵니다. |
| [멀티클래스 분류자를 구축하는 방법은 무엇입니까?](https://sagemaker-examples.readthedocs.io/en/latest/scientific_details_of_algorithms/linear_learner_multiclass_classification/linear_learner_multiclass_classification.html) | UCI의 Covertype 데이터 세트를 사용하여 멀티클래스 분류자를 훈련하는 방법을 보여줍니다. |
| [추론을 위한 기계 학습(ML) 파이프라인을 구축하는 방법은 무엇입니까?](https://sagemaker-examples.readthedocs.io/en/latest/sagemaker-python-sdk/scikit_learn_inference_pipeline/Inference%20Pipeline%20with%20Scikit-learn%20and%20Linear%20Learner.html) | Scikit-Learn 컨테이너를 사용하여 엔드-투-엔드 ML 파이프라인을 구축하는 방법을 보여줍니다. |
SageMaker AI에서 예시 실행에 사용할 수 있는 Jupyter Notebook 인스턴스를 만들고 액세스하는 방법은 [Amazon SageMaker 노트북 인스턴스](nbi.md) 섹션을 참조하세요. 노트북 인스턴스를 만든 후 열고 **SageMaker AI 예시** 탭을 선택하여 모든 SageMaker AI 샘플 목록을 확인하세요. 선형 학습 알고리즘을 사용하는 주제 모델링 예제 노트북은 **Amazon 알고리즘 소개** 섹션에 있습니다. 노트북을 열려면 **사용** 탭을 선택한 후 **사본 생성**을 선택합니다.
# 선형 학습자 작동 방식
선형 학습자 알고리즘의 구현에는 사전 처리, 훈련 및 검증의 세 단계가 포함됩니다.
## 1단계: 사전 처리
정규화 또는 특징 확장은 특정 손실 함수의 중요한 사전 처리 단계이며 데이터 세트에서 학습되는 모델이 단일 특징의 가중치에 따라 관리되지 않게 합니다. Amazon SageMaker AI Linear Learner 알고리즘에는 이 사전 처리 단계를 지원하는 정규화 옵션이 있습니다. 정규화를 사용 중인 경우 알고리즘은 먼저 데이터의 작은 샘플을 검토하여 각 특징 및 레이블의 평균 값과 표준 편차를 학습합니다. 전체 데이터 세트의 각 특징은 0의 평균 값을 갖도록 이동하며 단위 표준 편차를 갖도록 크기가 조정됩니다.
**참고**
최상의 결과를 얻으려면 훈련 전에 데이터가 섞여 있는지 확인하세요. 섞여 있지 않은 데이터로 훈련하면 실패할 수 있습니다.
Linear Learner 알고리즘이 `normalize_data` 및 `normalize_label` 하이퍼파라미터를 각각 사용하여 특징 데이터 및 레이블을 정규화하는지 여부를 구성할 수 있습니다. 정규화는 특징 및 회귀 레이블에 대해 기본적으로 활성화됩니다. 바이너리 분류에서는 특징만 정규화할 수 있으며 이것이 기본 동작입니다.
## 2단계: 훈련
Linear Learner 알고리즘을 사용하면 확률 그라디언트 하강(SGD)의 분산 구현을 통해 훈련합니다. 최적화 알고리즘을 선택하여 최적화 프로세스를 제어할 수 있습니다. 예를 들어, Adam, AdaGrad, 확률 그라디언트 하강 또는 기타 최적화 알고리즘을 사용하도록 선택할 수 있습니다. 또한 모멘텀, 학습률 및 학습률 일정 등과 같은 하이퍼파라미터를 지정할 수도 있습니다. 어떤 알고리즘 또는 하이퍼파라미터 값을 사용할지 잘 모르는 경우 대부분 데이터 세트에 작동하는 기본값을 선택합니다.
훈련 중 각 목표가 조금씩 다른 여러 모델을 동시에 최적화합니다. 예를 들어 L1 또는 L2 정규화를 다르게 한 다음 각기 다른 옵티마이저 설정을 시도합니다.
## 3단계: 검증 및 임곗값 설정
여러 모델을 병렬로 훈련할 때, 훈련이 완료되면 검증 세트에 대해 모델을 평가하여 가장 적합한 모델을 선택합니다. 회귀의 경우 가장 적합한 모델은 검증 세트에서 가장 큰 손실을 얻는 모델입니다. 분류의 경우 검증 세트의 샘플은 분류 임계값을 교정하는 데 사용됩니다. 가장 적합한 모델은 검증 세트에서 가장 높은 바이너리 분류 선택 기준을 충족하는 모델입니다. 이러한 기준의 예에는 F1 측정, 정확도 및 교차 엔트로피 손실이 있습니다.
**참고**
알고리즘에 검증 세트가 제공되지 않으면 가장 적합한 모델을 평가 및 선택할 수 없습니다. 병렬 훈련 및 모델 선택을 활용하려면 알고리즘에 검증 세트를 제공하세요.
# 선형 학습자 하이퍼파라미터
다음 표에는 선형 학습자 알고리즘에 대한 하이퍼파라미터가 나와 있습니다. 이들은 사용자가 데이터로부터 모델 파라미터의 예측을 촉진하기 위해 설정하는 파라미터입니다. 먼저 반드시 설정해야 하는 필수 하이퍼파라미터가 알파벳 순으로 나열되어 있습니다. 그 다음에 설정할 수 있는 선택적 하이퍼파라미터가 알파벳 순으로 나열되어 있습니다. 하이퍼파라미터를 `auto`로 설정하면 Amazon SageMaker AI에서 자동으로 해당 하이퍼파라미터의 값을 계산하고 설정합니다.
| 파라미터 이름 | 설명 |
| --- | --- |
| num\$1classes | 응답 변수의 클래스 수. 이 알고리즘에서는 클래스에 `0`, ..., `num_classes - 1` 레이블이 지정되어 있다고 가정합니다. `predictor_type`이 `multiclass_classifier`인 경우 **필요함**. 그렇지 않으면 알고리즘에서 무시됩니다. 유효한 값: 정수(3\$11,000,000) |
| predictor\$1type | 대상 변수 유형을 바이너리 분류, 멀티클래스 분류 또는 회귀로 지정합니다. **필수** 유효값: `binary_classifier`, `multiclass_classifier` 또는 `regressor` |
| accuracy\$1top\$1k | 멀티클래스 분류의 top-k 정확도 지표를 계산하는 경우 *k*의 값. 모델이 실제 레이블에 top-k 점수 중 하나를 할당하면 예제의 점수가 정답으로 매겨집니다. **선택 사항** 유효한 값: 양수 기본값: 3 |
| balance\$1multiclass\$1weights | 손실 함수에서 각 클래스에 동일한 중요도를 제공하는 클래스 가중치를 사용할지 여부를 지정합니다. `predictor_type`이 `multiclass_classifier`인 경우에만 사용합니다. **선택 사항** 유효값: `true`, `false` 기본값: `false` |
| beta\$11 | 1차 추정치에 대한 지수 감소율. `optimizer` 값이 `adam`일 경우에만 해당됩니다. **선택 사항** 유효한 값: `auto` 또는 0부터 1.0 사이의 부동 소수점 기본값: `auto` |
| beta\$12 | 2차 추정치에 대한 지수 감소율. `optimizer` 값이 `adam`일 경우에만 해당됩니다. **선택 사항** 유효한 값: `auto` 또는 0부터 1.0 사이의 부동 소수점 정수 기본값: `auto` |
| bias\$1lr\$1mult | 편향항에 대한 다른 학습률을 허용. 편이에 대한 실제 학습률은 `learning_rate` \$1 `bias_lr_mult`입니다. **선택 사항** 유효한 값: `auto` 또는 양의 부동 소수점 정수 기본값: `auto` |
| bias\$1wd\$1mult | 편향항에 대한 다른 정규화 허용. 편이에 대한 실제 L2 정규화 가중치는 `wd` \$1 `bias_wd_mult`입니다. 기본적으로 편향항에 대한 정규화는 없습니다. **선택 사항** 유효한 값: `auto` 또는 음수가 아닌 부동 소수점 정수 기본값: `auto` |
| binary\$1classifier\$1model\$1selection\$1criteria | `predictor_type`이 `binary_classifier`로 설정된 경우 검증 데이터 세트에 대한 모델 평가 기준. 검증 데이터 세트를 제공하지 않은 경우에는 훈련 데이터 세트에 대한 모델 평가 기준입니다. 기준은 다음과 같습니다. [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/ko_kr/sagemaker/latest/dg/ll_hyperparameters.html) **선택 사항** 유효한 값: `accuracy`, `f_beta`, `precision_at_target_recall`, `recall_at_target_precision` 또는 `loss_function` 기본값: `accuracy` |
| early\$1stopping\$1patience | 관련 지표에서 개선 사항이 없는 경우 훈련 완료 전 epoch 수. binary\$1classifier\$1model\$1selection\$1criteria에 값을 제공한 경우 지표는 해당 값입니다. 그렇지 않으면 지표는 loss 하이퍼파라미터에 대해 지정된 값과 동일합니다.지표는 검증 데이터에 따라 검증됩니다. 검증 데이터를 제공하지 않은 경우 지표는 항상 `loss` 파라미터에 지정된 값과 동일하고 훈련 데이터에 대해 평가됩니다. 조기 중지를 비활성화하려면 `early_stopping_patience`를 `epochs`에 대해 지정된 값보다 높은 값으로 설정하세요.**선택 사항**유효한 값: 양수기본값: 3 |
| early\$1stopping\$1tolerance | 손실의 개선을 측정하는 상대 공차. 이전 최적 손실로 나눈 손실의 개선율이 이 값보다 작은 경우 조기 중지 시 개선이 0인 것으로 간주합니다. **선택 사항** 유효한 값: 양의 부동 소수점 정수 기본값: 0.001 |
| epochs | 훈련 데이터의 최대 전달 횟수. **선택 사항** 유효한 값: 양수 기본 값: 15 |
| f\$1beta | 바이너리 또는 멀티클래스 분류에 대한 F 점수 지표를 계산하는 경우 사용할 베타 값. `binary_classifier_model_selection_criteria`에 대해 지정된 값이 `f_beta`인 경우에도 사용됩니다. **선택 사항** 유효한 값: 양의 부동 소수점 정수 기본값: 1.0 |
| feature\$1dim | 입력 데이터의 특징 수. **선택 사항** 유효한 값: `auto` 또는 양의 정수 기본값: `auto` |
| huber\$1delta | Huber 손실에 대한 파라미터. 훈련 및 지표 검증 도중 델타보다 작은 오차에 대해서는 컴퓨팅 L2 손실, 델타보다 큰 오차에 대해서는 L1 손실. **선택 사항** 유효한 값: 양의 부동 소수점 정수 기본값: 1.0 |
| init\$1bias | 편향항에 대한 초기 가중치. **선택 사항** 유효한 값: 부동 소수점 정수 기본값: 0 |
| init\$1method | 모델 가중치에 사용되는 초기 분포 함수를 설정합니다. 함수는 다음과 같습니다. [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/ko_kr/sagemaker/latest/dg/ll_hyperparameters.html) **선택 사항** 유효한 값: `uniform` 또는 `normal` 기본값: `uniform` |
| init\$1scale | 모델 가중치에 대한 최초 균등 분포를 조정합니다. `init_method` 하이퍼파라미터가 `uniform`으로 설정된 경우에만 적용됩니다. **선택 사항** 유효한 값: 양의 부동 소수점 정수 기본값: 0.07 |
| init\$1sigma | 정규 분포에 대한 초기화 표준편차. `init_method` 하이퍼파라미터가 `normal`으로 설정된 경우에만 적용됩니다. **선택 사항** 유효한 값: 양의 부동 소수점 정수 기본 값: 0.01 |
| l1 | L1 정규화 파라미터. L1 정규화를 사용하지 않으려면 이 값을 0으로 설정합니다. **선택 사항** 유효한 값: `auto` 또는 음수가 아닌 부동 소수점 기본값: `auto` |
| learning\$1rate | 파라미터 업데이트를 위해 옵티마이저에서 사용하는 단계 크기. **선택 사항** 유효한 값: `auto` 또는 양의 부동 소수점 정수 기본값: `auto`, 이 값은 선택한 옵티마이저에 따라 달라집니다. |
| loss | 손실 함수를 지정합니다. 사용 가능한 손실 함수와 그 기본값은 `predictor_type`의 값에 따라 달라집니다. [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/ko_kr/sagemaker/latest/dg/ll_hyperparameters.html) 유효한 값: `auto`, `logistic`, `squared_loss`, `absolute_loss`, `hinge_loss`, `eps_insensitive_squared_loss`, `eps_insensitive_absolute_loss`, `quantile_loss` 또는 `huber_loss` **선택 사항** 기본값: `auto` |
| loss\$1insensitivity | 엡실론의 영향을 받지 않는 손실 유형에 대한 파라미터. 훈련 및 지표 검증 도중 이 값보다 작은 모든 오차는 0으로 간주됩니다. **선택 사항** 유효한 값: 양의 부동 소수점 정수 기본 값: 0.01 |
| lr\$1scheduler\$1factor | 매 `lr_scheduler_step` 하이퍼파라미터마다 학습률은 이 수치만큼 감소합니다. `use_lr_scheduler` 하이퍼파라미터가 `true`으로 설정된 경우에만 적용됩니다. **선택 사항** 유효한 값: `auto` 또는 0부터 1 사이의 양의 부동 소수점 정수 기본값: `auto` |
| lr\$1scheduler\$1minimum\$1lr | 학습률은 `lr_scheduler_minimum_lr`에 대해 설정된 값 미만으로 절대 감소하지 않습니다. `use_lr_scheduler` 하이퍼파라미터가 `true`으로 설정된 경우에만 적용됩니다. **선택 사항** 유효한 값: `auto` 또는 양의 부동 소수점 정수 기본값: `auto` |
| lr\$1scheduler\$1step | 학습률 감소 사이의 단계 수. `use_lr_scheduler` 하이퍼파라미터가 `true`으로 설정된 경우에만 적용됩니다. **선택 사항** 유효한 값: `auto` 또는 양의 정수 기본값: `auto` |
| margin | `hinge_loss` 함수의 마진. **선택 사항** 유효한 값: 양의 부동 소수점 정수 기본값: 1.0 |
| mini\$1batch\$1size | 데이터 반복자의 미니 배치당 관측치의 수. **선택 사항** 유효한 값: 양수 기본값: 1000 |
| momentum | `sgd` 옵티마이저의 모멘텀. **선택 사항** 유효한 값: `auto` 또는 0부터 1.0 사이의 부동 소수점 정수 기본값: `auto` |
| normalize\$1data | 훈련 전에 특징 데이터를 정규화합니다. 데이터 정규화는 각 특징에 대해 평균 값 0을 갖도록 이동하고 단위 표준편차를 갖도록 조정합니다. **선택 사항** 유효값: `auto`, `true` 또는 `false` 기본값: `true` |
| normalize\$1label | 레이블을 정규화합니다. 레이블 정규화는 평균 값 0을 갖도록 레이블을 이동하고 단위 표준편차를 갖도록 조정합니다. `auto` 기본값은 회귀 문제에서 레이블을 정규화하지만 분류 문제에서는 정규화하지 않습니다. 분류 문제의 경우 `normalize_label` 하이퍼파라미터를 `true`로 설정하면 알고리즘에서 무시됩니다. **선택 사항** 유효값: `auto`, `true` 또는 `false` 기본값: `auto` |
| num\$1calibration\$1samples | (최적의 임계값을 찾은 경우) 모델 보정에 사용할 검증 데이터 세트의 관측치 수. **선택 사항** 유효한 값: `auto` 또는 양의 정수 기본값: `auto` |
| num\$1models | 병렬로 훈련할 모델 수. 기본값 `auto`의 경우 알고리즘이 훈련할 병렬 모델의 수를 결정합니다. 주어진 훈련 파라미터(정규화, 옵티마이저, 손실)에 따라 한 모델이 훈련되고, 나머지는 근접 파라미터에 따라 훈련됩니다. **선택 사항** 유효한 값: `auto` 또는 양의 정수 기본값: `auto` |
| num\$1point\$1for\$1scaler | 정규화 또는 비편향항 계산에 사용할 데이터 포인트의 수. **선택 사항** 유효한 값: 양수 기본값: 10,000 |
| optimizer | 사용할 최적화 알고리즘. **선택 사항** 유효한 값: [\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/ko_kr/sagemaker/latest/dg/ll_hyperparameters.html) 기본값: `auto`. `auto`의 기본 설정은 `adam`입니다. |
| positive\$1example\$1weight\$1mult | 바이너리 분류자 훈련 시 양수 예제에 할당된 가중치. 음수 예제 가중치는 1로 고정됩니다. 이 알고리즘에서 음수 대 양수 예제 분류의 오차가 훈련 손실에 동일한 영향을 미치도록 가중치를 선택하려는 경우 `balanced`를 지정합니다.** 이 알고리즘이 성능을 최적화하는 가중치를 선택하도록 하려는 경우 `auto`를 지정합니다. **선택 사항** 유효한 값: `balanced`, `auto` 또는 양의 부동 소수점 정수 기본값: 1.0 |
| quantile | 분위 손실에 대한 분위. 분위 q의 경우 이 모델은 `true_label`의 값을 가능성 q를 사용한 예측보다 크도록 예측을 생성하려고 합니다. **선택 사항** 유효한 값: 0부터 1 사이의 부동 소수점 정수 기본 값: 0.5 |
| target\$1precision | 대상 정밀도. `binary_classifier_model_selection_criteria`가 `recall_at_target_precision`인 경우 재현율이 최대화된 상태에서는 정밀도가 이 값에서 유지됩니다. **선택 사항** 유효한 값: 0부터 1.0 사이의 부동 소수점 정수 기본값: 0.8 |
| target\$1recall | 대상 재현율. `binary_classifier_model_selection_criteria`가 `precision_at_target_recall`인 경우 정밀도가 최대화된 상태에서는 재현율이 이 값에서 유지됩니다. **선택 사항** 유효한 값: 0부터 1.0 사이의 부동 소수점 정수 기본값: 0.8 |
| unbias\$1data | 평균이 0이 되도록 훈련 전 특징을 비편향화합니다. `use_bias` 하이퍼파라미터가 `true`로 설정되어 있으므로 기본적으로 데이터는 비편향화됩니다. **선택 사항** 유효값: `auto`, `true` 또는 `false` 기본값: `auto` |
| unbias\$1label | 평균이 0이 되도록 훈련 전 레이블을 비편향화합니다. `use_bias` 하이퍼파라미터가 `true`로 설정된 경우에만 회귀에 적용됩니다. **선택 사항** 유효값: `auto`, `true` 또는 `false` 기본값: `auto` |
| use\$1bias | 모델이 편향항을 포함해야 할지 여부를 지정합니다. 편향항은 선형 방정식의 절편항입니다. **선택 사항** 유효한 값: `true` 또는 `false` 기본값: `true` |
| use\$1lr\$1scheduler | 학습률에 대한 스케줄러를 사용할지 여부. 스케줄러를 사용하려는 경우 `true`를 지정합니다. **선택 사항** 유효한 값: `true` 또는 `false` 기본값: `true` |
| wd | 가중치 감소 파라미터(L2 정규화 파라미터라고도 함). L2 정규화를 사용하지 않으려면 이 값을 0으로 설정합니다. **선택 사항** 유효한 값: `auto` 또는 음수가 아닌 부동 소수점 정수 기본값: `auto` |
# 선형 학습자 모델 튜닝
하이퍼파라미터 튜닝이라고도 하는 자동 모델 튜닝은 데이터세트에 대한 광범위한 하이퍼파라미터를 테스트하는 여러 작업을 실행하여 최적의 모델 버전을 찾습니다.** 튜닝 가능한 하이퍼파라미터, 각 하이퍼파라미터에 대한 값 범위 및 목표 지표를 선택합니다. 알고리즘에서 계산하는 지표 중에서 목표 지표를 선택합니다. 자동 모델 튜닝은 선택한 하이퍼파라미터를 검색하여 목표 지표를 최적화하는 모델을 만드는 값 조합을 찾습니다.
또한 Linear Learner 알고리즘은 여기서 설명하는 자동 모델 튜닝 기능과 별도로 하이퍼파라미터 튜닝을 위한 내부 메커니즘을 가지고 있습니다. 기본적으로 Linear Learner 알고리즘은 여러 모델을 병렬로 훈련해 하이퍼파라미터를 튜닝합니다. 자동 모델 튜닝을 사용하는 경우 Linear Learner 내부 튜닝 메커니즘은 자동으로 꺼집니다. 병렬 모델 수 `num_models`는 1로 설정됩니다. 이 알고리즘에서는 `num_models`에 대해 설정한 모든 값이 무시됩니다.
모델 튜닝에 대한 추가 정보는 [SageMaker AI로 자동 모델 튜닝](automatic-model-tuning.md) 섹션을 참조하세요.
## 선형 학습자 알고리즘으로 계산되는 지표
선형 학습자 알고리즘은 다음 표에 나오는 지표를 보고합니다. 이들 지표는 훈련 중 계산됩니다. 이러한 지표 중 하나를 목표 지표로 선택합니다. 과적합을 피하기 위해 훈련 지표 대신 검증 지표를 기준으로 모델을 튜닝하는 것이 좋습니다.
| 지표 이름 | 설명 | 최적화 방향 |
| --- | --- | --- |
| test:absolute\$1loss | 테스트 데이터 세트에 대한 최종 모델의 절대 손실. 이 목표 지표는 회귀에만 유효합니다. | 최소화 |
| test:binary\$1classification\$1accuracy | 테스트 데이터 세트에 대한 최종 모델의 정확도. 이 목표 지표는 바이너리 분류에만 유효합니다. | 최대화 |
| test:binary\$1f\$1beta | 테스트 데이터 세트에 대한 최종 모델의 F-베타 점수. 기본적으로, 이 점수는 정밀도와 재현율의 조화 평균인 F1 점수입니다. 이 목표 지표는 바이너리 분류에만 유효합니다. | 최대화 |
| test:dcg | 테스트 데이터 세트에서 최종 모델의 할인된 누적 이득입니다. 이 목표 지표는 멀티클래스 분류에만 유효합니다. | 최대화 |
| test:macro\$1f\$1beta | 테스트 데이터 세트에 대한 최종 모델의 F-베타 점수. 이 목표 지표는 멀티클래스 분류에만 유효합니다. | 최대화 |
| test:macro\$1precision | 테스트 데이터 세트에 대한 최종 모델의 정밀도 점수. 이 목표 지표는 멀티클래스 분류에만 유효합니다. | 최대화 |
| test:macro\$1recall | 테스트 데이터 세트에 대한 최종 모델의 재현율 점수. 이 목표 지표는 멀티클래스 분류에만 유효합니다. | 최대화 |
| test:mse | 테스트 데이터 세트에 대한 최종 모델의 평균 제곱 오차. 이 목표 지표는 회귀에만 유효합니다. | 최소화 |
| test:multiclass\$1accuracy | 테스트 데이터 세트에 대한 최종 모델의 정확도. 이 목표 지표는 멀티클래스 분류에만 유효합니다. | 최대화 |
| test:multiclass\$1top\$1k\$1accuracy | 테스트 데이터 세트에서 예측된 상위 k개 레이블 간의 정확도입니다. 이 측정치를 목표로 선택하는 경우 `accuracy_top_k` 하이퍼파라미터를 사용하여 k 값을 설정하는 것이 좋습니다. 이 목표 지표는 멀티클래스 분류에만 유효합니다. | 최대화 |
| test:objective\$1loss | 모델 훈련 후 테스트 데이터 세트에 대한 목표 손실 함수의 평균값. 기본적으로 이러한 손실은 바이너리 분류의 경우 로지스틱 손실이고, 회귀의 경우 제곱 손실입니다. 이러한 손실을 다른 유형으로 설정하려면 `loss` 하이퍼파라미터를 사용하세요. | 최소화 |
| test:precision | 테스트 데이터 세트에 대한 최종 모델의 정밀도. 이 지표를 목표 지표로 선택한 경우에는 `binary_classifier_model_selection` 하이퍼파라미터를 `precision_at_target_recall`로 설정하고 `target_recall` 하이퍼파라미터에 대한 값을 설정하여 목표 재현율을 설정하는 것이 좋습니다. 이 목표 지표는 바이너리 분류에만 유효합니다. | 최대화 |
| test:recall | 테스트 데이터 세트에 대한 최종 모델의 재현율. 이 지표를 목표 지표로 선택한 경우에는 `binary_classifier_model_selection` 하이퍼파라미터를 `recall_at_target_precision`으로 설정하고 `target_precision` 하이퍼파라미터에 대한 값을 설정하여 목표 정밀도를 설정하는 것이 좋습니다. 이 목표 지표는 바이너리 분류에만 유효합니다. | 최대화 |
| test:roc\$1auc\$1score | 테스트 데이터 세트에서 최종 모델의 수신 작동 특성 곡선(ROC 곡선) 아래 영역. 이 목표 지표는 바이너리 분류에만 유효합니다. | 최대화 |
| validation:absolute\$1loss | 검증 데이터 세트에 대한 최종 모델의 절대 손실. 이 목표 지표는 회귀에만 유효합니다. | 최소화 |
| validation:binary\$1classification\$1accuracy | 검증 데이터 세트에 대한 최종 모델의 정확도. 이 목표 지표는 바이너리 분류에만 유효합니다. | 최대화 |
| validation:binary\$1f\$1beta | 검증 데이터 세트에 대한 최종 모델의 F-베타 점수. 기본적으로, F-베타 점수는 `validation:precision` 및 `validation:recall` 지표의 조화 평균인 F1 점수입니다. 이 목표 지표는 바이너리 분류에만 유효합니다. | 최대화 |
| validation:dcg | 검증 데이터 세트에서 최종 모델의 할인된 누적 이득입니다. 이 목표 지표는 멀티클래스 분류에만 유효합니다. | 최대화 |
| validation:macro\$1f\$1beta | 검증 데이터 세트에 대한 최종 모델의 F-베타 점수. 이 목표 지표는 멀티클래스 분류에만 유효합니다. | 최대화 |
| validation:macro\$1precision | 검증 데이터 세트에 대한 최종 모델의 정밀도 점수. 이 목표 지표는 멀티클래스 분류에만 유효합니다. | 최대화 |
| validation:macro\$1recall | 검증 데이터 세트에 대한 최종 모델의 재현율 점수. 이 목표 지표는 멀티클래스 분류에만 유효합니다. | 최대화 |
| validation:mse | 검증 데이터 세트에 대한 최종 모델의 평균 제곱 오차. 이 목표 지표는 회귀에만 유효합니다. | 최소화 |
| validation:multiclass\$1accuracy | 검증 데이터 세트에 대한 최종 모델의 정확도. 이 목표 지표는 멀티클래스 분류에만 유효합니다. | 최대화 |
| validation:multiclass\$1top\$1k\$1accuracy | 검증 데이터 세트에서 예측된 상위 k개 레이블 간의 정확도입니다. 이 측정치를 목표로 선택하는 경우 `accuracy_top_k` 하이퍼파라미터를 사용하여 k 값을 설정하는 것이 좋습니다. 이 목표 지표는 멀티클래스 분류에만 유효합니다. | 최대화 |
| validation:objective\$1loss | 매 epoch마다 검증 데이터 세트에 대한 목표 손실 함수의 평균값. 기본적으로 이러한 손실은 바이너리 분류의 경우 로지스틱 손실이고, 회귀의 경우 제곱 손실입니다. 이러한 손실을 다른 유형으로 설정하려면 `loss` 하이퍼파라미터를 사용하세요. | 최소화 |
| validation:precision | 검증 데이터 세트에 대한 최종 모델의 정확도. 이 지표를 목표 지표로 선택한 경우에는 `binary_classifier_model_selection` 하이퍼파라미터를 `precision_at_target_recall`로 설정하고 `target_recall` 하이퍼파라미터에 대한 값을 설정하여 목표 재현율을 설정하는 것이 좋습니다. 이 목표 지표는 바이너리 분류에만 유효합니다. | 최대화 |
| validation:recall | 검증 데이터 세트에 대한 최종 모델의 재현율. 이 지표를 목표 지표로 선택한 경우에는 `binary_classifier_model_selection` 하이퍼파라미터를 `recall_at_target_precision`으로 설정하고 `target_precision` 하이퍼파라미터에 대한 값을 설정하여 목표 정밀도를 설정하는 것이 좋습니다. 이 목표 지표는 바이너리 분류에만 유효합니다. | 최대화 |
| validation:rmse | 검증 데이터 세트에 대한 최종 모델의 평균 제곱근 오차. 이 목표 지표는 회귀에만 유효합니다. | 최소화 |
| validation:roc\$1auc\$1score | 검증 데이터 세트에서 최종 모델의 수신 작동 특성 곡선(ROC 곡선) 아래 영역. 이 목표 지표는 바이너리 분류에만 유효합니다. | 최대화 |
## 선형 학습자 하이퍼파라미터 튜닝
다음 하이퍼파라미터를 사용하여 Linear Learner 모델을 튜닝할 수 있습니다.
| 파라미터 이름 | 파라미터 유형 | 권장 범위 |
| --- | --- | --- |
| wd | `ContinuousParameterRanges` | `MinValue: ``1e-7`, `MaxValue`: `1` |
| l1 | `ContinuousParameterRanges` | `MinValue`: `1e-7`, `MaxValue`: `1` |
| learning\$1rate | `ContinuousParameterRanges` | `MinValue`: `1e-5`, `MaxValue`: `1` |
| mini\$1batch\$1size | `IntegerParameterRanges` | `MinValue`: `100`, `MaxValue`: `5000` |
| use\$1bias | `CategoricalParameterRanges` | `[True, False]` |
| positive\$1example\$1weight\$1mult | `ContinuousParameterRanges` | `MinValue`: 1e-5, `MaxValue`: `1e5` |
# 선형 학습자 응답 형식
## JSON 응답 형식
모든 Amazon SageMaker AI 기본 제공 알고리즘은 [공통 데이터 형식 - 추론](https://docs.aws.amazon.com/sagemaker/latest/dg/cdf-inference.html)에서 설명하는 공통 입력 추론 형식을 따릅니다. 다음은 SageMaker AI 선형 학습자 알고리즘에 사용 가능한 출력 형식입니다.
**바이너리 분류**
```
let response = {
"predictions": [
{
"score": 0.4,
"predicted_label": 0
}
]
}
```
**멀티클래스 분류**
```
let response = {
"predictions": [
{
"score": [0.1, 0.2, 0.4, 0.3],
"predicted_label": 2
}
]
}
```
**회귀**
```
let response = {
"predictions": [
{
"score": 0.4
}
]
}
```
## JSONLINES 응답 형식
**바이너리 분류**
```
{"score": 0.4, "predicted_label": 0}
```
**멀티클래스 분류**
```
{"score": [0.1, 0.2, 0.4, 0.3], "predicted_label": 2}
```
**회귀**
```
{"score": 0.4}
```
## RECORDIO 응답 형식
**바이너리 분류**
```
[
Record = {
features = {},
label = {
'score': {
keys: [],
values: [0.4] # float32
},
'predicted_label': {
keys: [],
values: [0.0] # float32
}
}
}
]
```
**멀티클래스 분류**
```
[
Record = {
"features": [],
"label": {
"score": {
"values": [0.1, 0.2, 0.3, 0.4]
},
"predicted_label": {
"values": [3]
}
},
"uid": "abc123",
"metadata": "{created_at: '2017-06-03'}"
}
]
```
**회귀**
```
[
Record = {
features = {},
label = {
'score': {
keys: [],
values: [0.4] # float32
}
}
}
]
```
# TabTransformer
[TabTransformer](https://arxiv.org/abs/2012.06678)는 새로운 심층 표 형식의 지도 학습용 데이터 모델링 아키텍처입니다. TabTransformer 아키텍처는 자가 주의 기반 Transformer로 빌드되었습니다. Transformer 계층은 범주형 기능의 임베딩을 강력한 컨텍스트 임베딩으로 변환하여 예측 정확도를 높입니다. 뿐만 아니라 TabTransformer에서 학습한 컨텍스트 임베딩은 누락된 데이터 기능과 잡음이 많은 데이터 기능 모두에 대해 매우 강력하며, 더 우수한 해석력을 제공합니다. 이 페이지에는 Amazon EC2 인스턴스 권장 사항 및 TabTransformer용 샘플 노트북에 대한 정보가 포함되어 있습니다.
# SageMaker AI TabTransformer 사용 방법
TabTransformer를 Amazon SageMaker AI 기본 제공 알고리즘으로 사용할 수 있습니다. 다음 섹션에서는 SageMaker Python SDK로 TabTransformer를 사용하는 방법을 설명합니다. Amazon SageMaker Studio Classic UI에서 TabTransformer를 사용하는 방법에 대한 자세한 내용은 [SageMaker JumpStart 사전 훈련된 모델](studio-jumpstart.md) 섹션을 참조하세요.
+ **TabTransformer를 기본 제공 알고리즘으로 사용**
TabTransformer 기본 제공 알고리즘을 사용하여 다음 코드 예제와 같이 TabTransformer 훈련 컨테이너를 빌드하세요. SageMaker AI `image_uris.retrieve` API(또는 [Amazon SageMaker Python SDK](https://sagemaker.readthedocs.io/en/stable) 버전 2를 사용할 경우 `get_image_uri` API)를 사용하여 TabTransformer 내장 알고리즘 이미지 URI를 자동으로 찾아낼 수 있습니다.
TabTransformer 이미지 URI를 지정한 후, TabTransformer 컨테이너를 사용하여 SageMaker AI Estimator API를 사용하는 예측기를 구문화하고 훈련 작업을 시작할 수 있습니다. TabTransformer 기본 제공 알고리즘은 스크립트 모드로 실행됩니다. 하지만 훈련 스크립트는 자동으로 제공되므로 교체할 필요가 없습니다. 스크립트 모드를 이용하여 SageMaker 훈련 작업을 생성한 경험이 많다면 사용자 본인의 TabTransformer 훈련 스크립트를 포함시킬 수 있습니다.
```
from sagemaker import image_uris, model_uris, script_uris
train_model_id, train_model_version, train_scope = "pytorch-tabtransformerclassification-model", "*", "training"
training_instance_type = "ml.p3.2xlarge"
# Retrieve the docker image
train_image_uri = image_uris.retrieve(
region=None,
framework=None,
model_id=train_model_id,
model_version=train_model_version,
image_scope=train_scope,
instance_type=training_instance_type
)
# Retrieve the training script
train_source_uri = script_uris.retrieve(
model_id=train_model_id, model_version=train_model_version, script_scope=train_scope
)
train_model_uri = model_uris.retrieve(
model_id=train_model_id, model_version=train_model_version, model_scope=train_scope
)
# Sample training data is available in this bucket
training_data_bucket = f"jumpstart-cache-prod-{aws_region}"
training_data_prefix = "training-datasets/tabular_binary/"
training_dataset_s3_path = f"s3://{training_data_bucket}/{training_data_prefix}/train"
validation_dataset_s3_path = f"s3://{training_data_bucket}/{training_data_prefix}/validation"
output_bucket = sess.default_bucket()
output_prefix = "jumpstart-example-tabular-training"
s3_output_location = f"s3://{output_bucket}/{output_prefix}/output"
from sagemaker import hyperparameters
# Retrieve the default hyperparameters for training the model
hyperparameters = hyperparameters.retrieve_default(
model_id=train_model_id, model_version=train_model_version
)
# [Optional] Override default hyperparameters with custom values
hyperparameters[
"n_epochs"
] = "50"
print(hyperparameters)
from sagemaker.estimator import Estimator
from sagemaker.utils import name_from_base
training_job_name = name_from_base(f"built-in-algo-{train_model_id}-training")
# Create SageMaker Estimator instance
tabular_estimator = Estimator(
role=aws_role,
image_uri=train_image_uri,
source_dir=train_source_uri,
model_uri=train_model_uri,
entry_point="transfer_learning.py",
instance_count=1,
instance_type=training_instance_type,
max_run=360000,
hyperparameters=hyperparameters,
output_path=s3_output_location
)
# Launch a SageMaker Training job by passing the S3 path of the training data
tabular_estimator.fit(
{
"training": training_dataset_s3_path,
"validation": validation_dataset_s3_path,
}, logs=True, job_name=training_job_name
)
```
TabTransformer를 기본 제공 알고리즘으로 설정하는 방법에 대한 자세한 내용은 다음 노트북 예제를 참조하세요.
+ [Amazon SageMaker AI TabTransformer 알고리즘을 이용한 테이블 형식 분류](https://github.com/aws/amazon-sagemaker-examples/blob/main/introduction_to_amazon_algorithms/tabtransformer_tabular/Amazon_Tabular_Classification_TabTransformer.ipynb)
+ [Amazon SageMaker AI TabTransformer 알고리즘을 이용한 테이블 형식 회귀](https://github.com/aws/amazon-sagemaker-examples/blob/main/introduction_to_amazon_algorithms/tabtransformer_tabular/Amazon_Tabular_Regression_TabTransformer.ipynb)
# TabTransformer 알고리즘의 입력 및 출력 인터페이스
TabTransformer는 표 형식 데이터에서 작동합니다. 행은 관측치를 나타내고, 1개 열은 대상 변수 또는 레이블을 나타내며, 나머지 열은 특징을 나타냅니다.
TabTransformer의 SageMaker AI 실행 기능은 다음과 같은 훈련 및 추론용 CSV를 지원합니다.
+ **훈련 ContentType**의 경우 유효한 입력은 *text/csv*여야 합니다.
+ **추론 ContentType**의 경우 유효한 입력은 *text/csv*여야 합니다.
**참고**
CSV 훈련의 경우 알고리즘은 대상 변수가 첫 번째 열에 있고 CSV에는 헤더 레코드가 없다고 추정합니다.
CSV 추론의 경우 알고리즘은 CSV 입력에 레이블 열이 없다고 추정합니다.
**훈련 데이터, 검증 데이터 및 범주형 기능의 입력 형식**
TabTransformer 모델에 입력할 훈련 데이터의 형식을 지정하는 방법을 기억해 두세요. 훈련 데이터 및 검증 데이터를 포함하는 Amazon S3 버킷의 경로를 제공해야 합니다. 범주형 기능 목록을 포함시킬 수도 있습니다. `training` 및 `validation` 채널을 모두 사용하여 입력 데이터를 제공하세요 또는 `training` 채널만 사용해도 됩니다.
**`training` 및 `validation` 채널을 모두 사용**
`training` 채널용과 `validation` 채널용 두 개의 S3 경로를 통해 입력 데이터를 제공할 수 있습니다. 각 S3 경로는 하나 이상의 CSV 파일을 가리키는 S3 접두사이거나 특정 CSV 파일 하나를 가리키는 전체 S3 경로일 수 있습니다. 대상 변수는 CSV 파일의 첫 번째 열에 있어야 합니다. 나머지 열에는 예측 변수(특징)가 표시되어야 합니다. `training` 채널 또는 `validation` 채널에 대해 여러 개의 CSV 파일이 제공되는 경우, TabTransformer 알고리즘이 해당 파일들을 서로 연결합니다. 검증 데이터는 각 부스팅 반복 종료 시 검증 점수를 계산하는 데 사용됩니다. 유효성 검증 점수가 더 이상 향상되지 않으면 조기 중지가 적용됩니다.
예측 변수에 범주형 기능이 포함된 경우 훈련 데이터 파일 또는 파일이 있는 위치에 이름이 `categorical_index.json`인 JSON 파일을 제공할 수 있습니다. 범주형 기능을 위한 JSON 파일을 제공하는 경우 `training` 채널은 특정 CSV 파일이 아닌 S3 접두사를 가리켜야 합니다. 이 파일은 키가 문자열 `"cat_index_list"`이고 값이 고유 정수 목록인 Python 사전을 포함해야 합니다. 값 목록의 각 정수는 훈련 데이터 CSV 파일에 있는 해당 범주형 기능의 열 인덱스를 나타내야 합니다. 각 값은 양의 정수(0은 목표 값을 나타내므로 0보다 커야 함), `Int32.MaxValue`(2147483647) 미만, 총 열 수보다 작아야 합니다. 범주형 인덱스 JSON 파일은 하나만 있어야 합니다.
**`training` 채널만 사용**:
`training` 채널의 단일 S3 경로를 통해 입력 데이터를 제공할 수도 있습니다. 이 S3 경로는 하나 이상의 CSV 파일이 들어 있는 `training/`이라는 이름의 하위 디렉터리가 있는 디렉터리를 가리켜야 합니다. 선택적으로 `validation/`이라는 동일한 위치에 하나 이상의 CSV 파일이 있는 다른 하위 디렉토리를 포함할 수 있습니다. 검증 데이터가 제공되지 않는 경우 훈련 데이터의 20%가 무작위로 샘플링되어 검증 데이터로 사용됩니다. 예측 변수에 범주형 기능이 포함되어 있다면 데이터 하위 디렉터리와 같은 위치에 `categorical_index.json`이라는 이름의 JSON 파일을 제공할 수 있습니다.
**참고**
CSV 훈련 입력 모드의 경우, 알고리즘에 대해 사용 가능한 전체 메모리(인스턴스 수 \$1 `InstanceType`의 가용 메모리)가 훈련 데이터세트를 담을 수 있어야 합니다.
## TabTransformer 알고리즘에 대한 Amazon EC2 인스턴스 권장 사항
SageMaker AI TabTransformer는 단일 인스턴스 CPU 및 단일 인스턴스 GPU 훈련을 지원합니다. 높은 인스턴스당 비용에도 불구하고 GPU는 더욱 빠르게 교육하여 더욱 효율적입니다. GPU 훈련을 활용하려면 인스턴스 유형을 GPU 인스턴스 중 하나로 지정하세요. (예: P3) SageMaker AI TabTransformer는 현재 여러 GPU 훈련을 지원하지 않습니다.
## TabTransformer 샘플 노트북
다음 표에는 Amazon SageMaker AI TabTransformer 알고리즘의 다양한 사용 사례를 다루는 여러 가지 샘플 노트북이 요약되어 있습니다.
****
| **노트북 제목** | **설명** |
| --- | --- |
| [Amazon SageMaker AI TabTransformer 알고리즘을 이용한 테이블 형식 분류](https://github.com/aws/amazon-sagemaker-examples/blob/main/introduction_to_amazon_algorithms/tabtransformer_tabular/Amazon_Tabular_Classification_TabTransformer.ipynb) | 이 노트북은 Amazon SageMaker AI TabTransformer 알고리즘을 이용하여 테이블 형식 분류 모델을 훈련하고 호스팅하는 방법을 보여줍니다. |
| [Amazon SageMaker AI TabTransformer 알고리즘을 이용한 테이블 형식 회귀](https://github.com/aws/amazon-sagemaker-examples/blob/main/introduction_to_amazon_algorithms/tabtransformer_tabular/Amazon_Tabular_Regression_TabTransformer.ipynb) | 이 노트북은 Amazon SageMaker AI TabTransformer 알고리즘을 이용하여 테이블 형식 회귀 모델을 훈련하고 호스팅하는 방법을 보여줍니다. |
SageMaker AI에서 예시 실행에 사용할 수 있는 Jupyter Notebook 인스턴스를 만들고 액세스하는 방법은 [Amazon SageMaker 노트북 인스턴스](nbi.md) 섹션을 참조하세요. 노트북 인스턴스를 만든 후 열고 **SageMaker AI 예시** 탭을 선택하여 모든 SageMaker AI 샘플 목록을 확인하세요. 노트북을 열려면 **사용** 탭을 선택한 후 **사본 생성**을 선택합니다.
# TabTransformer의 작동 방식
TabTransformer는 새로운 심층 표 형식의 지도 학습용 데이터 모델링 아키텍처입니다. TabTransformer는 자가 주의 기반 Transformer로 빌드되었습니다. Transformer 계층은 범주형 기능의 임베딩을 강력한 컨텍스트 임베딩으로 변환하여 예측 정확도를 높입니다. 뿐만 아니라 TabTransformer에서 학습한 컨텍스트 임베딩은 누락된 데이터 기능과 잡음이 많은 데이터 기능 모두에 대해 매우 강력하며, 더 우수한 해석력을 제공합니다.
TabTransformer는 다양한 데이터 유형, 관계, 분포, 미세 조정이 가능한 다수의 하이퍼파라미터를 강력하게 처리하기 때문에 기계 학습 경쟁에서 우수한 성능을 발휘합니다. 회귀, 분류(바이너리 및 멀티클래스) 및 순위 결정 문제에 TabTransformer를 사용할 수 있습니다.
다음 다이어그램은 TabTransformer 아키텍처를 나타냅니다.
![\[TabTransformer의 아키텍처.\]](http://docs.aws.amazon.com/ko_kr/sagemaker/latest/dg/images/tabtransformer_illustration.png)
자세한 내용은 *[TabTransformer: 컨텍스트 임베딩을 이용한 표 형식 데이터 모델링](https://arxiv.org/abs/2012.06678)*을 참조하세요.
# TabTransformer 하이퍼파라미터
다음 표에는 Amazon SageMaker AI TabTransformer 알고리즘에 필요하거나 가장 흔하게 사용되는 하이퍼파라미터의 하위 세트가 포함되어 있습니다. 이들은 사용자가 데이터를 통해 모델 파라미터를 쉽게 예측하기 위해 설정하는 파라미터입니다. SageMaker AI TabTransformer 알고리즘은 오픈 소스 [TabTransformer](https://github.com/jrzaurin/pytorch-widedeep) 패키지를 구현한 것입니다.
**참고**
기본 하이퍼파라미터는 [TabTransformer 샘플 노트북](tabtransformer.md#tabtransformer-sample-notebooks)의 예제 데이터세트를 기준으로 정해집니다.
SageMaker AI TabTransformer 알고리즘은 분류 문제의 유형에 따라 평가 지표와 목표 함수를 자동으로 선택합니다. TabTransformer 알고리즘은 데이터의 레이블 수에 따라 분류 문제의 유형을 감지합니다. 회귀 문제의 경우 평가 지표는 r 제곱이고, 목표 함수는 평균제곱오차입니다. 바이너리 분류 문제의 경우 평가 지표와 목표 함수 둘 다 바이너리 교차 엔트로피입니다. 멀티클래스 분류 문제의 경우 평가 지표와 목표 함수 둘 다 멀티클래스 교차 엔트로피입니다.
**참고**
TabTransformer 평가 지표 및 목표 함수는 현재 하이퍼파라미터로 사용할 수 없습니다. 대신 SageMaker AI TabTransformer 내장 알고리즘은 레이블 열에 표시된 고유 정수의 개수에 따라 분류 작업 유형(회귀, 바이너리 또는 멀티클래스)을 자동으로 감지하고 평가 지표와 목표 함수를 할당합니다.
| 파라미터 이름 | 설명 |
| --- | --- |
| n\$1epochs | 심층 신경망을 훈련시키는 데 필요한 에포크의 수. 유횻값: 정수, 범위: 양의 정수. 기본값: `5`. |
| patience | 마지막 `patience` 라운드에서 한 검증 데이터 포인트 중 하나의 지표가 개선되지 않으면 훈련이 중단됩니다. 유횻값: 정수, 범위: (`2`, `60`). 기본값: `10`. |
| learning\$1rate | 각 훈련 예제 배치를 검토한 후 모델 가중치가 업데이트되는 비율입니다. 유횻값: 부동 소수점, 범위: 양의 부동 소수점 숫자. 기본값: `0.001`. |
| batch\$1size | 네트워크를 통해 전파된 예제의 수. 유횻값: 정수, 범위: (`1`, `2048`). 기본값: `256`. |
| input\$1dim | 범주형 열 및/또는 연속형 열을 인코딩하기 위한 임베딩의 차원. 유횻값: 문자열, 다음 중 하나: `"16"`, `"32"`, `"64"`, `"128"`, `"256"` 또는 `"512"`. 기본값: `"32"`. |
| n\$1blocks | Transformer 인코더 블록의 수. 유횻값: 정수, 범위: (`1`, `12`). 기본값: `4`. |
| attn\$1dropout | 멀티 헤드 어텐션 계층에 적용되는 드롭아웃 비율. 유효한 값: 부동 소수점, 범위: (`0`, `1`). 기본값: `0.2`. |
| mlp\$1dropout | 인코더 계층 이내의 FeedForward 네트워크와 Transformer 인코더 상단의 최종 MLP 계층에 적용되는 드롭아웃 비율. 유횻값: 부동 소수점, 범위: (`0`, `1`). 기본값: `0.1`. |
| frac\$1shared\$1embed | 하나의 특정 열에 대해 서로 다른 모든 범주에서 공유하는 임베딩의 비율. 유효한 값: 부동 소수점, 범위: (`0`, `1`). 기본값: `0.25`. |
# TabTransformer 모델 튜닝
자동 모델 튜닝은 하이퍼파라미터 튜닝이라고도 하며, 훈련 데이터세트 및 검증 데이터세트에 대한 다양한 하이퍼파라미터를 테스트하는 여러 작업을 실행하여 최적의 모델 버전을 찾는 기능입니다.** 모델 튜닝은 다음 하이퍼파라미터에 초점을 맞춥니다.
**참고**
학습 목표 함수 및 평가 지표는 둘 다 분류 작업 유형(레이블 열에 표시된 고유 정수의 개수로 결정됨)에 따라 자동으로 할당됩니다. 자세한 내용은 [TabTransformer 하이퍼파라미터](tabtransformer-hyperparameters.md) 섹션을 참조하세요.
+ 모델 훈련 중에 최적화하기 위한 학습 목표 함수
+ 검증 중에 모델 성능을 평가하는 데 사용되는 평가 지표
+ 모델을 자동 튜닝할 때 사용할 하이퍼파라미터 세트와 각 값의 범위
자동 모델 튜닝은 선택한 하이퍼파라미터를 검색하여 선택된 평가 지표를 최적화하는 모델을 만드는 값 조합을 찾습니다.
**참고**
TabTransformer용 자동 모델 튜닝은 Amazon SageMaker SDK에서만 사용할 수 있으며, SageMaker AI 콘솔에서는 사용할 수 없습니다.
모델 튜닝에 대한 추가 정보는 [SageMaker AI로 자동 모델 튜닝](automatic-model-tuning.md) 섹션을 참조하세요.
## TabTransformer 알고리즘으로 계산한 평가 지표
SageMaker AI TabTransformer 알고리즘은 모델 검증에 사용할 다음 지표를 계산합니다. 평가 지표는 분류 작업 유형(레이블 열에 표시된 고유 정수의 개수로 결정됨)에 따라 자동으로 할당됩니다.
| 지표 이름 | 설명 | 최적화 방향 | Regex 패턴 |
| --- | --- | --- | --- |
| r2 | r 제곱 | 최대화 | "metrics=\$1'r2': (\$1\$1S\$1)\$1" |
| f1\$1score | 바이너리 교차 엔트로피 | 최대화 | "metrics=\$1'f1': (\$1\$1S\$1)\$1" |
| accuracy\$1score | 멀티클래스 교차 엔트로피 | 최대화 | "metrics=\$1'accuracy': (\$1\$1S\$1)\$1" |
## 튜닝 가능한 TabTransformer 하이퍼파라미터
다음 하이퍼파라미터를 사용하여 TabTransformer 모델을 튜닝하세요. TabTransformer 평가 지표의 최적화에 가장 큰 영향을 미치는 하이퍼파라미터는 `learning_rate`, `input_dim`, `n_blocks`, `attn_dropout`, `mlp_dropout`, `frac_shared_embed`입니다. 모든 TabTransformer 하이퍼파라미터의 목록은 [TabTransformer 하이퍼파라미터](tabtransformer-hyperparameters.md)를 참조하세요.
| 파라미터 이름 | 파라미터 유형 | 권장 범위 |
| --- | --- | --- |
| learning\$1rate | ContinuousParameterRanges | 최솟값: 0.001, 최댓값: 0.01 |
| input\$1dim | CategoricalParameterRanges | [16, 32, 64, 128, 256, 512] |
| n\$1blocks | IntegerParameterRanges | 최솟값: 1, 최댓값: 12 |
| attn\$1dropout | ContinuousParameterRanges | 최솟값: 0.0, 최댓값: 0.8 |
| mlp\$1dropout | ContinuousParameterRanges | 최솟값: 0.0, 최댓값: 0.8 |
| frac\$1shared\$1embed | ContinuousParameterRanges | MinValue: 0.0, MaxValue: 0.5 |
# Amazon SageMaker AI를 사용한 XGBoost 알고리즘
[XGBoost](https://github.com/dmlc/xgboost)(eXtreme Gradient Boosting)는 그라디언트 부스팅 트리 알고리즘에서 유명하고 효율적인 오픈 소스 구현입니다. 그라디언트 부스팅은 더욱 단순한 모델 세트의 여러 추정치를 결합하여 대상 변수를 정확하게 예측하려 시도하는 지도 학습 알고리즘입니다. XGBoost 알고리즘은 다음과 같은 이유로 기계 학습 경쟁에서 잘 작동합니다.
+ 다양한 데이터 유형, 관계, 배포를 강력하게 처리합니다.
+ 미세 조정할 수 있는 다양한 하이퍼파라미터입니다.
회귀, 분류(바이너리 및 멀티클래스) 및 순위 결정 관련 문제에 XGBoost를 사용할 수 있습니다.
XGBoost 알고리즘의 새 릴리스를 다음 중 하나로 사용할 수 있습니다.
+ Amazon SageMaker AI 기본 제공 알고리즘.
+ 로컬 환경에서 훈련 스크립트를 실행하는 프레임워크.
이 구현은 원래 버전보다 더 작은 메모리 풋 프린트, 더 나은 로깅, 향상된 하이퍼파라미터 검증 및 더 큰 지표 세트를 갖습니다. 관리형 XGBoost 환경에서 훈련 스크립트를 실행하는 XGBoost `estimator`를 제공합니다. SageMaker AI XGBoost의 현재 릴리스는 원래 XGBoost 버전 1.0, 1.2, 1.3, 1.5, 1.7 및 3.0을 기반으로 합니다.
Amazon SageMaker AI XGBoost 알고리즘에 대한 자세한 내용은 다음 블로그 게시물을 참조하세요.
+ [오픈 소스 Amazon SageMaker AI XGBoost 알고리즘 컨테이너 소개](https://aws.amazon.com/blogs/machine-learning/introducing-the-open-source-amazon-sagemaker-xgboost-algorithm-container/)
+ [이제 완전 분산 GPU 훈련을 제공하는 Amazon SageMaker AI XGBoost](https://aws.amazon.com/blogs/machine-learning/amazon-sagemaker-xgboost-now-offers-fully-distributed-gpu-training/)
## 지원되는 버전
자세한 내용은 [지원 정책을](https://docs.aws.amazon.com/sagemaker/latest/dg/pre-built-containers-support-policy.html#pre-built-containers-support-policy-ml-framework) 참조하세요.
+ 프레임워크(오픈 소스) 모드: 1.2-1, 1.2-2, 1.3-1, 1.5-1, 1.7-1, 3.0-5
+ 알고리즘 모드: 1.2-1, 1.2-2, 1.3-1, 1.5-1, 1.7-1, 3.0-5
**주의**
필요한 컴퓨팅 용량으로 인해 SageMaker AI XGBoost 버전 3.0-5는 훈련 또는 추론을 위해 P3 인스턴스 패밀리의 GPU 인스턴스와 호환되지 않습니다.
**주의**
패키지와 호환되므로 SageMaker AI XGBoost 버전 3.0-5는 SageMaker 디버거를 지원하지 않습니다.
**주의**
필요한 연산 용량으로 인해 SageMaker AI XGBoost 버전 1.7-1은 훈련 또는 추론을 위한 P2 인스턴스 패밀리의 GPU 인스턴스와 호환되지 않습니다.
**주의**
네트워크 격리 모드: 버전 25.2를 초과하여 pip를 업그레이드하지 마십시오. 최신 버전은 모듈 설치 중에 PyPI에서 setuptools를 가져오려고 할 수 있습니다.
**중요**
SageMaker AI XGBoost 이미지 URI를 검색할 때 이미지 URI 태그에는 `:latest` 또는 `:1`을 사용하지 마세요. 사용하려는 네이티브 XGBoost 패키지 버전이 포함된 SageMaker AI 관리 XGBoost 컨테이너를 선택하려면 [지원되는 버전](#xgboost-supported-versions) 중 하나를 지정해야 합니다. SageMaker AI XGBoost 컨테이너로 마이그레이션된 패키지 버전을 찾으려면 [Docker Registry Paths and Example Code](https://docs.aws.amazon.com/sagemaker/latest/dg-ecr-paths/sagemaker-algo-docker-registry-paths.html) 섹션을 참조하세요. 그런 다음 AWS 리전를 선택하고 **XGBoost(알고리즘)** 섹션으로 이동합니다.
**주의**
XGBoost 0.90 버전은 더 이상 사용되지 않습니다. XGBoost 0.90에 대한 보안 업데이트 또는 버그 수정에 대한 지원이 중단되었습니다. XGBoost 버전을 최신 버전으로 업그레이드할 것을 적극 권장합니다.
**참고**
XGBoost v1.1은 SageMaker AI에서 지원되지 않습니다. XGBoost 1.1은 테스트 입력의 기능이 LIBSVM 입력의 훈련 데이터보다 적을 때 예측을 실행하는 기능이 손상되었기 때문입니다. 이 기능은 XGBoost v1.2에서 복원되었습니다. SageMaker AI XGBoost 1.2-2 이상을 사용하세요.
**참고**
XGBoost v1.0-1을 사용할 수 있지만 공식적으로 지원되지는 않습니다.
## XGBoost 알고리즘을 위한 EC2 인스턴스 권장 사항
SageMaker AI XGBoost는 CPU 및 GPU 훈련 및 추론을 지원합니다. 인스턴스 권장 사항은 훈련 및 추론 요구 사항과 XGBoost 알고리즘 버전에 따라 달라집니다. 자세한 내용은 다음 옵션 중 하나를 참조하세요.
+ [CPU 훈련](#Instance-XGBoost-training-cpu)
+ [GPU 훈련](#Instance-XGBoost-training-gpu)
+ [분산 CPU 훈련](#Instance-XGBoost-distributed-training-cpu)
+ [분산 GPU 훈련](#Instance-XGBoost-distributed-training-gpu)
+ [Inference](#Instance-XGBoost-inference)
### 학습
SageMaker AI XGBoost 알고리즘은 CPU 및 GPU 훈련을 지원합니다.
#### CPU 훈련
SageMaker AI XGBoost 1.0-1 이하 버전은 CPU를 사용해서만 훈련합니다. 메모리 바운드(컴퓨팅 파운드와는 반대) 알고리즘입니다. 따라서 컴퓨팅 최적화 인스턴스(예: C4)보다 범용 컴퓨팅 인스턴스(예: M5)를 선택하는 것이 좋습니다. 또한 훈련 데이터를 보유하기 위해 선택한 인스턴스에 총 메모리가 충분한 것이 좋습니다. 디스크 공간을 사용하여 기본 메모리에 맞지 않는 데이터를 처리할 수 있도록 지원합니다. 이는 libsvm 입력 모드에서 사용할 수 있는 코어 외 기능의 결과입니다. 그럼에도 불구하고 캐시 파일을 디스크에 쓰면 알고리즘 처리 시간이 느려집니다.
#### GPU 훈련
SageMaker AI XGBoost 버전 1.2-2 이상은 GPU 훈련을 지원합니다. 높은 인스턴스당 비용에도 불구하고 GPU는 더욱 빠르게 교육하여 더욱 효율적입니다.
SageMaker AI XGBoost 버전 1.2-2 이상은 P2, P3, G4dn 및 G5 GPU 인스턴스 패밀리를 지원합니다.
SageMaker AI XGBoost 버전 1.7-1 이상은 P3, G4dn 및 G5 GPU 인스턴스 패밀리를 지원합니다. 연산 용량 요구 사항으로 인해 버전 1.7-1 이상은 P2 인스턴스 패밀리를 지원하지 않는다는 점에 유의하세요.
SageMaker AI XGBoost 버전 3.0-5 이상은 G4dn 및 G5 GPU 인스턴스 패밀리를 지원합니다. 컴퓨팅 용량 요구 사항으로 인해 버전 3.0-5 이상은 P3 인스턴스 패밀리를 지원하지 않습니다.
GPU 훈련을 활용하려면:
+ 인스턴스 유형을 GPU 인스턴스 중 하나로 지정합니다(예: G4dn).
+ 기존 XGBoost 스크립트에서 `tree_method` 하이퍼파라미터를 `gpu_hist`로 설정
### 분산 훈련
SageMaker AI XGBoost는 분산 훈련을 위한 CPU 및 GPU 인스턴스를 지원합니다.
#### 분산 CPU 훈련
여러 인스턴스에서 CPU 훈련을 실행하려면 예측기의 `instance_count` 파라미터를 1보다 큰 값으로 설정하세요. 입력 데이터를 총 인스턴스 수로 나누어야 합니다.
##### 입력 데이터를 여러 인스턴스로 나눕니다.
다음 단계를 사용하여 입력 데이터를 나눕니다.
1. 입력 데이터를 작은 파일로 나눕니다. 파일 수는 적어도 분산 훈련에 사용되는 인스턴스 수와 같아야 합니다. 하나의 큰 파일이 아닌 작은 파일을 여러 개 사용하면 훈련 작업의 데이터 다운로드 시간도 줄어듭니다.
1. [TrainingInput](https://sagemaker.readthedocs.io/en/stable/api/utility/inputs.html)을 생성할 때는 분산 파라미터를 `ShardedByS3Key`로 설정하세요. 이를 사용하여 훈련 작업에 *n*개의 인스턴스가 지정되어 있는 경우, 각 인스턴스가 S3에 있는 파일 수의 약 *1/n*을 획득할 수 있습니다.
#### 분산 GPU 훈련
단일 GPU 또는 다중 GPU 인스턴스에서 분산 훈련을 사용할 수 있습니다.
**단일 GPU 인스턴스를 사용한 분산 훈련**
SageMaker AI XGBoost 버전 1.2-2부터 1.3-1까지는 단일 GPU 인스턴스 훈련만 지원합니다. 즉, 다중 GPU 인스턴스를 선택하더라도 인스턴스당 하나의 GPU만 사용된다는 의미입니다.
다음의 경우 입력 데이터를 총 인스턴스 수로 나누어야 합니다.
+ XGBoost 버전 1.2-2\$11.3-1을 사용합니다.
+ 다중 GPU 인스턴스를 사용할 필요는 없습니다.
자세한 내용은 [입력 데이터를 여러 인스턴스로 나눕니다.](#Instance-XGBoost-distributed-training-divide-data) 단원을 참조하십시오.
**참고**
SageMaker AI XGBoost 버전 1.2-2부터 1.3-1까지는 다중 GPU 인스턴스를 선택하더라도 인스턴스당 하나의 GPU만 사용합니다.
**다중 GPU 인스턴스를 사용한 분산 훈련**
SageMaker AI XGBoost는 버전 1.5-1부터 [Dask](https://www.dask.org/)를 통한 분산 GPU 훈련을 제공합니다. Dask를 사용하면 하나 이상의 다중 GPU 인스턴스를 사용할 때 모든 GPU를 활용할 수 있습니다. Dask는 단일 GPU 인스턴스를 사용할 때도 작동합니다.
다음 단계를 사용하여 Dask를 훈련시킵니다.
1. [TrainingInput](https://sagemaker.readthedocs.io/en/stable/api/utility/inputs.html)에서 `distribution` 파라미터를 생략하거나 `FullyReplicated`로 설정하세요.
1. 하이퍼파라미터를 정의할 때는 `use_dask_gpu_training`을 `"true"` 값으로 설정하세요.
**중요**
Dask를 사용한 분산 훈련은 CSV 및 Parquet 입력 형식만 지원합니다. LIBSVM 또는 PROTOBUF와 같은 다른 데이터 형식을 사용하는 경우 훈련 작업이 실패합니다.
Parquet 데이터의 경우, 열 이름을 문자열로 저장해야 합니다. 다른 데이터 유형의 이름을 가진 열은 로드되지 않습니다.
**중요**
Dask를 사용한 분산 훈련은 파이프 모드를 지원하지 않습니다. 파이프 모드를 지정하면 훈련 작업이 실패합니다.
Dask를 사용하여 SageMaker AI XGBoost를 훈련할 때 고려해야 할 몇 가지 사항이 있습니다. 데이터를 작은 파일로 분할해야 합니다. Dask는 각 Parquet 파일을 파티션으로 읽습니다. 모든 GPU에는 Dask 작업자가 있습니다. 이에 따라 파일 수는 총 GPU 수(인스턴스 수 \$1 인스턴스당 GPU 수) 보다 커야 합니다. 파일 수가 너무 많으면 성능이 저하될 수도 있습니다. 자세한 내용은 [Dask 모범 사례](https://docs.dask.org/en/stable/best-practices.html)를 참조하세요.
#### 출력의 변화
지정된 `tree_method` 하이퍼파라미터에 따라 XGBoost 훈련에 사용되는 알고리즘이 결정됩니다. 트리 메소드 `approx`, `hist` 및 `gpu_hist`는 모두 근사 메소드이며 분위수 계산에는 스케칭을 사용합니다. 자세한 내용은 XGBoost 설명서의 [트리 메서드](https://xgboost.readthedocs.io/en/stable/treemethod.html)를 참조하세요. 스케칭은 근사 알고리즘입니다. 따라서 분산 훈련을 위해 선택한 작업자 수와 같은 요인에 따라 모형에 변동이 있을 것으로 예상할 수 있습니다. 변동의 중요성은 데이터에 따라 달라집니다.
### Inference
SageMaker AI XGBoost는 추론을 위한 CPU 및 GPU 인스턴스를 지원합니다. 추론을 위한 인스턴스 유형에 대한 자세한 내용은 [Amazon SageMaker AI ML 인스턴스 유형](https://aws.amazon.com/sagemaker/pricing/)을 참조하세요.
# SageMaker AI XGBoost 사용 방법
SageMaker AI를 사용하면 XGBoost를 내장된 알고리즘 또는 프레임워크로 사용할 수 있습니다. XGBoost를 프레임워크로 사용할 때 고유한 훈련 스크립트를 사용자 지정할 수 있으므로 고급 시나리오에 더 유연하게 액세스할 수 있습니다. 다음 섹션에서는 SageMaker Python SDK와 함께 XGBoost를 사용하는 방법과 XGBoost 알고리즘의 입력/출력 인터페이스를 설명합니다. Amazon SageMaker Studio Classic UI에서 XGBoost를 사용하는 방법에 대한 자세한 내용은 [SageMaker JumpStart 사전 훈련된 모델](studio-jumpstart.md) 섹션을 참조하세요.
**Topics**
+ [XGBoost를 프레임워크로 사용](#xgboost-how-to-framework)
+ [XGBoost를 내장 알고리즘으로 사용](#xgboost-how-to-built-in)
+ [XGBoost 알고리즘에 대한 입력/출력 인터페이스](#InputOutput-XGBoost)
## XGBoost를 프레임워크로 사용
XGBoost를 프레임워크로 사용하여 추가 데이터 처리를 훈련 작업에 통합할 수 있는 사용자 지정 훈련 스크립트를 실행합니다. 다음 코드 예제에서 SageMaker Python SDK는 XGBoost API를 프레임워크로 제공합니다. 이 기능은 SageMaker AI가 TensorFlow, MXNet 및 PyTorch 같은 다른 프레임워크 API를 제공하는 방식과 비슷합니다.
```
import boto3
import sagemaker
from sagemaker.xgboost.estimator import XGBoost
from sagemaker.session import Session
from sagemaker.inputs import TrainingInput
# initialize hyperparameters
hyperparameters = {
"max_depth":"5",
"eta":"0.2",
"gamma":"4",
"min_child_weight":"6",
"subsample":"0.7",
"verbosity":"1",
"objective":"reg:squarederror",
"num_round":"50"}
# set an output path where the trained model will be saved
bucket = sagemaker.Session().default_bucket()
prefix = 'DEMO-xgboost-as-a-framework'
output_path = 's3://{}/{}/{}/output'.format(bucket, prefix, 'abalone-xgb-framework')
# construct a SageMaker AI XGBoost estimator
# specify the entry_point to your xgboost training script
estimator = XGBoost(entry_point = "your_xgboost_abalone_script.py",
framework_version='1.7-1',
hyperparameters=hyperparameters,
role=sagemaker.get_execution_role(),
instance_count=1,
instance_type='ml.m5.2xlarge',
output_path=output_path)
# define the data type and paths to the training and validation datasets
content_type = "libsvm"
train_input = TrainingInput("s3://{}/{}/{}/".format(bucket, prefix, 'train'), content_type=content_type)
validation_input = TrainingInput("s3://{}/{}/{}/".format(bucket, prefix, 'validation'), content_type=content_type)
# execute the XGBoost training job
estimator.fit({'train': train_input, 'validation': validation_input})
```
SageMaker AI XGBoost를 프레임워크로 사용하는 전체 예시는 [Amazon SageMaker AI XGBoost를 사용한 회귀](https://sagemaker-examples.readthedocs.io/en/latest/introduction_to_amazon_algorithms/xgboost_abalone/xgboost_abalone_dist_script_mode.html)를 참조하세요.
## XGBoost를 내장 알고리즘으로 사용
XGBoost 기본 제공 알고리즘을 사용하여 다음 코드 예제와 같이 XGBoost 훈련 컨테이너를 빌드합니다. SageMaker AI `image_uris.retrieve` API를 사용하여 XGBoost 내장된 알고리즘 이미지 URI를 자동으로 찾을 수 있습니다. [Amazon SageMaker Python SDK](https://sagemaker.readthedocs.io/en/stable) 버전 1을 사용하는 경우 `get_image_uri` API를 사용합니다. `image_uris.retrieve` API가 올바른 URI를 찾도록 하려면 [기본 제공 알고리즘 에 대한 공통 파라미터](https://docs.aws.amazon.com/sagemaker/latest/dg/sagemaker-algo-docker-registry-paths.html)를 참조하세요. 그런 다음 기본 제공 알고리즘 이미지 URI 및 사용 가능한 리전의 `xgboost` 전체 목록에서 조회합니다.
XGBoost 이미지 URI를 지정한 후 XGBoost 컨테이너를 사용하여 SageMaker AI Estimator API를 사용하는 예측기를 구성하고 훈련 작업을 시작할 수 있습니다. 이 XGBoost 기본 제공 알고리즘 모드는 고유한 XGBoost 훈련 스크립트를 통합하지 않으며 입력 데이터세트에서 직접 실행됩니다.
**중요**
SageMaker AI XGBoost 이미지 URI를 검색할 때 이미지 URI 태그에는 `:latest` 또는 `:1`을 사용하지 마세요. 사용하려는 네이티브 XGBoost 패키지 버전이 포함된 SageMaker AI 관리 XGBoost 컨테이너를 선택하려면 [지원되는 버전](xgboost.md#xgboost-supported-versions) 중 하나를 지정해야 합니다. SageMaker AI XGBoost 컨테이너로 마이그레이션된 패키지 버전을 찾으려면 [Docker Registry Paths and Example Code](https://docs.aws.amazon.com/sagemaker/latest/dg-ecr-paths/sagemaker-algo-docker-registry-paths.html) 섹션을 참조하세요. 그런 다음 AWS 리전를 선택하고 **XGBoost(알고리즘)** 섹션으로 이동합니다.
```
import sagemaker
import boto3
from sagemaker import image_uris
from sagemaker.session import Session
from sagemaker.inputs import TrainingInput
# initialize hyperparameters
hyperparameters = {
"max_depth":"5",
"eta":"0.2",
"gamma":"4",
"min_child_weight":"6",
"subsample":"0.7",
"objective":"reg:squarederror",
"num_round":"50"}
# set an output path where the trained model will be saved
bucket = sagemaker.Session().default_bucket()
prefix = 'DEMO-xgboost-as-a-built-in-algo'
output_path = 's3://{}/{}/{}/output'.format(bucket, prefix, 'abalone-xgb-built-in-algo')
# this line automatically looks for the XGBoost image URI and builds an XGBoost container.
# specify the repo_version depending on your preference.
xgboost_container = sagemaker.image_uris.retrieve("xgboost", region, "1.7-1")
# construct a SageMaker AI estimator that calls the xgboost-container
estimator = sagemaker.estimator.Estimator(image_uri=xgboost_container,
hyperparameters=hyperparameters,
role=sagemaker.get_execution_role(),
instance_count=1,
instance_type='ml.m5.2xlarge',
volume_size=5, # 5 GB
output_path=output_path)
# define the data type and paths to the training and validation datasets
content_type = "libsvm"
train_input = TrainingInput("s3://{}/{}/{}/".format(bucket, prefix, 'train'), content_type=content_type)
validation_input = TrainingInput("s3://{}/{}/{}/".format(bucket, prefix, 'validation'), content_type=content_type)
# execute the XGBoost training job
estimator.fit({'train': train_input, 'validation': validation_input})
```
XGBoost를 기본 제공 알고리즘으로 설정하는 방법에 대한 자세한 내용은 다음 노트북 예제를 참조하세요.
+ [XGBoost를 위한 관리형 스팟 훈련](https://sagemaker-examples.readthedocs.io/en/latest/introduction_to_amazon_algorithms/xgboost_abalone/xgboost_managed_spot_training.html)
+ [Amazon SageMaker AI XGBoost를 사용한 회귀(Parquet 입력)](https://sagemaker-examples.readthedocs.io/en/latest/introduction_to_amazon_algorithms/xgboost_abalone/xgboost_parquet_input_training.html)
## XGBoost 알고리즘에 대한 입력/출력 인터페이스
그라디언트 부스팅은 테이블형 데이터에서 작동합니다. 행은 관측치를 나타내고 1개 열은 대상 변수 또는 레이블을 나타내며, 나머지 열은 특징을 나타냅니다.
SageMaker AI의 XGBoost 구현은 훈련 및 추론을 위해 다음 데이터 형식을 지원합니다.
+ *text/libsvm*(기본값)
+ *text/csv*
+ *application/x-parquet*
+ *application/x-recordio-protobuf*
**참고**
훈련 및 추론 입력과 관련하여 알아두어야 할 몇 가지 고려 사항이 있습니다.
성능을 높이려면 Amazon S3의 데이터가 훈련 인스턴스 볼륨에 저장되는 *파일 모드*와 함께 XGBoost를 사용하는 것이 좋습니다.
열 형식 입력값을 사용한 훈련의 경우, 알고리즘은 대상 변수(label) 가 첫 번째 열이라고 가정합니다. 추론의 경우 알고리즘은 입력에 레이블 열이 없다고 추정합니다.
CSV 데이터의 경우 입력값에 헤더 레코드가 없어야 합니다.
LIBSVM 훈련의 경우 알고리즘은 레이블 열 뒤의 후속 열에 기능에 대한 0부터 시작하는 인덱스 값 쌍이 포함되어 있다고 가정합니다. 그래서 각 행은