기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.
# Amazon SageMaker AI의 추론 파이프라인
*추론 파이프라인*은 데이터에 대해 추론하기 위한 요청을 처리하는 2\~15개의 컨테이너로 이루어진 선형 시퀀스로 구성된 Amazon SageMaker AI 모델입니다. 추론 파이프라인을 사용하면 사전 훈련된 SageMaker AI 기본 제공 알고리즘과 Docker 컨테이너에 패키징된 자체 사용자 지정 알고리즘의 모든 조합을 정의 및 배포할 수 있습니다. 추론 파이프라인을 사용하여 전처리, 예측 및 사후 처리 데이터 과학 작업을 결합할 수 있습니다. 추론 파이프라인은 완전 관리형입니다.
모델 훈련을 위해 개발된 데이터 변환기를 재사용하는 SageMaker AI Spark ML Serving 및 scikit-learn 컨테이너를 추가할 수 있습니다. 어셈블된 전체 추론 파이프라인 자체는 실시간 예측 또는 외부 전처리 없이 배치 변환의 직접 처리에 사용할 수 있는 SageMaker AI 모델로 간주될 수 있습니다.
추론 파이프라인 모델 내에서 SageMaker AI는 간접 호출을 일련의 HTTP 요청으로 처리합니다. 파이프라인의 각 컨테이너에 대해 파이프라인의 첫 번째 컨테이너에서 처리하고 중간 응답이 두 번째 컨테이너에 요청으로 전송되는 식으로 진행됩니다. SageMaker AI가 최종 응답을 클라이언트에 반환합니다.
파이프라인 모델이 배포되면 SageMaker AI는 이 엔드포인트 또는 변환 작업 시 전체 컨테이너를 각 Amazon Elastic Compute Cloud(Amazon EC2) 인스턴스에 설치 및 실행합니다. 컨테이너가 동일한 EC2 인스턴스에 함께 존재하기 때문에 특징 처리 및 추론이 짧은 지연 시간으로 실행됩니다. [https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_CreateModel.html](https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_CreateModel.html) 작업을 사용하거나 콘솔에서 파이프라인 모델에 대한 컨테이너를 정의합니다. `PrimaryContainer`를 설정하는 대신 `Containers` 파라미터를 사용하여 파이프라인을 구성하는 컨테이너를 설정합니다. 컨테이너가 실행되는 순서도 지정합니다.
파이프라인 모델이 변경 불가능하더라도 [https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_UpdateEndpoint.html](https://docs.aws.amazon.com/sagemaker/latest/APIReference/API_UpdateEndpoint.html) 작업을 사용하여 새 추론 파이프라인을 배포해 추론 파이프라인을 업데이트할 수 있습니다. 이 모듈성은 실험 중에 더 큰 유연성을 지원합니다.
SageMaker 모델 레지스트리를 사용하여 추론 파이프라인을 만드는 방법에 대한 자세한 내용은 [Model Registry를 사용한 모델 등록 배포](model-registry.md) 섹션을 참조하세요.
이 기능 사용에 대한 추가 비용은 없습니다. 엔드포인트에서 실행 중인 인스턴스에 대해서만 비용을 지불합니다.
**Topics**
+ [추론 파이프라인에 대한 샘플 노트북](#inference-pipeline-sample-notebooks)
+ [SparkML 및 Scikit-learn을 사용하여 특징 처리](inference-pipeline-mleap-scikit-learn-containers.md)
+ [파이프라인 모델 생성](inference-pipeline-create-console.md)
+ [추론 파이프라인을 사용하여 실시간으로 예측 실행하기](inference-pipeline-real-time.md)
+ [추론 파이프라인을 사용하여 배치 변환](inference-pipeline-batch.md)
+ [추론 파이프라인 로그 및 지표](inference-pipeline-logs-metrics.md)
+ [추론 파이프라인 문제 해결](inference-pipeline-troubleshoot.md)
## 추론 파이프라인에 대한 샘플 노트북
추론 파이프라인을 생성하고 배포하는 방법을 보여주는 예제는 [Scikit-Learn과 Linear Learner를 사용한 추론 파이프라인 샘플 노트북](https://github.com/aws/amazon-sagemaker-examples/tree/main/sagemaker-python-sdk/scikit_learn_inference_pipeline)을 참조하세요. SageMaker AI에서 예시를 실행하는 데 사용할 수 있는 Jupyter Notebook 인스턴스를 만들어 해당 인스턴스에 액세스하는 설명은 [Amazon SageMaker 노트북 인스턴스](nbi.md) 섹션을 참조하세요.
모든 SageMaker AI 샘플의 목록을 보려면 노트북 인스턴스를 만들어 연 후 **SageMaker AI 예시** 탭을 선택합니다. 세 개의 추론 파이프라인 노트북이 있습니다. 방금 설명한 처음 2개 추론 파이프라인 노트북은 `advanced_functionality` 폴더에 있고, 세 번째 노트북은 `sagemaker-python-sdk` 폴더에 있습니다. 노트북을 열려면 노트북의 **사용** 탭을 선택하고 **복사본 생성**을 선택합니다.