블로그, 예제 노트북 및 추가 리소스

다음 섹션에는 Amazon SageMaker AI에 대해 자세히 알아볼 수 있는 예시와 추가 리소스가 포함되어 있습니다.

블로그 및 사례 연구

SageMaker AI Inference의 다양한 기능에 대한 블로그 및 사례 연구 목록은 다음 표를 참조하세요. 블로그를 사용하여 사용 사례에 맞는 솔루션을 준비할 수 있습니다.

Feature	리소스
실시간 추론	Amazon SageMaker AI에서 실시간 모델 배포 시작 대규모 모델 추론 딥 러닝 컨테이너 및 DeepSpeed를 사용하여 Amazon SageMaker AI에서 BLOOM-176B 및 OPT-30B 배포 Amazon API Gateway 매핑 템플릿과 Amazon SageMaker AI를 사용하여 기계 학습 기반 REST API 만들기
AutoScaling	Amazon SageMaker AI에서 오토 스케일링 추론 엔드포인트 구성
서버리스 추론	Amazon SageMaker 서버리스 추론 - 서버 걱정 없는 기계 학습 추론 Amazon SageMaker 서버리스 추론을 사용하는 Hugging Face 트랜스포머 모델 호스트 Amazon SageMaker 서버리스 추론 벤치마킹 툴킷 소개
비동기식 추론	Amazon SageMaker AI 비동기식 엔드포인트를 사용하여 대형 동영상에서 컴퓨터 비전 추론 실행 Amazon Kinesis, AWS Glue, Amazon SageMaker AI로 예측 유지 보수 솔루션 구축 Hugging Face와 Amazon SageMaker 비동기 추론 엔드포인트로 고부가가치 연구 개선
배치 변환	Amazon SageMaker AI 배치 변환을 사용하여 예측 결과를 입력 데이터와 연결
다중 모델 엔드포인트	Amazon SageMaker AI 다중 모델 엔드포인트를 사용하여 추론 비용 절감 Amazon SageMaker AI 다중 모델 엔드포인트를 사용하여 GPU에서 여러 딥 러닝 모델 실행 다중 테넌트 SaaS 사용 사례를 위한 기계 학습 추론을 확장하는 방법 Amazon SageMaker AI 다중 모델 엔드포인트를 사용하여 다중 모델 추론 실행 및 최적화
직렬 추론 파이프라인	Amazon SageMaker AI의 직렬 추론을 위한 디자인 패턴
다중 컨테이너 엔드포인트	Amazon SageMaker AI의 멀티 프레임워크 모델을 사용한 비용 효율적인 ML 추론
모델 앙상블 실행	Amazon SageMaker AI에서 앙상블 ML 모델 실행
Inference Recommender	SageMaker Inference Recommender 예제 노트북 HuggingFace BERT 감정 분석을 위한 SageMaker Inference Recommender 예제 노트북 Amazon SageMaker AI의 NVIDIA Triton 추론 서버를 사용하여 모델을 제공하기 위한 하이퍼스케일 성능 달성
고급 모델 호스팅 블로그 시리즈	1부: Amazon SageMaker AI에서 ML 애플리케이션을 구축하기 위한 일반적인 디자인 패턴 2부: Amazon SageMaker AI에서 실시간 모델 배포 시작 3부: Amazon SageMaker AI 다중 모델 엔드포인트를 사용하여 다중 모델 추론 실행 및 최적화 4부: Amazon SageMaker AI의 직렬 추론을 위한 디자인 패턴 5부: Amazon SageMaker AI의 다중 프레임워크 모델을 사용한 비용 효율적인 ML 추론 6부: SageMaker AI에서 모델을 테스트하고 업데이트하는 모범 사례 7부: Amazon SageMaker AI에서 앙상블 ML 모델 실행

예제 노트북

SageMaker AI 추론에 대해 자세히 알아보는 데 도움이 되는 예시 노트북은 다음 표를 참조하세요.

Feature	예제 노트북
Inference Recommender	SageMaker Inference Recommender 예제 노트북 HuggingFace BERT 감정 분석을 위한 SageMaker Inference Recommender 예제 노트북
SageMaker AI용 대규모 언어 모델(LLM) 최적화	생성형 AI LLM 워크숍

추가 리소스

각 SageMaker AI Inference 옵션에 대해 자세히 알아보려면 다음 동영상을 시청하시면 됩니다.

javascript가 브라우저에서 비활성화되거나 사용이 불가합니다.

AWS 설명서를 사용하려면 Javascript가 활성화되어야 합니다. 지침을 보려면 브라우저의 도움말 페이지를 참조하십시오.

문서 규칙

리소스

문제 해결 및 참조