ブログ、サンプルノートブック、および追加のリソース

次のセクションには、Amazon SageMaker AI の詳細に関する例と追加のリソースが含まれています。

ブログと導入事例

SageMaker AI Inference のさまざまな機能に関するブログと導入事例のリストについては、次の表を参照してください。ブログを使用すると、ユースケースに適したソリューションをまとめるのに役立ちます。

機能	リソース
リアルタイム推論	「Getting started with deploying real-time models on Amazon SageMaker AI」「Deploy BLOOM-176B and OPT-30B on Amazon SageMaker AI with large model inference Deep Learning Containers and DeepSpeed」「Creating a machine learning-powered REST API with Amazon API Gateway mapping templates and Amazon SageMaker AI」
自動スケーリング	「Configuring autoscaling inference endpoints in Amazon SageMaker AI」
サーバーレス推論	「Amazon SageMaker Serverless Inference – Machine Learning Inference without Worrying about Servers」「Host Hugging Face transformer models using Amazon SageMaker Serverless Inference」「Introducing the Amazon SageMaker Serverless Inference Benchmarking Toolkit」
非同期推論	「Run computer vision inference on large videos with Amazon SageMaker AI asynchronous endpoints」「Build a predictive maintenance solution with Amazon Kinesis, AWS Glue, and Amazon SageMaker AI」「Improve high-value research with Hugging Face and Amazon SageMaker Asynchronous Inference endpoints」
バッチ変換	「Associating prediction results with input data using Amazon SageMaker AI Batch Transform」
マルチモデルエンドポイント	「Save on inference costs by using Amazon SageMaker AI multi-model endpoints」「Run multiple deep learning models on GPU with Amazon SageMaker AI multi-model endpoints」「How to scale machine learning inference for multi-tenant SaaS use cases」「Run and optimize multi-model inference with Amazon SageMaker AI multi-model endpoints」
シリアル推論パイプライン	「Design patterns for serial inference on Amazon SageMaker AI」
マルチコンテナエンドポイント	「Cost efficient ML inference with multi-framework models on Amazon SageMaker AI」
モデルアンサンブルの実行	「Run ensemble ML models on Amazon SageMaker AI」
推論レコメンダー	「SageMaker Inference Recommender example notebook」「SageMaker Inference Recommender for HuggingFace BERT Sentiment Analysis example notebook」「Achieve hyperscale performance for model serving using NVIDIA Triton Inference Server on Amazon SageMaker AI」
高度なモデルホスティングのブログシリーズ	「Part 1: Common design patterns for building ML application on Amazon SageMaker AI」「Part 2: Getting started with deploying real time models on SageMaker AI」「Part 3: Run and optimize multi-model inference with Amazon SageMaker AI multi-model endpoints」「Part 4: Design patterns for serial inference on Amazon SageMaker AI」「Part 5: Cost efficient ML inference with multi-framework models on Amazon SageMaker AI」「Part 6: Best practices in testing and updating models on SageMaker AI」「Part 7: Run ensemble ML models on Amazon SageMaker AI」

サンプルノートブックの例

SageMaker AI Inference についてさらに学ぶのに役立つサンプルノートブックについては、次の表を参照してください。

機能	サンプルノートブックの例
推論レコメンダー	「SageMaker Inference Recommender example notebook」「SageMaker Inference Recommender for HuggingFace BERT Sentiment Analysis example notebook」
SageMaker AI 用大規模言語モデル (LLM) の最適化	「Generative AI LLMs workshop」

その他のリソース

SageMaker AI Inference の各オプションの詳細については、次の動画をご覧ください。

ブラウザで JavaScript が無効になっているか、使用できません。

AWS ドキュメントを使用するには、JavaScript を有効にする必要があります。手順については、使用するブラウザのヘルプページを参照してください。

ドキュメントの表記規則

リソース

トラブルシューティングとリファレンス