Blogs e estudos de caso Cadernos de exemplo Recursos adicionais

Blogs, exemplos de cadernos e recursos adicionais

As seções a seguir contêm exemplos e recursos adicionais para você aprender mais sobre o Amazon SageMaker AI.

Blogs e estudos de caso

Consulte a tabela a seguir para ver listas de blogs e estudos de caso sobre vários recursos no SageMaker AI Inference. Você pode usar os blogs para ajudá-lo a criar soluções que funcionam para o seu caso de uso.

Recurso	Recursos
Inferência em tempo real	Getting started with deploying real-time models on Amazon SageMaker AI Deploy BLOOM-176B and OPT-30B on Amazon SageMaker AI with large model inference Deep Learning Containers and DeepSpeed Creating a machine learning-powered REST API with Amazon API Gateway mapping templates and Amazon SageMaker AI
Ajuste de escala automático	Configuring autoscaling inference endpoints in Amazon SageMaker AI
Inferência Sem Servidor	Amazon SageMaker Serverless Inference – Machine Learning Inference without Worrying about Servers Host Hugging Face transformer models using Amazon SageMaker Serverless Inference Introducing the Amazon SageMaker Serverless Inference Benchmarking Toolkit
Inferência assíncrona	Run computer vision inference on large videos with Amazon SageMaker AI asynchronous endpoints Build a predictive maintenance solution with Amazon Kinesis, AWS Glue, and Amazon SageMaker AI Improve high-value research with Hugging Face and Amazon SageMaker Asynchronous Inference endpoints
Transformação em lote	Associating prediction results with input data using Amazon SageMaker AI Batch Transform
Endpoints multimodelo	Save on inference costs by using Amazon SageMaker AI multi-model endpoints Run multiple deep learning models on GPU with Amazon SageMaker AI multi-model endpoints How to scale machine learning inference for multi-tenant SaaS use cases Run and optimize multi-model inference with Amazon SageMaker AI multi-model endpoints
Pipelines de inferência serial	Design patterns for serial inference on Amazon SageMaker AI
Endpoint com vários contêineres	Cost efficient ML inference with multi-framework models on Amazon SageMaker AI
Conjuntos de modelos em execução	Run ensemble ML models on Amazon SageMaker AI
Inference Recommender	Exemplo de caderno do SageMaker Inference Recommender Exemplo de caderno do SageMaker Inference Recommender para análise de sentimento do HuggingFace BERT Achieve hyperscale performance for model serving using NVIDIA Triton Inference Server on Amazon SageMaker AI
Série de blogs de hospedagem de modelos avançados	Part 1: Common design patterns for building ML application on Amazon SageMaker AI Part 2: Getting started with deploying real time models on SageMaker AI Part 3: Run and optimize multi-model inference with Amazon SageMaker AI multi-model endpoints Part 4: Design patterns for serial inference on Amazon SageMaker AI Part 5: Cost efficient ML inference with multi-framework models on Amazon SageMaker AI Part 6: Best practices in testing and updating models on SageMaker AI Part 7: Run ensemble ML models on Amazon SageMaker AI

Cadernos de exemplo

Consulte a tabela a seguir para ver exemplos de cadernos que podem ajudar você a aprender mais sobre o SageMaker AI Inference.

Recurso	Cadernos de exemplo
Inference Recommender	Exemplo de caderno do SageMaker Inference Recommender Exemplo de caderno do SageMaker Inference Recommender para análise de sentimento do HuggingFace BERT
Otimize grandes modelos de linguagem (LLMs) para o SageMaker AI	Workshop de LLMs de IA generativa

Recursos adicionais

Para ter mais informações detalhadas sobre cada opção do SageMaker AI Inference, você pode assistir ao vídeo a seguir.

Atenção O Javascript está desativado ou não está disponível no seu navegador.

Para usar a documentação da AWS, o Javascript deve estar ativado. Consulte as páginas de Ajuda do navegador para obter instruções.

Convenções do documento

Recursos

Solução de problemas e referência