Blogs und Fallstudien Beispiel-Notebooks Weitere Ressourcen

Blogs, Beispiel-Notebooks und zusätzliche Ressourcen

Die folgenden Abschnitte enthalten Beispiele und zusätzliche Ressourcen, mit denen Sie mehr über Amazon SageMaker AI erfahren können.

Blogs und Fallstudien

In der folgenden Tabelle finden Sie Listen von Blogs und Fallbeispielen zu verschiedenen Features von SageMaker AI Inference. Sie können die Blogs verwenden, um Lösungen zusammenzustellen, die für Ihren Anwendungsfall am besten geeignet sind.

Funktion	Ressourcen
Echtzeit-Inference	Erste Schritte mit der Bereitstellung von Echtzeitmodellen auf Amazon SageMaker AI Stellen Sie BLOOM-176B und OPT-30B auf Amazon SageMaker AI mit Deep Learning Containers und DeepSpeed mit großer Modellinferenz bereit Erstellen einer auf Machine Learning basierenden REST-API mit Amazon API Gateway-Zuordnungsvorlagen und Amazon SageMaker AI
Auto Scaling	Konfiguration von Inferenzendpunkten mit automatischer Skalierung in Amazon SageMaker AI
Serverlose Inferenz	Amazon SageMaker Serverlose Inference – Inference für Machine Learning, ohne sich Gedanken über Server machen zu müssen Hosten Sie Hugging Face-Transformer-Modelle mit Amazon SageMaker Serverlose Inferenz Wir stellen vor: das Amazon SageMaker Serverlose Inferenz Benchmarking Toolkit
Asynchrone Inference	Führen Sie Computer-Vision-Inferenz für große Videos mit asynchronen Endpunkten von Amazon SageMaker AI aus Entwickeln Sie mit Amazon Kinesis, AWS Glue, und Amazon SageMaker AI eine Lösung für prädiktive Wartung Verbessern Sie hochwertige Recherchen mit den Endpunkten Hugging Face und Amazon SageMaker Asynchrone Inferenz
Batch-Transformation	Verknüpfen von Prognoseergebnissen mit Eingabedaten mithilfe von Amazon SageMaker AI Batch Transformation
Endpunkte mit mehreren Modellen	Sparen Sie Inferenzkosten, indem Sie Multimodell-Endpunkte von Amazon SageMaker AI verwenden Führen Sie mehrere Deep-Learning-Modelle auf der GPU mit Multimodell-Endpunkten von Amazon SageMaker AI aus So skalieren Sie die Inferenz für Machine Learning für SaaS-Anwendungsfälle mit mehreren Mandanten Führen und optimieren Sie Multimodell-Inferenzen mit Multimodell-Endpunkten von Amazon SageMaker AI
Serielle Pipelines Inferenz	Entwurfsmuster für serielle Inferenz auf Amazon SageMaker AI
Endpunkte mit mehreren Containern	Kosteneffiziente ML-Inferenz mit Multi-Framework-Modellen auf Amazon SageMaker AI
Modellensembles ausführen	Ensemble-ML-Modelle auf Amazon SageMaker AI ausführen
Inference Empfehlungsgeber	Beispiel-Notebook für SageMaker Inference Empfehlungsgeber Beispiel-Notebook für SageMaker Inference Empfehlungsgeber für HuggingFace BERT Sentiment Analysis Erzielen Sie Hyperscale-Leistung für Model Serving mit NVIDIA Triton Inference Server auf Amazon SageMaker AI
Blogserie zum Hosten fortgeschrittener Modelle	Teil 1: Allgemeine Entwurfsmuster für die Erstellung von ML-Anwendungen auf Amazon SageMaker AI Teil 2: Erste Schritte mit der Bereitstellung von Echtzeitmodellen auf SageMaker AI Teil 3: Ausführen und Optimieren von Multimodell-Inferenzen mit Multimodell-Endpunkten von Amazon SageMaker AI Teil 4: Entwurfsmuster für serielle Inference auf Amazon SageMaker AI Teil 5: Kosteneffiziente ML-Inference mit Multi-Framework-Modellen auf Amazon SageMaker AI Teil 6: Bewährte Methoden beim Testen und Aktualisieren von Modellen auf SageMaker AI Teil 7: Ensemble-ML-Modelle auf Amazon SageMaker AI ausführen

Beispiel-Notebooks

In der folgenden Tabelle finden Sie beispielsweise Notebooks, mit denen Sie mehr über SageMaker AI Inference erfahren können.

Funktion	Beispiel-Notebooks
Inference Empfehlungsgeber	Beispiel-Notebook für SageMaker Inference Empfehlungsgeber Beispiel-Notebook für SageMaker Inference Empfehlungsgeber für HuggingFace BERT Sentiment Analysis
Optimieren Sie große Sprachmodelle (LLMs) für SageMaker AI	LLM-Workshop zu generativer KI

Weitere Ressourcen

Mehr über die einzelnen Optionen von SageMaker AI Inference erfahren Sie in folgendem Video.

Warnung JavaScript ist in Ihrem Browser nicht verfügbar oder deaktiviert.

Zur Nutzung der AWS-Dokumentation muss JavaScript aktiviert sein. Weitere Informationen finden auf den Hilfe-Seiten Ihres Browsers.

Dokumentkonventionen

Ressourcen

Fehlerbehebung und Referenz