Blog e casi di studio Notebook di esempio Risorse aggiuntive

Blog, notebook di esempio e risorse aggiuntive

Le seguenti sezioni contengono esempi e risorse aggiuntive per approfondire la conoscenza di Amazon SageMaker AI.

Blog e casi di studio

Consulta la tabella seguente per gli elenchi di blog e casi di studio relativi alle varie funzionalità di SageMaker AI Inference. Puoi utilizzare i blog per creare soluzioni più adatte al tuo caso d'uso.

Funzionalità	Risorse
Inferenza in tempo reale	Nozioni di base sull’implementazione di modelli in tempo reale su Amazon SageMaker AI Implementazione di BLOOM-176B e OPT-30B su Amazon SageMaker AI con DeepSpeed e Container AWS per il Deep Learning per l’inferenza di modelli di grandi dimensioni. Creazione di una REST API basata sul machine learning con modelli di mappatura Gateway Amazon API e Amazon SageMaker AI
Dimensionamento automatico	Configurazione degli endpoint di inferenza con dimensionamento automatico in Amazon SageMaker AI
Inferenza serverless	Inferenza serverless Amazon SageMaker: inferenza con Machine Learning senza preoccuparsi dei server Ospita modelli di trasformatori Hugging Face utilizzando Inferenza serverless Amazon SageMaker Presentazione del kit di benchmarking per Inferenza serverless Amazon SageMaker
Inferenza asincrona	Esecuzione di inferenze di visione artificiale su video di grandi dimensioni con endpoint asincroni di Amazon SageMaker AI Creazione di una soluzione di manutenzione predittiva con Amazon Kinesis, AWS Glue e Amazon SageMaker AI Migliora la ricerca ad alto valore con gli endpoint Hugging Face e Amazon SageMaker Inferenza asincrona
Batch Transform	Associazione dei risultati della previsione ai dati di input utilizzando Amazon SageMaker AI Batch Transform
Endpoint multi-modello	Risparmio sui costi di inferenza utilizzando gli endpoint multi-modello di Amazon SageMaker AI Esecuzione di più modelli di deep learning su GPU con gli endpoint multi-modello di Amazon SageMaker AI Come scalare l'inferenza del machine learning per casi d'uso SaaS multi-tenant Esecuzione e ottimizzazione dell’inferenza multi-modello con gli endpoint multi-modello di Amazon SageMaker AI
Pipeline di inferenza seriale	Modelli di progettazione per l’inferenza seriale su Amazon SageMaker AI
Endpoint multi-container	Inferenza ML a costi contenuti con modelli multi-framework su Amazon SageMaker AI
Esecuzione di insiemi di modelli	Esecuzione di modelli di ensemble ML su Amazon SageMaker AI
Suggeritore di inferenza	Notebook di esempio di Suggeritore di inferenza SageMaker Notebook di esempio di Suggeritore di inferenza SageMaker per l’analisi del sentiment HuggingFace BERT Prestazioni iperscalabili per la distribuzione di modelli utilizzando NVIDIA Triton Inference Server su Amazon SageMaker AI
Serie di blog di hosting di modelli avanzati	Parte 1: Modelli di progettazione comuni per la creazione di applicazioni ML su Amazon SageMaker AI Parte 2: Nozioni di base sull’implementazione di modelli in tempo reale su SageMaker AI Parte 3: Esecuzione e ottimizzazione dell’inferenza multi-modello con gli endpoint multi-modello di Amazon SageMaker AI Parte 4: Modelli di progettazione per l’inferenza seriale su Amazon SageMaker AI Parte 5: Inferenza ML a costi contenuti con modelli multi-framework su Amazon SageMaker AI Parte 6: Best practice per testare e aggiornare i modelli su SageMaker AI Parte 7: Esecuzione di modelli ensemble ML su Amazon SageMaker AI

Notebook di esempio

Nella tabella seguente sono riportati alcuni esempi di notebook che possono aiutarti a scoprire di più su SageMaker AI Inference.

Funzionalità	Notebook di esempio
Suggeritore di inferenza	Notebook di esempio di Suggeritore di inferenza SageMaker Notebook di esempio di Suggeritore di inferenza SageMaker per l’analisi del sentiment HuggingFace BERT
Ottimizzazione dei modelli linguistici di grandi dimensioni (LLM) per SageMaker AI	Workshop sui LLM di IA generativa

Risorse aggiuntive

Per informazioni più dettagliate su ciascuna opzione di SageMaker AI Inference, guarda il seguente video.

Avvertimento JavaScript è disabilitato o non è disponibile nel tuo browser.

Per usare la documentazione AWS, JavaScript deve essere abilitato. Consulta le pagine della guida del browser per le istruzioni.

Convenzioni dei documenti

Risorse

Risoluzione dei problemi e riferimento