Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.
Amazon SageMaker Inference Recommender
Amazon SageMaker Inference Recommender è una funzionalità di Amazon AI. SageMaker Riduce il tempo necessario per mettere in produzione i modelli di machine learning (ML) automatizzando i test di carico e l'ottimizzazione dei modelli tra SageMaker le istanze AI ML. Puoi usare il suggeritore di inferenza per implementare il tuo modello su un endpoint di inferenza in tempo reale o senza server che offre le migliori prestazioni al minor costo. Inference Recommender aiuta a selezionare il tipo di istanza e la configurazione migliori per i tuoi modelli e carichi di lavoro ML. Considera fattori come il conteggio di istanze, i parametri del container, le ottimizzazioni dei modelli, la simultaneità massima e la dimensione della memoria.
Amazon SageMaker Inference Recommender ti addebita solo le istanze utilizzate durante l'esecuzione dei processi.
Come funziona
Per utilizzare Amazon SageMaker Inference Recommender, puoi creare un modello SageMaker AI o registrarne uno nel Model Registry con gli artefatti del SageMaker modello. Usa la AWS SDK for Python (Boto3) o la console SageMaker AI per eseguire lavori di benchmarking per diverse configurazioni di endpoint AI. SageMaker I processi di suggerimento delle inferenze ti aiutano a raccogliere e visualizzare i parametri relative di tutte le prestazioni e sull'utilizzo delle risorse per aiutarti a decidere quale tipo e configurazione di endpoint scegliere.
Come iniziare
Se sei un utente alle prime armi di Amazon SageMaker Inference Recommender, ti consigliamo di fare quanto segue:
-
Leggi la Prerequisiti per l'utilizzo di Amazon Inference Recommender SageMaker sezione per assicurarti di aver soddisfatto i requisiti per utilizzare Amazon SageMaker Inference Recommender.
-
Consulta la sezione Lavori di raccomandazione con Amazon SageMaker Inference Recommender per avviare i primi processi di raccomandazione del suggeritore di inferenza.
-
Esplora l'esempio introduttivo di notebook Jupyter di Amazon SageMaker Inference Recommender o esamina i taccuini di
esempio nella sezione seguente.
Notebook di esempio
Il seguente esempio di notebook Jupyter può aiutarti con i flussi di lavoro per diversi casi d'uso nel suggeritore di inferenza:
-
Se desideri un notebook introduttivo che analizzi un modello, consulta il taccuino Inference Recommender. TensorFlow SageMaker TensorFlow
-
Se desideri eseguire il benchmark di un HuggingFace modello, consulta Inference Recommender per notebook. SageMaker HuggingFace
-
Se desideri confrontare un modello XGBoost, consulta il notebook Inference Recommender XGBoost. SageMaker
-
Se desideri esaminare le metriche per i tuoi lavori di Inference Recommender, consulta il taccuino CloudWatch sulle metriche di Inference Recommender. SageMaker CloudWatch
