View a markdown version of this page

Esecuzione di processi su SageMaker HyperPod cluster orchestrati da Amazon EKS - Amazon SageMaker AI

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Esecuzione di processi su SageMaker HyperPod cluster orchestrati da Amazon EKS

I seguenti argomenti forniscono procedure ed esempi di accesso ai nodi di calcolo ed esecuzione di carichi di lavoro ML su SageMaker HyperPod cluster con provisioning orchestrati con Amazon EKS. A seconda di come hai configurato l'ambiente sul tuo HyperPod cluster, ci sono molti modi per eseguire carichi di lavoro ML sui cluster. HyperPod

Nota

Quando esegui processi tramite la SageMaker HyperPod CLI o kubectl, HyperPod puoi tenere traccia dell'utilizzo del calcolo (ore) nei namespace (team)GPU/CPU . Queste metriche sono la base dei report di utilizzo, che forniscono:

  • Visibilità sul consumo di risorse allocate e di risorse prese in prestito

  • Utilizzo delle risorse dei team per gli audit (fino a 180 giorni)

  • Attribuzione dei costi in linea con le policy di governance delle attività

Per utilizzare i report di utilizzo, è necessario installare la relativa infrastruttura. Consigliamo vivamente di configurare la governance delle attività per applicare le quote di calcolo e abilitare l’attribuzione granulare dei costi.

Per ulteriori informazioni sulla configurazione e la generazione di report sull'utilizzo, vedere Reporting Compute Usage in. HyperPod

Suggerimento

Per un'esperienza pratica e una guida su come configurare e utilizzare un SageMaker HyperPod cluster orchestrato con Amazon EKS, ti consigliamo di seguire questo workshop di assistenza Amazon EKS. SageMaker HyperPod

Gli utenti di data scientist possono addestrare modelli fondamentali utilizzando il set di cluster EKS come orchestratore del cluster. SageMaker HyperPod Gli scienziati sfruttano la SageMaker HyperPod CLI e i kubectl comandi nativi per trovare i SageMaker HyperPod cluster disponibili, inviare lavori di formazione (Pod) e gestire i carichi di lavoro. La SageMaker HyperPod CLI consente l'invio dei lavori utilizzando un file di schema dei lavori di formazione e fornisce funzionalità per l'elenco, la descrizione, la cancellazione e l'esecuzione dei lavori. Gli scienziati possono utilizzare Kubeflow Training Operator in base alle quote di calcolo gestite da HyperPod e SageMaker AI-managed MLFlow per gestire gli esperimenti di ML e le sessioni di formazione.

Argomenti