View a markdown version of this page

SageMaker HyperPod Observabilitas Amazon dengan Grafana Terkelola Amazon dan Layanan Terkelola Amazon untuk Prometheus - Amazon SageMaker AI

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

SageMaker HyperPod Observabilitas Amazon dengan Grafana Terkelola Amazon dan Layanan Terkelola Amazon untuk Prometheus

Amazon SageMaker HyperPod (SageMaker HyperPod) menyediakan out-of-the-box dasbor komprehensif yang memberi Anda wawasan tentang tugas pengembangan model dasar (FM) dan sumber daya cluster. Solusi observabilitas terpadu ini secara otomatis menerbitkan metrik utama ke Layanan Terkelola Amazon untuk Prometheus dan menampilkannya di dasbor Grafana Terkelola Amazon. Dasbor dioptimalkan secara khusus untuk pengembangan FM dengan cakupan mendalam tentang kesehatan perangkat keras, pemanfaatan sumber daya, dan kinerja tingkat tugas. Dengan add-on ini, Anda dapat mengkonsolidasikan data kesehatan dan kinerja dari NVIDIA DCGM, eksportir node Kubernetes tingkat instans, Adaptor Kain Elastis, sistem file terintegrasi, Kubernetes, Kueue, dan operator tugas. APIs SageMaker HyperPod

Dukungan Grup Instance Terbatas (RIG)

Add-on observabilitas juga mendukung cluster yang berisi Grup Instance Terbatas. Dalam cluster RIG, add-on secara otomatis menyesuaikan strategi penerapannya untuk mematuhi isolasi jaringan dan kendala keamanan node terbatas. DaemonSet komponen (eksportir node, eksportir DCGM, eksportir EFA, monitor Neuron, dan pengumpul simpul) berjalan pada node standar dan terbatas. Komponen penerapan (kolektor pusat, Metrik Negara Kube, dan Agen Metrik Pelatihan) dijadwalkan dengan logika sadar batas untuk menghormati isolasi jaringan antar grup instans. Koleksi log kontainer dengan Fluent Bit tidak tersedia pada node terbatas.

Untuk informasi tentang menyiapkan add-on pada klaster dengan Grup Instance Terbatas, lihat. Menyiapkan add-on SageMaker HyperPod observabilitas