Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.
Blok Kapasitas untuk ML
Blok Kapasitas untuk ML memungkinkan Anda untuk memesan inst GPU-based ans komputasi yang dipercepat pada tanggal mendatang untuk mendukung beban kerja pembelajaran mesin (ML) durasi pendek Anda. Instans yang berjalan di dalam Blok Kapasitas secara otomatis ditempatkan berdekatan di dalam Amazon EC2 UltraClusters
Anda juga dapat menggunakan Blok Kapasitas untuk mencadangkan kapasitas untuk Amazon EC2 UltraServers. UltraServers hubungkan beberapa instans Amazon EC2 dalam interkoneksi akselerator bandwidth tinggi latensi rendah. Anda dapat menggunakannya UltraServers untuk menangani AI/ML beban kerja paling padat komputasi dan memori dalam pelatihan, penyempurnaan, dan inferensi. Untuk informasi selengkapnya, lihat Amazon EC2 UltraServers
Dengan Blok Kapasitas, Anda dapat melihat kapan kapasitas instans GPU tersedia di masa mendatang, dan Anda dapat menjadwalkan Blok Kapasitas untuk memulai pada waktu yang paling sesuai untuk Anda. Saat Anda memesan Blok Kapasitas, Anda mendapatkan jaminan kapasitas yang dapat diprediksi untuk instans GPU dengan membayar jumlah waktu yang Anda butuhkan saja. Kami merekomendasikan Blok Kapasitas saat Anda membutuhkan GPU untuk mendukung beban kerja ML Anda selama berhari-hari atau berminggu-minggu sekaligus dan tidak ingin membayar reservasi saat instans GPU Anda tidak digunakan.
Berikut ini adalah beberapa kasus penggunaan umum untuk Blok Kapasitas.
-
Pelatihan model ML dan fine-tuning — Dapatkan akses tanpa gangguan ke instans GPU yang Anda pesan untuk menyelesaikan pelatihan model dan fine-tuning.
-
Eksperimen dan prototipe ML — Jalankan eksperimen dan bangun prototipe yang memerlukan instans GPU untuk jangka waktu pendek.
Blok Kapasitas tersedia untuk jenis instans tertentu di beberapa Wil AWS ayah. Untuk informasi selengkapnya, lihat Jenis dan Wilayah instans yang didukung.
Anda dapat memesan Blok Kapasitas dengan waktu mulai reservasi hingga delapan minggu ke depan. Setiap Blok Kapasitas dapat memiliki hingga 64 instans, dan Anda dapat memiliki hingga 256 instans di seluruh Blok Kapasitas.
Jenis dan Wilayah instans yang didukung
Blok Instance dan UltraServer Kapasitas dapat digunakan dengan jenis dan AWS wilayah instance berikut.
catatan
Ukuran Blok Kapasitas 64 instans tidak didukung untuk semua jenis instans secara keseluruhan Wilayah AWS.
Blok Kapasitas Instance
| Tipe instans | US East (N. Virginia) us-east-1 | US East (Ohio) us-east-2 | US West (N. California) us-west-1 | US West (Oregon) us-west-2 | Europe (Stockholm) eu-north-1 | Europe (London) eu-west-2 | Eropa (Spanyol) eu-selatan-2 | Asia Pacific (Tokyo) ap-northeast-1 | Asia Pacific (Seoul) ap-northeast-2 | Asia Pacific (Mumbai) ap-south-1 | Asia Pacific (Sydney) ap-southeast-2 | Asia Pasifik (Jakarta) ap-Tenggara 3 | Asia Pasifik (Melbourne) ap-Tenggara -4 | Amerika Selatan (Sao Paulo) sa-east-1 | AWS GovCloud (US-East) us-gov-east-1 | AWS GovCloud (US-West) us-gov-west-1 | AS Timur (Atlanta) us-timur-1-atl-2a | AS Barat (Phoenix) us-barat-2-phx-2a |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
p6-b300.48xlarge |
✓ | ✓ | ✓ | ✓ | ||||||||||||||
p6-b200.48xlarge |
✓ | ✓ | ✓ | ✓ | ✓ | ✓ | ||||||||||||
p5.4xlarge |
✓ | ✓ | ✓ | ✓ | ✓ | ✓ | ✓ | ✓ | ||||||||||
p5.48xlarge |
✓ | ✓ | ✓ | ✓ | ✓ | ✓ | ✓ | ✓ | ✓ | ✓ | ✓ | ✓ | ||||||
p5e.48xlarge |
✓ | ✓ | ✓ | ✓ | ✓ | ✓ | ✓ | ✓ | ✓ | ✓ | ✓ | ✓ | ||||||
p5en.48xlarge |
✓ | ✓ | ✓ | ✓ | ✓ | ✓ | ✓ | ✓ | ✓ | ✓ | ✓ | ✓ | ||||||
p4d.24xlarge |
✓ | ✓ | ✓ | |||||||||||||||
p4de.24xlarge |
✓ | ✓ | ||||||||||||||||
trn1.32xlarge |
✓ | ✓ | ✓ | ✓ | ✓ | ✓ | ✓ | |||||||||||
trn2.3xlarge |
✓ | ✓ | ||||||||||||||||
trn2.48xlarge |
✓ |
UltraServer Blok Kapasitas
| Tipe instans | US East (Ohio) us-east-2 | AS Timur (Dallas) us-timur-1-dfw-2a |
|---|---|---|
Trn2 |
✓ | |
P6e-GB200 |
✓ |
Platform yang didukung
Blok Kapasitas untuk ML saat ini mendukung instance dan hanya UltraServers dengan sewa default. Saat Anda menggunakan Konsol Manajemen AWS untuk membeli Blok Kapasitas, opsi platform default adalah Linux/UNIX. Saat Anda menggunakan AWS Command Line Interface (AWS CLI) atau AWS SDK membeli Blok Kapasitas, opsi platform berikut tersedia:
-
Linux/Unix
-
Linux Red Hat Enterprise
-
RHEL dengan HA
-
SUSE Linux
-
Ubuntu Pro
Pertimbangan-pertimbangan
Sebelum Anda menggunakan Blok Kapasitas, pertimbangkan detail dan batasan berikut.
-
Jika kami mendeteksi gangguan yang memengaruhi Blok UltraServer Kapasitas, kami akan memberi tahu Anda tetapi umumnya tidak akan mengambil tindakan untuk menghentikan instans Anda di Blok Kapasitas. Ini untuk meminimalkan gangguan yang tidak diinginkan pada beban kerja Anda. Anda dapat terus menggunakan Blok UltraServer Kapasitas apa adanya setelah menerima pemberitahuan ini atau meminta perbaikan dengan mengakhiri semua instans pada blok kapasitas dan mengirimkan kasus AWS dukungan. Setelah kami menerima kasus dukungan Anda, kami akan memberi tahu Anda ketika kami telah menyelesaikan remediasi dan Anda dapat meluncurkan kembali instans ke Blok Kapasitas Anda UltraServer .
-
Untuk Blok
P6e-GB200UltraServer Kapasitas, Anda harus menghentikan instans setidaknya 60 menit sebelum waktu akhir Blok Kapasitas. -
Untuk membeli dan menggunakan Blok Kapasitas di Zona Lokal, Anda harus memilih untuk masuk ke Zona Lokal.
-
Setiap Blok Kapasitas dapat memiliki hingga 64 instans, dan Anda dapat memiliki hingga 256 instans di seluruh Blok Kapasitas.
-
Anda dapat menjelaskan penawaran Blok Kapasitas yang dapat dimulai segera setelah 30 menit.
-
Blok Kapasitas berakhir pada pukul 11:30 Waktu Universal Terkoordinasi (UTC).
-
Proses pengakhiran untuk instans yang berjalan di Blok Kapasitas dimulai pada pukul 11:00 Waktu Universal Terkoordinasi (UTC) pada hari terakhir reservasi.
-
Blok Kapasitas dapat dipesan dengan waktu mulai hingga 8 minggu di masa mendatang.
-
Pembatalan Blok Kapasitas tidak diperbolehkan.
-
UltraServer Blok Kapasitas tidak dapat dibagikan di seluruh AWS akun atau di dalam AWS Organisasi Anda.
-
Blok Kapasitas tidak dapat dipindahkan atau dibagi.
-
Hanya Blo UltraServer k Kapasitas yang dapat digunakan dengan grup sumber daya. Blok Kapasitas Instance tidak dapat digunakan dengan grup sumber daya. Untuk informasi selengkapnya, lihat Membuat grup sumber daya untuk Blok UltraServer Kapasitas.
-
Jumlah total instans yang dapat dipesan di Blok Kapasitas di semua akun di AWS Organisasi Anda tidak boleh melebihi 256 instans pada tanggal tertentu.
-
Untuk menggunakan Blok Kapasitas, instans harus secara khusus menargetkan ID reservasi.
-
Instans dalam Blok Kapasitas tidak dihitung terhadap batas On-Demand Instans Anda.
-
Untuk instans P5 menggunakan AMI khusus, pastikan Anda memiliki perangkat lunak dan konfigurasi yang diperlukan untuk EF A.
-
Untuk grup node terkelola Amazon EKS, lihat Membuat grup node terkelola dengan Blok Kapasitas Amazon EC2 untuk ML. Untuk grup node yang dikelola sendiri Amazon EKS, lihat Menggunakan Blok Kapasitas untuk ML dengan node yang dikelola sendiri.
Sumber daya terkait
Setelah Anda membuat Blok Kapasitas, Anda dapat melakukan hal berikut dengan Blok Kapasitas:
-
Luncurkan instance ke Blok Kapasitas. Untuk informasi selengkapnya, lihat Luncurkan instans menggunakan Blok Kapasitas.
-
Buat grup Penskalaan Otomatis Amazon EC2. Untuk informasi selengkapnya, lihat Menggunakan Blok Kapasitas untuk beban kerja pembelajaran mesin di Panduan Pengguna Penskalaan Otomatis Amazon EC2.
catatan
Jika Anda menggunakan Amazon EC2 Auto Scaling atau Amazon EKS, Anda dapat menjadwalkan penskalaan untuk dijalankan pada awal reservasi Blok Kapasitas. Dengan penskalaan terjadwal, AWS secara otomatis menangani percobaan ulang untuk Anda, jadi Anda tidak perlu khawatir menerapkan logika coba ulang untuk menangani kegagalan sementara.
-
Tingkatkan alur kerja ML dengan Layanan Komputasi AWS Paralel. Untuk informasi selengkapnya, lihat Dukungan Blo k Kapasitas untuk Layanan Komputasi AWS Paralel
. -
Tingkatkan alur kerja ML dengan AWS ParallelCluster. Untuk informasi selengkapnya, lihat Meningkatkan alur kerja ML dengan AWS ParallelCluster dan Blok Kapasitas Amazon EC2 untuk ML.
Untuk informasi selengkapnya tentang Layanan AWS Komputasi Paralel, lihat Apa itu Layanan Komputasi AWS Paralel.
Untuk informasi selengkapnya AWS ParallelCluster, lihat Apa itu AWS ParallelCluster.
