Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.
# Lingkungan layanan untuk AWS Batch
Lingkungan layanan memungkinkan AWS Batch untuk berintegrasi dengan SageMaker AI. Lingkungan layanan berisi parameter konfigurasi khusus SageMaker AI yang diperlukan AWS Batch untuk mengirimkan dan mengelola pekerjaan SageMaker Pelatihan sambil memberikan AWS Batch kemampuan antrian, penjadwalan, dan manajemen prioritas.
Dengan lingkungan layanan, ilmuwan data dan insinyur ML dapat mengirimkan pekerjaan SageMaker Pelatihan dengan prioritas untuk melayani antrian pekerjaan. Integrasi ini menghilangkan kebutuhan akan koordinasi manual beban kerja ML, mencegah pengeluaran berlebihan yang tidak disengaja, dan meningkatkan pemanfaatan sumber daya di seluruh alur kerja pembelajaran mesin organisasi Anda.
**Topics**
+ [Apa lingkungan layanan di AWS Batch](what-are-service-environments.md)
+ [Status lingkungan layanan dan siklus hidup di AWS Batch](service-environment-states.md)
+ [Menciptakan lingkungan layanan di AWS Batch](create-service-environments.md)
+ [Memperbarui lingkungan layanan di AWS Batch](updating-service-environments.md)
+ [Menghapus lingkungan layanan di AWS Batch](deleting-service-environments.md)
# Apa lingkungan layanan di AWS Batch
Lingkungan layanan adalah AWS Batch sumber daya yang berisi parameter konfigurasi yang diperlukan untuk berintegrasi AWS Batch dengan SageMaker AI. Lingkungan layanan memungkinkan AWS Batch untuk mengirimkan dan mengelola pekerjaan SageMaker Pelatihan sambil memberikan AWS Batch kemampuan antrian, penjadwalan, dan manajemen prioritas.
Lingkungan layanan mengatasi tantangan umum yang dihadapi tim ilmu data saat mengelola beban kerja pembelajaran mesin. Organizations sering membatasi jumlah instans yang tersedia untuk model pelatihan untuk mencegah pengeluaran berlebihan yang tidak disengaja, memenuhi batasan anggaran, menghemat biaya dengan instans cadangan, atau menggunakan jenis instans tertentu untuk beban kerja. Namun, ilmuwan data mungkin ingin menjalankan lebih banyak beban kerja secara bersamaan daripada yang mungkin dengan instance yang dialokasikan, membutuhkan koordinasi manual untuk memutuskan beban kerja mana yang berjalan kapan.
Tantangan koordinasi ini berdampak pada organisasi dari semua ukuran, mulai dari tim yang hanya memiliki beberapa ilmuwan data hingga operasi skala besar. Seiring pertumbuhan organisasi, kompleksitas meningkat, membutuhkan lebih banyak waktu untuk mengelola koordinasi beban kerja dan seringkali memerlukan keterlibatan administrator infrastruktur. Upaya manual ini membuang waktu dan mengurangi efisiensi instans, menghasilkan biaya nyata bagi pelanggan.
Dengan lingkungan layanan, ilmuwan data dan insinyur ML dapat mengirimkan pekerjaan SageMaker Pelatihan dengan prioritas ke antrian yang dapat dikonfigurasi, memastikan beban kerja berjalan secara otomatis tanpa intervensi segera setelah sumber daya tersedia. Integrasi ini memanfaatkan AWS Batch kemampuan antrian dan penjadwalan yang luas, memungkinkan pelanggan untuk menyesuaikan kebijakan antrian dan penjadwalan mereka agar sesuai dengan tujuan organisasi mereka.
## Bagaimana lingkungan layanan bekerja dengan AWS Batch komponen lain
Lingkungan layanan terintegrasi dengan AWS Batch komponen lain untuk memungkinkan antrian pekerjaan SageMaker Pelatihan:
+ **Antrian pekerjaan** - Lingkungan layanan dikaitkan dengan antrian pekerjaan untuk memungkinkan antrian memproses pekerjaan layanan untuk pekerjaan Pelatihan SageMaker
+ **Pekerjaan layanan** - Saat Anda mengirimkan pekerjaan layanan ke antrian yang terkait dengan lingkungan layanan, AWS Batch gunakan konfigurasi lingkungan untuk mengirimkan pekerjaan SageMaker Pelatihan yang sesuai
+ **Kebijakan penjadwalan** - Lingkungan layanan bekerja dengan kebijakan AWS Batch penjadwalan untuk memprioritaskan dan mengelola urutan pelaksanaan pekerjaan Pelatihan SageMaker
Integrasi ini memungkinkan Anda untuk memanfaatkan AWS Batch kemampuan antrian dan penjadwalan yang matang sambil mempertahankan fungsionalitas penuh dan fleksibilitas pekerjaan Pelatihan. SageMaker
## Praktik terbaik untuk lingkungan layanan
Lingkungan layanan menyediakan kemampuan untuk mengelola pekerjaan SageMaker Pelatihan dalam skala besar. Mengikuti praktik terbaik ini membantu Anda mengoptimalkan biaya, kinerja, dan efisiensi operasional sambil menghindari masalah konfigurasi umum yang dapat memengaruhi alur kerja pembelajaran mesin Anda.
Saat merencanakan kapasitas lingkungan layanan, pertimbangkan kuota dan batasan spesifik yang berlaku untuk antrian pekerjaan SageMaker Pelatihan. Setiap lingkungan layanan memiliki batas kapasitas maksimum yang dinyatakan dalam jumlah instance, yang secara langsung mengontrol berapa banyak pekerjaan SageMaker Pelatihan yang dapat dijalankan secara bersamaan. Memahami batas-batas ini membantu mencegah perselisihan sumber daya dan memastikan waktu pelaksanaan pekerjaan yang dapat diprediksi.
Kinerja lingkungan layanan yang optimal tergantung pada pemahaman karakteristik unik dari penjadwalan pekerjaan SageMaker Pelatihan. Tidak seperti pekerjaan kontainer tradisional, pekerjaan layanan bertransisi melalui `SCHEDULED` negara bagian sementara SageMaker AI memperoleh dan menyediakan contoh pelatihan yang diperlukan. Ini berarti waktu mulai pekerjaan dapat bervariasi secara signifikan berdasarkan ketersediaan instans dan kapasitas regional.
**penting**
Lingkungan layanan memiliki kuota khusus yang dapat memengaruhi kemampuan Anda untuk menskalakan SageMaker beban kerja Pelatihan. Anda dapat membuat hingga 50 lingkungan layanan per akun, dengan setiap antrian pekerjaan hanya mendukung satu lingkungan layanan terkait. Selain itu, Payload Permintaan Layanan untuk pekerjaan individu dibatasi hingga 10 KiB, dan `SubmitServiceJob` API dibatasi hingga 5 transaksi per detik per akun. Memahami batas-batas ini selama perencanaan kapasitas mencegah kendala penskalaan yang tidak terduga.
Pemantauan lingkungan layanan yang efektif membutuhkan perhatian pada keduanya AWS Batch dan metrik layanan SageMaker AI. [Transisi status pekerjaan](service-job-status.md) memberikan wawasan berharga tentang kinerja sistem, terutama waktu yang dihabiskan di `SCHEDULED` negara bagian, yang menunjukkan pola ketersediaan kapasitas. Lingkungan layanan mempertahankan status siklus hidupnya sendiri yang mirip dengan lingkungan komputasi, transisi melalui,, `CREATING` `VALID``INVALID`, dan `DELETING` status yang harus dipantau untuk kesehatan operasional. Organizations dengan praktik pemantauan yang matang biasanya melacak kedalaman antrian, tingkat penyelesaian pekerjaan, dan pola pemanfaatan instance untuk mengoptimalkan konfigurasi lingkungan layanan mereka dari waktu ke waktu.
# Status lingkungan layanan dan siklus hidup di AWS Batch
Lingkungan layanan mempertahankan status siklus hidup yang menunjukkan status operasional mereka saat ini dan kesiapan untuk memproses SageMaker pekerjaan Pelatihan. Memahami status ini membantu Anda memantau kesehatan lingkungan layanan, memecahkan masalah konfigurasi, dan memastikan pemrosesan pekerjaan yang andal. Sistem manajemen negara mengikuti pola yang ditetapkan dari lingkungan komputasi sambil mengakomodasi persyaratan unik integrasi pekerjaan SageMaker Pelatihan.
Status lingkungan layanan dikelola secara otomatis AWS Batch berdasarkan validasi konfigurasi, ketersediaan sumber daya, dan pemeriksaan kesehatan operasional. Tidak seperti lingkungan komputasi yang mengelola infrastruktur fisik, lingkungan layanan berfokus pada validasi konfigurasi dan kesiapan integrasi dengan SageMaker layanan AI. Transisi status memberikan visibilitas apakah lingkungan layanan Anda dapat berhasil mengirimkan dan mengelola pekerjaan SageMaker Pelatihan.
# Definisi keadaan lingkungan layanan
Lingkungan layanan dapat berada di salah satu dari empat kemungkinan keadaan yang menunjukkan status operasional mereka saat ini dan kesiapan untuk memproses pekerjaan SageMaker Pelatihan. Setiap status mewakili fase tertentu dalam siklus hidup lingkungan layanan, dari pembuatan awal hingga kesiapan operasional hingga penghapusan akhirnya. Tabel berikut menjelaskan setiap negara bagian dan artinya:
| Status | Deskripsi |
| --- | --- |
| CREATING | Keadaan awal saat Anda membuat lingkungan layanan. Selama keadaan ini, AWS Batch memvalidasi parameter konfigurasi dan menetapkan integrasi dengan layanan SageMaker AI. Lingkungan layanan tidak dapat memproses pekerjaan, dan antrian pekerjaan apa pun yang terkait dengannya tidak akan menerima pengiriman pekerjaan layanan. Proses pembuatan biasanya selesai dalam beberapa detik untuk lingkungan layanan yang dikonfigurasi dengan benar. |
| VALID | Keadaan operasional yang menunjukkan bahwa lingkungan layanan telah melewati semua pemeriksaan validasi konfigurasi dan siap untuk memproses pekerjaan SageMaker Pelatihan. Status ini menunjukkan bahwa konfigurasi lingkungan layanan sudah benar, semua izin yang diperlukan ada, dan AWS Batch dapat berhasil mengirimkan pekerjaan ke SageMaker AI atas nama Anda. Lingkungan layanan menghabiskan sebagian besar siklus hidup operasionalnya di negara bagian ini. |
| INVALID | Status yang menunjukkan bahwa lingkungan layanan mengalami masalah konfigurasi atau izin yang mencegahnya memproses pekerjaan SageMaker Pelatihan. Antrian pekerjaan yang terkait dengan lingkungan layanan yang tidak valid tidak dapat memproses pengiriman pekerjaan layanan baru hingga masalah mendasar diselesaikan. |
| DELETING | Status yang terjadi saat Anda meminta penghapusan lingkungan layanan. Selama keadaan ini, AWS Batch pastikan bahwa tidak ada pekerjaan SageMaker Pelatihan aktif yang terkait dengan lingkungan dan melakukan operasi pembersihan yang diperlukan. Lingkungan layanan dalam keadaan ini tidak dapat memproses pengiriman pekerjaan baru, dan proses penghapusan selesai setelah semua sumber daya terkait dibersihkan dengan benar. |
## Transisi keadaan lingkungan layanan
Transisi status lingkungan layanan terjadi secara otomatis berdasarkan perubahan konfigurasi, hasil validasi, dan pemantauan kesehatan operasional. AWS Batch Layanan terus memantau kesehatan lingkungan layanan dan memperbarui status yang sesuai. Memahami transisi ini membantu Anda mengantisipasi kapan perubahan konfigurasi akan berlaku dan cara mengatasi masalah yang menyebabkan status tidak valid.
Setelah pembuatan dan validasi berhasil, lingkungan layanan beralih dari `CREATING` ke`VALID`. Transisi ini mengonfirmasi bahwa semua parameter konfigurasi sudah benar, izin IAM yang diperlukan dikonfigurasi dengan benar, dan lingkungan layanan dapat berhasil diintegrasikan dengan layanan SageMaker AI. Setelah di `VALID` negara bagian, antrian pekerjaan terkait dapat mulai memproses pengiriman pekerjaan layanan.
Lingkungan layanan bertransisi dari `VALID` ke `INVALID` saat validasi konfigurasi gagal atau ketika dependensi menjadi tidak tersedia. Hal ini dapat terjadi karena modifikasi peran IAM, perubahan batas kapasitas yang melanggar kuota, atau modifikasi sumber daya eksternal yang mempengaruhi kemampuan lingkungan layanan untuk berfungsi. Bidang alasan status memberikan rincian spesifik tentang apa yang menyebabkan status tidak valid.
Lingkungan layanan dapat bertransisi kembali `VALID` dari `INVALID` setelah masalah mendasar diselesaikan. Ini mungkin melibatkan memperbarui izin IAM, mengoreksi konfigurasi kapasitas, atau memulihkan akses ke sumber daya yang diperlukan. AWS Transisi biasanya terjadi secara otomatis setelah AWS Batch mendeteksi bahwa masalah konfigurasi telah diatasi.
# Menciptakan lingkungan layanan di AWS Batch
Sebelum Anda dapat menjalankan pekerjaan SageMaker Pelatihan di AWS Batch, Anda perlu menciptakan lingkungan layanan. Anda dapat membuat lingkungan layanan yang berisi parameter konfigurasi yang diperlukan AWS Batch untuk berintegrasi dengan layanan SageMaker AI dan mengirimkan pekerjaan SageMaker Pelatihan atas nama Anda.
## Prasyarat
Sebelum membuat lingkungan layanan, pastikan Anda memiliki:
+ **Izin IAM — Izin** untuk membuat dan mengelola lingkungan layanan. Untuk informasi selengkapnya, lihat [AWS Batch Kebijakan, peran, dan izin IAM](IAM_policies.md).
------
#### [ Create a service environment (AWS Console) ]
Gunakan AWS Batch konsol untuk membuat lingkungan layanan melalui antarmuka web.
**Untuk menciptakan lingkungan layanan**
1. Buka AWS Batch konsol di [https://console.aws.amazon.com/batch/](https://console.aws.amazon.com/batch/).
1. Pada panel navigasi, pilih **Lingkungan**.
1. Pilih **Buat lingkungan**, pilih **Lingkungan layanan**.
1. Untuk **konfigurasi lingkungan Layanan** pilih SageMaker AI.
1. Untuk **Nama**, masukkan nama unik untuk lingkungan layanan Anda. Karakter yang valid adalah a-z, A-Z, 0-9, tanda hubung (-), dan garis bawah (\$1).
1. Untuk **Jumlah instans Maks**, masukkan jumlah maksimum instans pelatihan bersamaan
1. (Opsional) Tambahkan tag dengan memilih **Tambahkan tag** dan masukkan pasangan nilai kunci.
1. Pilih **Berikutnya**.
1. Tinjau detail lingkungan layanan baru dan pilih **Buat lingkungan layanan**.
------
#### [ Create a service environment (AWS CLI) ]
Gunakan `create-service-environment` perintah untuk membuat lingkungan layanan dengan AWS CLI.
**Untuk menciptakan lingkungan layanan**
1. Buat lingkungan layanan dengan parameter dasar yang diperlukan:
```
aws batch create-service-environment \
--service-environment-name my-sagemaker-service-env \
--service-environment-type SAGEMAKER_TRAINING \
--capacity-limits capacityUnit=NUM_INSTANCES,maxCapacity=10
```
1. (Opsional) Buat lingkungan layanan dengan tag:
```
aws batch create-service-environment \
--service-environment-name my-sagemaker-service-env \
--service-environment-type SAGEMAKER_TRAINING \
--capacity-limits capacityUnit=NUM_INSTANCES,maxCapacity=10 \
--tags team=data-science,project=ml-training
```
1. Verifikasi lingkungan layanan berhasil dibuat:
```
aws batch describe-service-environments \
--service-environment my-sagemaker-service-env
```
Lingkungan layanan muncul dalam daftar Lingkungan dengan `CREATING` status. Ketika pembuatan selesai dengan sukses, status berubah `VALID` dan lingkungan layanan siap untuk memiliki antrian pekerjaan layanan yang ditambahkan ke dalamnya sehingga lingkungan layanan dapat mulai memproses pekerjaan.
------
# Memperbarui lingkungan layanan di AWS Batch
Anda dapat memperbarui lingkungan layanan untuk mengubah batas kapasitasnya, mengubah status operasionalnya, atau memperbarui tag sumber daya. Pembaruan lingkungan layanan memungkinkan Anda menyesuaikan kapasitas saat persyaratan beban kerja SageMaker Pelatihan mengubah atau mengubah pengaturan operasional tanpa membuat ulang lingkungan. Sebelum memperbarui lingkungan layanan, pahami parameter mana yang dapat dimodifikasi dan dampak perubahan pada pekerjaan yang sedang berjalan.
Anda dapat mengubah batas Kapasitas, Status, atau Tag lingkungan layanan.
------
#### [ Update a service environment (AWS Console) ]
Gunakan AWS Batch konsol untuk memperbarui lingkungan layanan melalui antarmuka web.
**Untuk memperbarui lingkungan layanan**
1. Buka AWS Batch konsol di [https://console.aws.amazon.com/batch/](https://console.aws.amazon.com/batch/).
1. Pada panel navigasi, pilih **Lingkungan**.
1. Pilih tab **Lingkungan layanan**.
1. Pilih lingkungan layanan untuk diperbarui.
1. Pilih **Tindakan**, lalu pilih salah satu:
+ **Status** - Pilih **Aktifkan** atau **Nonaktifkan** untuk mengubah status.
+ **Batas kapasitas** - Ubah **jumlah instans Maks**
1. Pilih **Simpan perubahan** untuk menerapkan perubahan.
Lingkungan layanan segera diperbarui. Periksa detail lingkungan untuk mengonfirmasi bahwa perubahan berhasil diterapkan. Jika Anda menonaktifkan lingkungan layanan, antrian pekerjaan terkait akan berhenti memproses kiriman pekerjaan layanan baru hingga Anda mengaktifkannya kembali.
------
#### [ Update a service environment (AWS CLI) ]
Gunakan `update-service-environment` perintah untuk memodifikasi lingkungan layanan dengan AWS CLI.
**Untuk memperbarui batas kapasitas lingkungan layanan**
1. Perbarui batas kapasitas untuk lingkungan layanan:
```
aws batch update-service-environment \
--service-environment my-sagemaker-service-env \
--capacity-limits capacityUnit=NUM_INSTANCES,maxCapacity=20
```
1. Verifikasi bahwa pembaruan berhasil diterapkan:
```
aws batch describe-service-environments \
--service-environments my-sagemaker-service-env
```
**Untuk memperbarui status lingkungan layanan**
1. Nonaktifkan lingkungan layanan untuk berhenti memproses pekerjaan baru:
```
aws batch update-service-environment \
--service-environment my-sagemaker-service-env \
--state DISABLED
```
1. Aktifkan kembali lingkungan layanan untuk melanjutkan pemrosesan:
```
aws batch update-service-environment \
--service-environment my-sagemaker-service-env \
--state ENABLED
```
Pembaruan lingkungan layanan segera berlaku. Pantau status lingkungan layanan untuk memastikan pembaruan selesai dengan sukses sebelum mengirimkan pekerjaan baru.
------
# Menghapus lingkungan layanan di AWS Batch
Anda dapat menghapus lingkungan layanan ketika tidak lagi diperlukan untuk pekerjaan SageMaker Pelatihan Anda. Menghapus lingkungan layanan menghapus konfigurasi dan mencegah pengiriman pekerjaan lebih lanjut. Sebelum menghapus lingkungan layanan, pastikan bahwa tidak ada pekerjaan SageMaker Pelatihan aktif yang bergantung padanya dan tidak ada antrian pekerjaan yang terkait dengan lingkungan layanan.
**penting**
Penghapusan lingkungan layanan tidak dapat diubah. Setelah dihapus, Anda tidak dapat memulihkan lingkungan layanan atau konfigurasinya. Jika Anda membutuhkan fungsionalitas serupa di masa depan, Anda harus membuat lingkungan layanan baru dengan pengaturan yang diperlukan. Pertimbangkan untuk menonaktifkan lingkungan layanan alih-alih penghapusan jika Anda mungkin perlu mengaktifkannya kembali nanti.
**catatan**
Menghapus semua lingkungan layanan di akun Anda tidak secara otomatis menghapus peran terkait layanan yang dibuat untuk AWS Batch dan SageMaker integrasi AI. Peran terkait layanan tetap tersedia untuk pembuatan lingkungan layanan masa depan. Jika Anda ingin menghapus peran terkait layanan, Anda harus menghapusnya secara terpisah menggunakan IAM setelah memastikan tidak ada lingkungan layanan di akun Anda.
## Prasyarat penghapusan
Sebelum Anda dapat menghapus lingkungan layanan, Anda harus memisahkan antrian pekerjaan layanan apa pun dan kemudian menonaktifkan lingkungan layanan.
**Sebelum menghapus lingkungan layanan:**
+ **Periksa pekerjaan aktif** - Pastikan tidak ada pekerjaan SageMaker Pelatihan yang saat ini berjalan melalui lingkungan layanan.
+ **Tinjau antrian pekerjaan** - Identifikasi antrian pekerjaan yang terkait dengan lingkungan layanan dan kaitkan antrian pekerjaan dengan lingkungan layanan yang berbeda atau nonaktifkan dan hapus antrian pekerjaan.
**Manajemen antrian pekerjaan:** Antrian pekerjaan yang dikaitkan dengan lingkungan layanan yang dihapus masih dapat ada tetapi tidak dapat memproses pekerjaan layanan. Anda harus menghapus antrian pekerjaan yang tidak digunakan atau mengaitkannya dengan lingkungan layanan yang berbeda sebelum menghapus lingkungan layanan asli.
------
#### [ Delete a service environment (AWS Console) ]
Gunakan AWS Batch konsol untuk menghapus lingkungan layanan melalui antarmuka web.
**Untuk menghapus lingkungan layanan**
1. Buka AWS Batch konsol di [https://console.aws.amazon.com/batch/](https://console.aws.amazon.com/batch/).
1. Pada panel navigasi, pilih **Lingkungan**.
1. Pilih tab **Lingkungan layanan** dan kemudian pilih lingkungan layanan.
1. Jika lingkungan layanan diaktifkan, pilih **Tindakan** dan kemudian **Nonaktifkan**.
1. Setelah lingkungan layanan dinonaktifkan, pilih **Tindakan** dan kemudian **Hapus**.
1. Pada dialog konfirmasi, pilih **Konfirmasi**.
Lingkungan layanan menunjukkan `DELETING` status saat penghapusan terjadi. Setelah penghapusan selesai, lingkungan layanan menghilang dari daftar Lingkungan.
------
#### [ Delete a service environment (AWS CLI) ]
Gunakan `delete-service-environment` perintah untuk menghapus lingkungan layanan dengan AWS CLI.
**Untuk menghapus lingkungan layanan**
1. Periksa antrian pekerjaan terkait dengan lingkungan layanan:
```
aws batch describe-job-queues
```
Jika ada antrian pekerjaan yang terkait dengan lingkungan layanan, Anda dapat [memisahkan antrian pekerjaan](https://docs.aws.amazon.com/batch/latest/APIReference/API_UpdateJobQueue.html) dari lingkungan layanan dan mengaitkannya dengan lingkungan layanan yang berbeda, atau menghapus antrian pekerjaan.
1. Nonaktifkan lingkungan layanan:
```
aws batch update-service-environment \
--service-environment my-sagemaker-service-env \
--state DISABLED
```
1. Hapus lingkungan layanan:
```
aws batch delete-service-environment \
--service-environment my-sagemaker-service-env
```
1. Pantau proses penghapusan:
```
aws batch describe-service-environments \
--service-environment my-sagemaker-service-env
```
Transisi lingkungan layanan ke `DELETING` status selama proses penghapusan. Setelah penghapusan selesai, lingkungan layanan tidak lagi terdaftar dalam operasi deskripsikan. Antrian pekerjaan terkait tetap tetapi tidak dapat memproses pekerjaan layanan sampai dikaitkan dengan lingkungan layanan yang berbeda.
------