PERF02-BP02 Memahami opsi konfigurasi komputasi yang tersedia - AWS Well-Architected Framework
Panduan implementasiTingkat upaya untuk rencana implementasi:  Sumber daya

PERF02-BP02 Memahami opsi konfigurasi komputasi yang tersedia

Setiap solusi komputasi memiliki opsi dan konfigurasi yang tersedia untuk mendukung karakteristik beban kerja Anda. Pelajari bagaimana beragam opsi melengkapi beban kerja Anda, dan apa opsi konfigurasi yang terbaik untuk aplikasi Anda. Contoh dari opsi tersebut meliputi family instans, ukuran, fitur (GPU, I/O), lonjakan, waktu habis, ukuran fungsi, instans kontainer, dan konkurensi.

Hasil yang diinginkan: Karakteristik beban kerja yang mencakup CPU, memori, jaringan throughput, GPU, IOPS, pola lalu lintas, serta pola akses data, didokumentasikan dan digunakan untuk mengonfigurasi solusi komputasi untuk menyesuaikan karakteristik beban kerja. Setiap metrik tersebut serta metrik kustom khusus untuk beban kerja Anda direkam, dipantau, kemudian digunakan untuk mengoptimalkan konfigurasi komputasi guna memenuhi persyaratan.

Antipola umum:

  • Menggunakan solusi komputasi yang sama dengan yang digunakan on-premise.

  • Tidak meninjau opsi komputasi atau family instans untuk menyesuaikan karakteristik beban kerja.

  • Menetapkan ukuran yang berlebihan pada komputasi untuk memastikan kemampuan lonjakan.

  • Anda menggunakan beberapa platform manajemen komputasi untuk beban kerja yang sama.

Manfaat menjalankan praktik terbaik ini: Kenali penawaran komputasi AWS sehingga Anda dapat menentukan solusi yang tepat untuk setiap beban kerja Anda. Setelah Anda memilih penawaran komputasi untuk beban kerja Anda, Anda bisa bereksperimen secara cepat dengan penawaran komputasi tersebut untuk menentukan apakah kebutuhan kerja Anda dapat dipenuhi dengan baik. Solusi komputasi yang dioptimalkan untuk memenuhi karakteristik beban kerja akan meningkatkan kinerja Anda, menurunkan biaya, dan meningkatkan keandalan Anda.

Tingkat risiko yang terjadi jika praktik terbaik ini tidak dijalankan: Tinggi

Panduan implementasi

Jika beban kerja Anda telah menggunakan opsi komputasi yang sama selama lebih dari empat pekan dan Anda mengantisipasi bahwa karakteristiknya akan tetap sama di masa depan, Anda dapat menggunakan AWS Compute Optimizer untuk mendapatkan rekomendasi berdasarkan karakteristik komputasi Anda. Jika AWS Compute Optimizer tidak menjadi opsi karena tidak adanya metrik, jenis instans yang tidak didukung, atau perubahan yang dapat diperkirakan pada karakteristik Anda, maka Anda harus memprediksi metrik Anda berdasarkan pengujian beban dan eksperimen. 

Langkah Implementasi:

  1. Apakah Anda menjalankan instans EC2 atau kontainer dengan EC2 Launch Type?

    1. Apakah beban kerja Anda dapat menggunakan GPU untuk meningkatkan kinerja?

      1. Instans Komputasi Terakselerasi adalah instans berbasis GPU yang menyediakan kinerja tertinggi bagi pelatihan machine learning, inferensi, dan komputasi kinerja tinggi.

    2. Apakah beban kerja Anda menjalankan aplikasi inferensi machine learning?

      1. AWS Inferentia (Inf1) — Instans Inf1 dibuat untuk mendukung aplikasi inferensi machine learning. Dengan menggunakan instans Inf1, pelanggan dapat menjalankan aplikasi inferensi machine learning berskala besar, seperti pengenalan gambar, pengenalan suara, pemrosesan bahasa alami, personalisasi, dan deteksi penipuan. Anda dapat membuat model pada salah satu kerangka kerja machine learning terkenal, seperti TensorFlow, PyTorch, atau MXNet serta menggunakan instans GPU, untuk melatih model Anda. Setelah model machine learning Anda terlatih untuk memenuhi persyaratan Anda, Anda bisa men-deploy model tersebut di instans Inf1 dengan menggunakan AWS Neuron, kit pengembangan perangkat lunak (SDK) khusus yang terdiri dari pengompilasi, waktu proses, dan alat profiling yang mengoptimalkan kinerja inferensi machine learning chip Inferensi.

    3. Apakah beban kerja Anda berintegrasi dengan perangkat keras tingkat rendah untuk meningkatkan kinerja? 

      1. Field Programmable Gate Arrays (FPGA) — Menggunakan FPGA, Anda bisa mengoptimalkan beban kerja Anda dengan pelaksanaan yang dipercepat perangkat keras kustom untuk beban kerja Anda yang paling berat. Anda dapat menentukan algoritme dengan memanfaatkan bahasa pemrograman umum yang didukung seperti C atau Go, atau bahasa berorientasi perangkat keras seperti Verilog atau VHDL.

    4. Apakah Anda memiliki metrik selama setidaknya empat pekan dan dapat memprediksi bahwa pola lalu lintas serta metrik Anda akan tetap sama di masa depan?

      1. Gunakan Compute Optimizer untuk mendapatkan rekomendasi machine learning mengenai konfigurasi komputasi mana yang paling cocok dengan karakteristik komputasi Anda.

    5. Apakah kinerja beban kerja Anda terkendala oleh metrik CPU? 

      1. Instans komputasi yang dioptimalkan ideal untuk beban kerja yang memerlukan prosesor kinerja tinggi. 

    6. Apakah kinerja beban kerja Anda terkendala oleh metrik memori? 

      1. Instans memori yang dioptimalkan mengirimkan sejumlah besar memori untuk mendukung beban kerja intensif memori.

    7. Apakah kinerja beban kerja Anda terkendala oleh IOPS?

      1. Instans penyimpanan yang dioptimalkan didesain untuk beban kerja yang memerlukan akses baca dan tulis sekuensial (IOPS) yang tinggi ke penyimpanan lokal.

    8. Apakah karakteristik beban kerja Anda merepresentasikan kebutuhan seimbang di seluruh metrik?

      1. Apakah CPU beban kerja Anda perlu melonjak untuk menangani peningkatan lalu lintas?

        1. Instans Kinerja yang Dapat Melonjak serupa dengan instans Komputasi yang Dioptimalkan kecuali adaya penawaran kemampuan untuk melonjak melewati dasar CPU tetap yang teridentifikasi pada instans komputasi yang dioptimalkan.

      2. Instans Tujuan Umum menyediakan keseimbangan semua karakteristik untuk mendukung beragam beban kerja.

    9. Apakah instans komputasi Anda berjalan di Linux dan terkendala oleh throughput jaringan di kartu antarmuka jaringan?

      1. Peninjauan Pertanyaan Kinerja 5, Praktik Terbaik 2: Evaluasi fitur jaringan yang tersedia untuk menemukan jenis dan family instans yang tepat untuk memenuhi kebutuhan kinerja Anda.

    10. Apakah beban kerja Anda memerlukan instans yang konsisten dan dapat diprediksi pada Zona Ketersediaan spesifik yang dapat Anda terapkan selama setahun? 

      1. Instans Terpesan mengonfirmasi reservasi kapasitas pada Zona Ketersediaan tertentu. Instans Terpesan ideal untuk daya komputasi yang diperlukan di Zona Ketersediaan tertentu. 

    11. Apakah beban kerja Anda memiliki lisensi yang memerlukan perangkat keras khusus?

      1. Host Khusus mendukung lisensi perangkat lunak yang ada dan membantu Anda memenuhi persyaratan kepatuhan.

    12. Apakah solusi komputasi Anda melonjak dan memerlukan pemrosesan sinkron?

      1. Instans Sesuai Permintaan memungkinkan Anda menggunakan kapasitas komputasi per jam atau per detik tanpa komitmen jangka panjang. Instans ini bagus untuk lonjakan di atas kebutuhan dasar kinerja.

    13. Apakah solusi komputasi Anda stateless, toleran terhadap kesalahan, dan asinkron? 

      1. Instans Spot memungkinkan Anda memanfaatkan kapasitas instans yang tidak terpakai untuk beban kerja stateless dan toleran terhadap kesalahan. 

  2. Apakah Anda menjalankan kontainer di Fargate?

    1. Apakah kinerja tugas Anda terkendala oleh memori atau CPU?

      1. Gunakan Task Size untuk menyesuaikan memori atau CPU Anda.

    2. Apakah kinerja Anda terpengaruh oleh lonjakan pola lalu lintas?

      1. Gunakan konfigurasi Auto Scaling untuk menyesuaikan pola lalu lintas Anda.

  3. Apakah solusi komputasi Anda ada di Lambda?

    1. Apakah Anda memiliki metrik selama setidaknya empat pekan dan dapat memprediksi bahwa pola lalu lintas serta metrik Anda akan tetap sama di masa depan?

      1. Gunakan Compute Optimizer untuk mendapatkan rekomendasi machine learning mengenai konfigurasi komputasi mana yang paling cocok dengan karakteristik komputasi Anda.

    2. Apakah Anda tidak memiliki metrik yang cukup untuk menggunakan AWS Compute Optimizer?

      1. Jika Anda tidak memiliki metrik yang tersedia untuk menggunakan Compute Optimizer, gunakan AWS Lambda Power Tuning untuk membantu memilih konfigurasi terbaik.

    3. Apakah kinerja fungsi Anda terkendala oleh memori atau CPU?

      1. Konfigurasikan memori Lambda Anda untuk memenuhi metrik kebutuhan kinerja Anda.

    4. Apakah fungsi Anda mengalami waktu habis dalam pelaksanaannya?

      1. Ubah pengaturan waktu habis

    5. Apakah kinerja fungsi Anda terkendala oleh lonjakan aktivitas dan konkurensi? 

      1. Konfigurasikan pengaturan konkurensi untuk memenuhi persyaratan kinerja Anda.

    6. Apakah fungsi Anda berjalan dengan asinkron dan mengalami kegagalan pada percobaan ulang?

      1. Konfigurasikan usia maksimum peristiwa dan batas percobaan ulang maksimum pada pengaturan konfigurasi asinkron.

Tingkat upaya untuk rencana implementasi: 

Untuk menerapkan praktik terbaik ini, Anda harus mengetahui metrik dan karakteristik komputasi Anda saat ini. Mengumpulkan metrik tersebut, membuat dasar acuan, kemudian menggunakan metrik tersebut untuk mengidentifikasi opsi komputasi yang ideal memiliki tingkat upaya rendah ke kedang . Hal ini divalidasi dengan eksperimen dan uji beban.

Sumber daya

Dokumen terkait:

Video terkait:

Contoh terkait: