# PERF02-BP06 Menggunakan akselerator komputasi berbasis perangkat keras yang dioptimalkan
<a name="perf_compute_hardware_compute_accelerators"></a>

 Gunakan akselerator perangkat keras untuk melakukan fungsi tertentu secara lebih efisien daripada alternatif berbasis CPU. 

 **Antipola umum:** 
+  Dalam beban kerja Anda, Anda belum melakukan uji tolok ukur instans tujuan umum dengan instans yang dibuat khusus yang dapat memberikan kinerja lebih tinggi dan biaya lebih rendah. 
+  Anda menggunakan akselerator komputasi berbasis perangkat keras untuk tugas yang bisa lebih efisien jika menggunakan alternatif berbasis CPU. 
+  Anda tidak memantau penggunaan GPU. 

**Manfaat menjalankan praktik terbaik ini:** Dengan menggunakan akselerator berbasis perangkat keras, seperti unit pemrosesan grafis (GPU) dan field programmable gate array (FPGA), Anda dapat melakukan fungsi pemrosesan tertentu dengan lebih efisien. 

 **Tingkat risiko yang terjadi jika praktik terbaik ini tidak dijalankan:** Sedang 

## Panduan implementasi
<a name="implementation-guidance"></a>

 Instans komputasi terakselerasi menyediakan akses ke akselerator komputasi berbasis perangkat keras seperti GPU dan FPGA. Akselerator perangkat keras ini menjalankan fungsi-fungsi tertentu seperti pemrosesan grafis atau pencocokan pola data secara lebih efisien daripada alternatif berbasis CPU. Banyak beban kerja yang terakselerasi, seperti perenderan, transkode, dan machine learning, memiliki variabel tinggi sehubungan dengan penggunaan sumber daya. Jalankan perangkat keras ini hanya ketika diperlukan, dan nonaktifkan instans GPU secara otomatis saat tidak diperlukan untuk meningkatkan keseluruhan efisiensi kinerja. 

### Langkah implementasi
<a name="implementation-steps"></a>
+  Identifikasi [instans komputasi terakselerasi](https://docs.aws.amazon.com/AWSEC2/latest/UserGuide/accelerated-computing-instances.html) mana yang dapat memenuhi kebutuhan Anda. 
+  Untuk beban kerja machine learning, manfaatkan perangkat keras yang dibuat khusus untuk beban kerja Anda, seperti [AWS Trainium](https://aws.amazon.com/machine-learning/trainium/), [AWS Inferentia](https://aws.amazon.com/machine-learning/inferentia/), dan [Amazon EC2 DL1](https://aws.amazon.com/ec2/instance-types/dl1/). Instans AWS Inferentia seperti instans Inf2 [menawarkan hingga 50% peningkatan kinerja/watt dibandingkan instans Amazon EC2 yang setara](https://aws.amazon.com/machine-learning/inferentia/). 
+  Kumpulkan metrik penggunaan untuk instans komputasi terakselerasi Anda. Misalnya, Anda dapat menggunakan agen CloudWatch untuk mengumpulkan metrik seperti `utilization_gpu` dan `utilization_memory` untuk GPU Anda seperti yang ditunjukkan di [Kumpulkan metrik GPU NVIDIA dengan Amazon CloudWatch](https://docs.aws.amazon.com/AmazonCloudWatch/latest/monitoring/CloudWatch-Agent-NVIDIA-GPU.html). 
+  Optimalkan kode, operasi jaringan, dan pengaturan akselerator perangkat keras untuk memastikan perangkat keras yang mendasarinya dimanfaatkan sepenuhnya. 
  +  [Optimalkan pengaturan GPU](https://docs.aws.amazon.com/AWSEC2/latest/UserGuide/optimize_gpu.html) 
  +  [Pemantauan dan Pengoptimalan GPU dalam AMI Deep Learning](https://docs.aws.amazon.com/dlami/latest/devguide/tutorial-gpu.html) 
  +  [Mengoptimalkan I/O untuk penyetelan kinerja GPU pelatihan deep learning di Amazon SageMaker AI](https://aws.amazon.com/blogs/machine-learning/optimizing-i-o-for-gpu-performance-tuning-of-deep-learning-training-in-amazon-sagemaker/) 
+  Gunakan driver GPU dan pustaka berkinerja tinggi terbaru. 
+  Gunakan otomatisasi untuk melepaskan instans GPU ketika tidak digunakan. 

## Sumber daya
<a name="resources"></a>

 **Dokumen terkait:** 
+  [Instans GPU](https://docs.aws.amazon.com/AWSEC2/latest/UserGuide/accelerated-computing-instances.html#gpu-instances) 
+  [Instans dengan AWS Trainium](https://docs.aws.amazon.com/AWSEC2/latest/UserGuide/accelerated-computing-instances.html#aws-trainium-instances) 
+  [Instans dengan AWS Inferentia](https://docs.aws.amazon.com/AWSEC2/latest/UserGuide/accelerated-computing-instances.html#aws-inferentia-instances) 
+  [Let's Architect\$1 Merancang dengan chip dan akselerator kustom](https://aws.amazon.com/blogs/architecture/lets-architect-custom-chips-and-accelerators/) 
+  [Komputasi Dipercepat](https://aws.amazon.com/ec2/instance-types/#Accelerated_Computing) 
+  [Instans VT1 Amazon EC2](https://aws.amazon.com/ec2/instance-types/vt1/) 
+  [Bagaimana cara memilih jenis instans Amazon EC2 yang tepat untuk beban kerja saya?](https://aws.amazon.com/premiumsupport/knowledge-center/ec2-instance-choose-type-for-workload/) 
+  [Pilih akselerator AI dan kompilasi model terbaik untuk inferensi penglihatan komputer dengan Amazon SageMaker AI](https://aws.amazon.com/blogs/machine-learning/choose-the-best-ai-accelerator-and-model-compilation-for-computer-vision-inference-with-amazon-sagemaker/) 

 **Video terkait:** 
+  [Cara memilih instans GPU Amazon EC2 untuk deep learning](https://www.youtube.com/watch?v=4bVrIbgGWEA&ab_channel=AWSEvents) 
+  [Melakukan Deployment Inferensi Deep Learning yang Hemat Biaya](https://www.youtube.com/watch?v=WiCougIDRsw&ab_channel=AWSOnlineTechTalks)