Pertimbangan sistem nitro untuk penyetelan kinerja

Grup keamanan menggunakan pelacakan koneksi untuk melacak informasi tentang lalu lintas yang mengalir ke dan dari instance. Perutean asimetris, di mana lalu lintas masuk ke instance melalui satu antarmuka jaringan dan keluar melalui antarmuka jaringan yang berbeda, dapat mengurangi kinerja puncak yang dapat dicapai instance jika aliran dilacak. Untuk informasi selengkapnya tentang pelacakan koneksi grup keamanan, koneksi yang tidak dilacak, dan koneksi yang dilacak secara otomatis, lihatPelacakan koneksi grup keamanan Amazon EC2.

Driver jaringan diperbarui dan dirilis secara teratur. Jika driver Anda kedaluwarsa, itu dapat secara signifikan mengganggu kinerja. Perbarui driver Anda untuk memastikan bahwa Anda memiliki patch terbaru dan dapat memanfaatkan peningkatan kinerja, seperti fitur jalur akselerasi yang hanya tersedia untuk driver generasi terbaru. Driver sebelumnya tidak mendukung fitur jalur yang dipercepat.

Untuk memanfaatkan fitur jalur yang dipercepat, sebaiknya instal driver ENA terbaru pada instans Anda.

Instans Linux — driver ENA Linux 2.2.9 atau yang lebih baru. Untuk menginstal atau memperbarui driver ENA Linux dari GitHub repositori Amazon Drivers, lihat bagian kompilasi driver dari file readme.

Instans Windows - ENA driver Windows 2.0.0 atau yang lebih baru. Untuk menginstal atau memperbarui driver ENA Windows, lihatInstal driver ENA pada instans EC2 Windows.

Koneksi antara dua instance di Zona Ketersediaan yang sama dapat memproses lebih banyak paket per detik daripada koneksi lintas Wilayah sebagai hasil dari jendela TCP di lapisan aplikasi, yang menentukan berapa banyak data yang dapat terbang pada waktu tertentu. Jarak yang jauh antara instance meningkatkan latensi dan mengurangi jumlah paket yang dapat diproses oleh titik akhir.

BQL adalah fitur yang membatasi jumlah byte yang diteruskan ke kartu Nitro untuk mengurangi antrian. BQL dinonaktifkan secara default di driver ENA, di sistem operasi Amazon Linux, dan di sebagian besar distribusi Linux. Jika BQL dan penggantian proxy fragmen keduanya diaktifkan, itu dapat mengakibatkan keterbatasan kinerja dengan membatasi jumlah byte yang diteruskan ke Nitro sebelum semua fragmen diproses.

Ukuran paket yang lebih besar dapat meningkatkan throughput untuk data yang dapat dikirim dan diterima instans di jaringan. Amazon EC2 mendukung bingkai jumbo sebesar 9001 byte, namun layanan lain mungkin menerapkan batasan yang berbeda. Ukuran paket yang lebih kecil dapat meningkatkan kecepatan proses paket, tetapi ini dapat mengurangi bandwidth maksimum yang dicapai ketika jumlah paket melebihi tunjangan PPS.

Jika ukuran paket melebihi Unit Transmisi Maksimum (MTU) dari hop jaringan, router di sepanjang jalur mungkin memecahnya. Fragmen paket yang dihasilkan dianggap pengecualian, dan biasanya diproses pada tingkat standar (tidak dipercepat). Hal ini dapat menyebabkan variasi dalam kinerja Anda. Namun, Anda dapat mengganti perilaku standar untuk paket terfragmentasi keluar dengan pengaturan mode proxy fragmen. Untuk informasi selengkapnya, lihat Maksimalkan kinerja jaringan pada sistem Nitro Anda. Kami menyarankan Anda mengevaluasi topologi Anda ketika Anda mengkonfigurasi MTU.

Protokol yang andal seperti TCP memiliki lebih banyak overhead daripada protokol yang tidak dapat diandalkan seperti UDP. Overhead yang lebih rendah dan pemrosesan jaringan yang disederhanakan untuk protokol transport UDP dapat menghasilkan tingkat PPS yang lebih tinggi, tetapi dengan mengorbankan pengiriman paket yang andal. Jika pengiriman paket yang andal tidak penting untuk aplikasi Anda, UDP mungkin merupakan pilihan yang baik.

Micro-bursting terjadi ketika lalu lintas melebihi tunjangan selama periode waktu yang singkat daripada didistribusikan secara merata. Ini biasanya terjadi pada skala mikrodetik.

Misalnya, Anda memiliki instance yang dapat mengirim hingga 10 Gbps, dan aplikasi Anda mengirimkan 10 Gb penuh dalam setengah detik. Ledakan mikro ini melebihi tunjangan selama setengah detik pertama dan tidak menyisakan apa pun untuk sisa detik kedua. Meskipun Anda mengirim 10Gb dalam jangka waktu 1 detik, tunjangan dalam setengah detik pertama dapat mengakibatkan paket mengantri atau dijatuhkan.

Anda dapat menggunakan penjadwal jaringan seperti Linux Traffic Control untuk membantu mempercepat throughput Anda dan menghindari menyebabkan paket yang mengantri atau jatuh sebagai akibat dari micro-bursting.

Satu aliran dibatasi hingga 5 Gbps kecuali berada di dalam grup penempatan cluster yang mendukung hingga 10 Gbps, atau jika menggunakan ENA Express, yang mendukung hingga 25 Gbps.

Demikian pula, kartu Nitro dapat memproses lebih banyak paket di beberapa aliran daripada menggunakan aliran tunggal. Untuk mencapai tingkat pemrosesan paket puncak per instans, kami merekomendasikan setidaknya 100 aliran pada instans dengan bandwidth agregat 100 Gbps atau lebih tinggi. Ketika kemampuan bandwidth agregat meningkat, jumlah aliran yang dibutuhkan untuk mencapai tingkat pemrosesan puncak juga meningkat. Benchmarking akan membantu Anda menentukan konfigurasi apa yang Anda butuhkan untuk mencapai tingkat puncak di jaringan Anda.

ENA (Elastic Network Adapter) menggunakan antrian multiple receiver (Rx) dan transmisi (Tx) (ENA antrean) untuk meningkatkan kinerja jaringan dan skalabilitas pada instans EC2. Antrian ini secara efisien mengelola lalu lintas jaringan dengan menyeimbangkan beban data yang dikirim dan diterima di seluruh antrian yang tersedia.

Untuk informasi selengkapnya, lihat Antrian ENA.

Fitur seperti Traffic Mirroring dan ENA Express dapat menambahkan lebih banyak overhead pemrosesan, yang dapat mengurangi kinerja pemrosesan paket absolut. Anda dapat membatasi penggunaan fitur atau menonaktifkan fitur untuk meningkatkan kecepatan pemrosesan paket.

Grup keamanan Anda menggunakan pelacakan koneksi untuk menyimpan informasi tentang lalu lintas ke dan dari instance. Pelacakan koneksi menerapkan aturan terhadap setiap aliran lalu lintas jaringan individu untuk menentukan apakah lalu lintas diizinkan atau ditolak. Kartu Nitro menggunakan pelacakan aliran untuk mempertahankan keadaan aliran. Karena lebih banyak aturan grup keamanan diterapkan, lebih banyak pekerjaan diperlukan untuk mengevaluasi alur.

Seperti disebutkan di bawah Pertimbangan Aplikasi, fragmen paket yang dihasilkan dari paket yang melebihi MTU jaringan biasanya ditangani sebagai pengecualian, dan tidak dapat memanfaatkan akselerasi perangkat keras. Namun, Anda dapat melewati batasan fragmen keluar dengan mode proxy fragmen, tergantung pada versi driver Anda. Untuk informasi selengkapnya, lihat tindakan yang dapat Anda lakukan di Maksimalkan kinerja jaringan pada sistem Nitro Anda bagian ini.

Ketika koneksi tidak memiliki aktivitas untuk sementara waktu, bahkan jika koneksi belum mencapai batas waktu tunggu, sistem dapat menurunkan prioritasnya. Kemudian, jika data masuk setelah koneksi tidak diprioritaskan, sistem perlu menanganinya sebagai pengecualian untuk menyambung kembali.

Untuk mengelola koneksi, Anda dapat menggunakan batas waktu pelacakan koneksi untuk menutup koneksi idle. Anda juga dapat menggunakan keepalives TCP untuk menjaga koneksi idle tetap terbuka. Untuk informasi selengkapnya, lihat Waktu habis pelacakan koneksi idle.

Pembaruan untuk grup keamanan, tabel rute, dan daftar kontrol akses semuanya perlu dievaluasi ulang di jalur pemrosesan untuk memastikan bahwa entri rute dan aturan grup keamanan masih berlaku seperti yang diharapkan.

Internet Control Message Protocol (ICMP) adalah protokol lapisan jaringan yang digunakan perangkat jaringan untuk mendiagnosis masalah komunikasi jaringan. Paket-paket ini selalu menggunakan aliran penuh.

NitroV3 dan platform sebelumnya tidak menggunakan akselerasi perangkat keras untuk lalu lintas antara dua ENI di subnet yang sama di mana satu ENI menggunakan router gateway default dan yang lainnya tidak. NitroV4 dan platform yang lebih baru menggunakan akselerasi perangkat keras dalam skenario ini. Untuk kinerja yang lebih baik pada NitroV3 atau platform sebelumnya, pastikan bahwa router gateway default menggunakan kecocokan antara kedua ENI, atau ENI tersebut berada di subnet yang berbeda.