View a markdown version of this page

Mengelola throughput penyimpanan untuk broker Standar di cluster Amazon MSK - Amazon Managed Streaming untuk Apache Kafka

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Mengelola throughput penyimpanan untuk broker Standar di cluster Amazon MSK

Untuk informasi tentang cara menyediakan throughput menggunakan konsol Amazon MSK, CLI, dan API, lihat. Menyediakan throughput penyimpanan untuk broker Standar di cluster Amazon MSK

Kemacetan throughput broker Amazon MSK dan pengaturan throughput maksimum

Ada beberapa penyebab hambatan dalam throughput broker: throughput volume, throughput jaringan Amazon EC2 ke Amazon EBS, dan throughput keluar Amazon EC2. Anda dapat mengaktifkan throughput penyimpanan yang disediakan untuk menyesuaikan throughput volume. Namun, keterbatasan throughput broker dapat disebabkan oleh throughput jaringan Amazon EC2 ke Amazon EBS dan throughput keluar Amazon EC2.

Throughput keluar Amazon EC2 dipengaruhi oleh jumlah kelompok konsumen dan konsumen per kelompok konsumen. Selain itu, throughput jaringan Amazon EC2 hingga Amazon EBS dan throughput keluar Amazon EC2 lebih tinggi untuk ukuran broker yang lebih besar.

Untuk ukuran volume 10 GiB atau lebih besar, Anda dapat menyediakan throughput penyimpanan sebesar 250 MiB per detik atau lebih besar. 250 MiB per detik adalah default. Untuk menyediakan throughput penyimpanan, Anda harus memilih ukuran broker kafka.m5.4xlarge atau lebih besar (atau kafka.m7g.2xlarge atau lebih besar), dan Anda dapat menentukan throughput maksimum seperti yang ditunjukkan pada tabel berikut.

ukuran broker Throughput penyimpanan maksimum (MiB/second)
kafka.m5.4xbesar 593
kafka.m5.8xbesar 850
kafka.m5.12xbesar 1000
kafka.m5.16xbesar 1000
kafka.m5.24xbesar 1000
kafka.m7g.2xbesar 312.5
kafka.m7g.4xbesar 625
kafka.m7g.8xbesar 1000
kafka.m7g.12xbesar 1000
kafka.m7g.16xbesar 1000

Mengukur throughput penyimpanan cluster Amazon MSK

Anda dapat menggunakan VolumeWriteBytes metrik VolumeReadBytes dan untuk mengukur throughput penyimpanan rata-rata cluster. Jumlah kedua metrik ini memberikan throughput penyimpanan rata-rata dalam byte. Untuk mendapatkan throughput penyimpanan rata-rata untuk cluster, atur kedua metrik ini ke SUM dan periode menjadi 1 menit, lalu gunakan rumus berikut.

Average storage throughput in MiB/s = (Sum(VolumeReadBytes) + Sum(VolumeWriteBytes)) / (60 * 1024 * 1024)

Untuk informasi tentang VolumeReadBytes dan VolumeWriteBytes metrik, lihatPER_BROKER Pemantauan tingkat.

Nilai pembaruan konfigurasi untuk penyimpanan yang disediakan di cluster Amazon MSK

Anda dapat memperbarui konfigurasi Amazon MSK sebelum atau setelah mengaktifkan throughput yang disediakan. Namun, Anda tidak akan melihat throughput yang diinginkan sampai Anda melakukan kedua tindakan: memperbarui parameter num.replica.fetchers konfigurasi dan mengaktifkan throughput yang disediakan.

Dalam konfigurasi default Amazon MSK, num.replica.fetchers memiliki nilai 2. Untuk memperbaruinum.replica.fetchers, Anda dapat menggunakan nilai yang disarankan dari tabel berikut. Nilai-nilai ini untuk tujuan panduan. Sebaiknya sesuaikan nilai-nilai ini berdasarkan kasus penggunaan Anda.

ukuran broker nom.replica.fetcher
kafka.m5.4xbesar 4
kafka.m5.8xbesar 8
kafka.m5.12xbesar 14
kafka.m5.16xbesar 16
kafka.m5.24xbesar 16

Konfigurasi yang diperbarui mungkin tidak berlaku hingga 24 jam, dan mungkin memakan waktu lebih lama jika volume sumber tidak sepenuhnya dimanfaatkan. Namun, kinerja volume transisi setidaknya sama dengan kinerja volume penyimpanan sumber selama periode migrasi. Volume 1 TiB yang dimanfaatkan sepenuhnya biasanya membutuhkan waktu sekitar enam jam untuk bermigrasi ke konfigurasi yang diperbarui.