View a markdown version of this page

Menambahkan batas tarif ke gateway - Batu Dasar Amazon AgentCore

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Menambahkan batas tarif ke gateway

Dengan batas tarif, Anda mengontrol berapa banyak lalu lintas yang dapat dikonsumsi oleh penelepon individu, target, atau alat di gateway Anda. Anda menentukan kunci dimensi yang menentukan bagaimana lalu lintas dikelompokkan, lalu menetapkan entri tarif yang menentukan throughput yang diizinkan untuk setiap grup.

Gunakan batas tarif untuk mencapai tujuan berikut:

  • Lindungi model dan alat backend dari lonjakan lalu lintas

  • Menegakkan kuota per penelepon berdasarkan klaim JWT atau identitas IAM

  • Blokir penelepon tertentu dengan menetapkan tingkat nol

  • Kontrol token per menit (TPM) untuk target inferensi

  • Batasi koneksi bersamaan ke titik akhir

Bagaimana batas tarif bekerja

Setiap batas tarif mendefinisikan satu atau lebih kunci dimensi yang menentukan bagaimana gateway mengelompokkan lalu lintas ke dalam bucket. Dalam batas tarif, Anda membuat entri yang cocok dengan nilai dimensi tertentu dan menentukan tarif yang diizinkan untuk bucket tersebut.

Ketika gateway menerima permintaan, ia mengevaluasi semua batas tarif aktif. Untuk setiap batas tarif, gateway menyelesaikan kunci dimensi dari konteks permintaan. Ini menemukan entri yang cocok dan memeriksa apakah permintaan melebihi tarif yang diizinkan. Semua batas tarif harus lulus agar permintaan dapat dilanjutkan (logika AND).

Perubahan batas laju menyebar ke bidang data dalam waktu 30 detik.

Hubungan dengan batas yang dikelola layanan

Gateway memberlakukan batas tarif yang ditentukan pelanggan dan batas yang dikelola layanan. Customer-defined batas tarif tidak dapat melebihi batas layanan. Tarif efektif untuk permintaan apa pun adalah minimum batas yang ditentukan pelanggan dan batas yang dikelola layanan. Untuk batas layanan yang dikelola saat ini, lihat Kuota layanan Gateway.

Komponen batas tarif

Komponen Deskripsi

rateLimitId

Pengidentifikasi unik untuk batas tarif (2-64 karakter, alfanumerik dengan-,_,.). Anda dapat menentukan ID Anda sendiri saat pembuatan, atau menghilangkannya dan layanan menghasilkannya secara otomatis. Muncul dalam tanggapan dan metrik yang dibatasi.

dimensionKeys

Daftar berurutan dari 1 hingga 10 kunci yang menentukan bagaimana lalu lintas dikelompokkan ke dalam bucket. Kunci dimensi tidak dapat diubah setelah pembuatan.

entries

Daftar 1 hingga 1.000 entri tarif. Setiap entri menentukan nilai dimensi dan tarif yang diizinkan untuk bucket itu.

description

Deskripsi teks opsional tentang tujuan batas tarif.

Siklus hidup status

Status Deskripsi

CREATING

Batas tarif sedang disediakan. Itu belum ditegakkan.

ACTIVE

Batas laju aktif dan diberlakukan pada bidang data.

UPDATING

Batas tarif sedang diperbarui. Konfigurasi sebelumnya tetap diberlakukan sampai pembaruan selesai.

DELETING

Batas tarif sedang dihapus. Penegakan berhenti saat penghapusan selesai.

Batas

Sumber daya Kuota

Batas tarif per gateway

50

Entri per batas tarif

1.000

Kunci dimensi per batas tarif

10

Deskripsi panjang maksimum

512 karakter

Nilai dimensi entri

Harus cocok dengan jumlah kunci dimensi

Rentang nilai nilai

0 hingga 10.000.000 (0 memblokir semua lalu lintas yang cocok)

Waktu propagasi

≤ 30 detik

penting

Batas tarif menggunakan perilaku gagal buka secara default. Jika layanan batas tarif tidak tersedia atau dimensi tidak dapat diselesaikan, gateway mengizinkan permintaan untuk dilanjutkan. Rancang postur keamanan Anda sesuai dan jangan hanya mengandalkan batas tarif sebagai batas keamanan.

Kesalahan API umum

Kesalahan berikut mungkin dikembalikan saat mengelola batas laju melalui API bidang kontrol:

Status HTTP Kesalahan Deskripsi

400

ValidationException

Parameter permintaan tidak valid (misalnya, metric/period kombinasi yang tidak didukung, nilai dimensi tidak valid).

404

ResourceNotFoundException

Gateway atau batas tarif yang ditentukan tidak ada.

409

ConflictException

Batas laju dengan kunci dimensi yang sama sudah ada, atau gateway berada dalam keadaan yang tidak mengizinkan modifikasi.