Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.
Ajouter des limites de débit à une passerelle
Grâce aux limites de débit, vous contrôlez la quantité de trafic que les appelants individuels, les cibles ou les outils peuvent consommer sur votre passerelle. Vous définissez des clés de dimension qui déterminent la façon dont le trafic est groupé, puis vous définissez des entrées de débit qui spécifient le débit autorisé pour chaque groupe.
Utilisez des limites de débit pour atteindre les objectifs suivants :
-
Protégez les modèles et les outils de backend contre les pics de trafic
-
Appliquez des quotas par appelant en fonction des réclamations JWT ou de l'identité IAM
-
Bloquez des appelants spécifiques en fixant un taux de zéro
-
Jetons de contrôle par minute (TPM) pour les cibles d'inférence
-
Limiter les connexions simultanées aux terminaux
Rubriques
Comment fonctionnent les limites de débit
Chaque limite de débit définit une ou plusieurs clés de dimension qui déterminent comment la passerelle regroupe le trafic dans des compartiments. Dans le cadre d'une limite de débit, vous créez des entrées qui correspondent à des valeurs de dimension spécifiques et vous spécifiez le taux autorisé pour ce compartiment.
Lorsque la passerelle reçoit une demande, elle évalue toutes les limites de débit actives. Pour chaque limite de débit, la passerelle résout les clés de dimension à partir du contexte de la demande. Il trouve l'entrée correspondante et vérifie si la demande dépasse le débit autorisé. Toutes les limites de débit doivent être respectées pour que la demande soit traitée (logique ET).
Les modifications de la limite de débit se propagent au plan de données dans les 30 secondes.
Relation avec les limites gérées par les services
La passerelle applique à la fois les limites de débit définies par le client et les limites gérées par le service. Customer-defined les limites tarifaires ne peuvent pas dépasser le plafond de service. Le taux effectif pour toute demande est le minimum entre la limite définie par le client et la limite gérée par le service. Pour connaître les limites actuelles de gestion des services, consultez la section Quotas de service Gateway.
Composantes de la limite de débit
| Composant | Description |
|---|---|
|
|
Identifiant unique pour la limite de débit (2 à 64 caractères, alphanumérique avec |
|
|
Liste ordonnée de 1 à 10 clés qui déterminent la manière dont le trafic est regroupé dans des compartiments. Les clés de dimension sont immuables après leur création. |
|
|
Une liste de 1 à 1 000 entrées de taux. Chaque entrée spécifie les valeurs de dimension et le taux autorisé pour ce compartiment. |
|
|
Une description textuelle facultative de l'objectif de la limite de débit. |
Cycle de vie du statut
| Statut | Description |
|---|---|
|
|
La limite de débit est en cours de provisionnement. Il n'est pas encore appliqué. |
|
|
La limite de débit est active et appliquée sur le plan de données. |
|
|
La limite de débit est en cours de mise à jour. La configuration précédente reste appliquée jusqu'à la fin de la mise à jour. |
|
|
La limite de débit est supprimée. L'application cesse lorsque la suppression est terminée. |
Restrictions
| Ressource | Limite |
|---|---|
|
Limites de débit par passerelle |
50 |
|
Entrées par limite tarifaire |
1 000 |
|
Clés de dimension par limite de débit |
10 |
|
Longueur maximale de la description |
512 caractères |
|
Valeurs des dimensions d'entrée |
Le nombre de clés de dimension doit correspondre |
|
Plage de valeurs de taux |
0 à 10 000 000 (0 bloque tout le trafic correspondant) |
|
Temps de propagation |
≤ 30 secondes |
Important
Les limites de débit utilisent un comportement d'ouverture automatique par défaut. Si le service de limite de débit n'est pas disponible ou si une dimension ne peut pas être résolue, la passerelle autorise la poursuite de la demande. Concevez votre posture de sécurité en conséquence et ne vous fiez pas uniquement aux limites de débit comme limite de sécurité.
Erreurs d'API courantes
Les erreurs suivantes peuvent être renvoyées lors de la gestion des limites de débit via l'API du plan de contrôle :
| Statut HTTP | Erreur | Description |
|---|---|---|
|
400 |
|
Paramètres de demande non valides (par exemple, metric/period combinaison non prise en charge, valeurs de dimension non valides). |
|
404 |
|
La passerelle ou la limite de débit spécifiée n'existe pas. |
|
409 |
|
Une limite de débit avec des clés de même dimension existe déjà, ou la passerelle est dans un état qui n'autorise aucune modification. |
