暫時關閉擴展政策 - Amazon SageMaker AI

本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

暫時關閉擴展政策

設定自動擴展之後，如果您需要在不受擴展政策 (動態擴展) 干擾的情況下處理問題，您可以採取下列方式：

  • 呼叫 register-scalable-target CLI 命令或 RegisterScalableTarget API 動作，指定 DynamicScalingInSuspended 和 DynamicScalingOutSuspended 的布林值，以暫停和繼續擴展活動。

    下列範例說明如何暫停名為 my-variant 且在 my-endpoint 端點上執行的變體擴展政策。

    aws application-autoscaling register-scalable-target \
  --service-namespace sagemaker \
  --resource-id endpoint/my-endpoint/variant/my-variant \
  --scalable-dimension sagemaker:variant:DesiredInstanceCount \
  --suspended-state '{"DynamicScalingInSuspended":true,"DynamicScalingOutSuspended":true}'

  • 停用政策的縮減部分，防止特定目標追蹤擴展政策在變體中縮減。這個方式可防止擴展政策刪除執行個體，同時讓此政策仍然能夠根據需要來建立執行個體。

    使用 put-scaling-policy CLI 命令或 PutScalingPolicy API 動作編輯政策，指定 DisableScaleIn 的布林值，以暫時停用和啟用縮減活動。

    以下範例是擴展政策 (會橫向擴充，但不會縮減) 的目標追蹤組態。

    {
    "TargetValue": 70.0,
    "PredefinedMetricSpecification":
    {
        "PredefinedMetricType": "SageMakerVariantInvocationsPerInstance"
    },
    "DisableScaleIn": true
}