Applicazione di una policy di scalabilità - Amazon SageMaker AI
Applica una politica di scalabilità di tracciamento degli obiettivi ()AWS CLIApplica una policy di dimensionamento (API di Application Auto Scaling)

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Applicazione di una policy di scalabilità

Dopo aver registrato il modello e definito una politica di scalabilità, applica la politica di scalabilità al modello registrato. Questa sezione mostra come applicare una politica di scalabilità utilizzando l'API AWS Command Line Interface (AWS CLI) o Application Auto Scaling.

Applica una politica di scalabilità di tracciamento degli obiettivi ()AWS CLI

Per applicare una politica di scalabilità al modello, utilizzate il put-scaling-policy AWS CLI comando con i seguenti parametri:

  • --policy-name – Il nome della policy di dimensionamento.

  • --policy-type – Impostare questo valore su TargetTrackingScaling.

  • --resource-id – L'identificatore di risorsa per la variante. Per questo parametro, il tipo di risorsa è endpoint e l'identificatore univoco è il nome della variante. Ad esempio, endpoint/my-endpoint/variant/my-variant.

  • --service-namespace – Impostare questo valore su sagemaker.

  • --scalable-dimension – Impostare questo valore su sagemaker:variant:DesiredInstanceCount.

  • --target-tracking-scaling-policy-configuration—La configurazione della politica di scalabilità di tracciamento degli obiettivi da utilizzare per il modello.

L'esempio seguente applica una policy di dimensionamento del tracciamento del target denominata my-scaling-policy a una variante denominatamy-variant, in esecuzione sull'endpoint. my-endpoint Per l'--target-tracking-scaling-policy-configurationopzione, specifica il config.json file che hai creato in precedenza. 

aws application-autoscaling put-scaling-policy \
  --policy-name my-scaling-policy \
  --policy-type TargetTrackingScaling \
  --resource-id endpoint/my-endpoint/variant/my-variant \
  --service-namespace sagemaker \
  --scalable-dimension sagemaker:variant:DesiredInstanceCount \
  --target-tracking-scaling-policy-configuration file://config.json

Applica una policy di dimensionamento (API di Application Auto Scaling)

Per applicare una policy di dimensionamento a una variante con l'API Application Auto Scaling, utilizzare l'azione API Application Auto Scaling PutScalingPolicy con i parametri seguenti:

  • PolicyName – Il nome della policy di dimensionamento.

  • ServiceNamespace – Impostare questo valore su sagemaker.

  • ResourceID – L'identificatore di risorsa per la variante. Per questo parametro, il tipo di risorsa è endpoint e l'identificatore univoco è il nome della variante. Ad esempio, endpoint/my-endpoint/variant/my-variant.

  • ScalableDimension – Impostare questo valore su sagemaker:variant:DesiredInstanceCount.

  • PolicyType – Impostare questo valore su TargetTrackingScaling.

  • TargetTrackingScalingPolicyConfiguration – La configurazione di una policy di dimensionamento di monitoraggio dei target da utilizzare per la variante.

L'esempio seguente applica una policy di dimensionamento del tracciamento del target denominata my-scaling-policy a una variante denominatamy-variant, in esecuzione sull'my-endpointendpoint. La configurazione della policy mantiene la media delle chiamate per istanza a 70.

POST / HTTP/1.1
Host: application-autoscaling.us-east-2.amazonaws.com
Accept-Encoding: identity
X-Amz-Target: AnyScaleFrontendService.
X-Amz-Date: 20230506T182145Z
User-Agent: aws-cli/2.0.0 Python/3.7.5 Windows/10 botocore/2.0.0dev4
Content-Type: application/x-amz-json-1.1
Authorization: AUTHPARAMS

{
    "PolicyName": "my-scaling-policy",
    "ServiceNamespace": "sagemaker",
    "ResourceId": "endpoint/my-endpoint/variant/my-variant",
    "ScalableDimension": "sagemaker:variant:DesiredInstanceCount",
    "PolicyType": "TargetTrackingScaling",
    "TargetTrackingScalingPolicyConfiguration": {
        "TargetValue": 70.0,
        "PredefinedMetricSpecification":
        {
            "PredefinedMetricType": "SageMakerVariantInvocationsPerInstance"
        }
    }
}