Registrazione di un modello - Amazon SageMaker AI
Registrazione di un modello (AWS CLI)Registrazione di un modello (API di dimensionamento automatico dell’applicazione)

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Registrazione di un modello

Prima di aggiungere una politica di ridimensionamento al modello, è necessario registrare il modello per la scalabilità automatica e definire i limiti di ridimensionamento per il modello.

Le seguenti procedure spiegano come registrare un modello (variante di produzione) per la scalabilità automatica utilizzando AWS Command Line Interface (AWS CLI) o l'API Application Auto Scaling.

Registrazione di un modello (AWS CLI)

Per registrare la variante di produzione, utilizzate il register-scalable-targetcomando con i seguenti parametri:

  • --service-namespace – Impostare questo valore su sagemaker.

  • --resource-id – L'identificatore di risorsa del modello (in particolare, la variante di produzione). Per questo parametro, il tipo di risorsa è endpoint e l'identificatore univoco è il nome della variante di produzione. Ad esempio, endpoint/my-endpoint/variant/my-variant.

  • --scalable-dimension – Impostare questo valore su sagemaker:variant:DesiredInstanceCount.

  • --min-capacity—Il numero minimo di istanze. Questo valore deve essere impostato su almeno 1 e deve essere uguale o minore rispetto al valore specificato per max-capacity.

  • --max-capacity—Il numero massimo di istanze. Questo valore deve essere impostato su almeno 1 e deve essere uguale o maggiore rispetto al valore specificato per min-capacity.

L'esempio seguente mostra come registrare una variante denominatamy-variant, in esecuzione sull'my-endpointendpoint, che può essere ridimensionata dinamicamente per avere da una a otto istanze.

aws application-autoscaling register-scalable-target \
  --service-namespace sagemaker \
  --resource-id endpoint/my-endpoint/variant/my-variant \
  --scalable-dimension sagemaker:variant:DesiredInstanceCount \
  --min-capacity 1 \
  --max-capacity 8

Registrazione di un modello (API di dimensionamento automatico dell’applicazione)

Per registrare il modello con Application Auto Scaling, utilizzare l'azione API RegisterScalableTarget Application Auto Scaling con i parametri seguenti:

  • ServiceNamespace – Impostare questo valore su sagemaker.

  • ResourceID – l'identificatore di risorsa per la variante di produzione. Per questo parametro, il tipo di risorsa è endpoint e l'identificatore univoco è il nome della variante. Ad esempio endpoint/my-endpoint/variant/my-variant.

  • ScalableDimension – Impostare questo valore su sagemaker:variant:DesiredInstanceCount.

  • MinCapacity—Il numero minimo di istanze. Questo valore deve essere impostato su almeno 1 e deve essere uguale o minore rispetto al valore specificato per MaxCapacity.

  • MaxCapacity—Il numero massimo di istanze. Questo valore deve essere impostato su almeno 1 e deve essere uguale o maggiore rispetto al valore specificato per MinCapacity.

L'esempio seguente mostra come registrare una variante denominatamy-variant, in esecuzione sull'my-endpointendpoint, che può essere ridimensionata dinamicamente per utilizzare da una a otto istanze.

POST / HTTP/1.1
Host: application-autoscaling.us-east-2.amazonaws.com
Accept-Encoding: identity
X-Amz-Target: AnyScaleFrontendService.RegisterScalableTarget
X-Amz-Date: 20230506T182145Z
User-Agent: aws-cli/2.0.0 Python/3.7.5 Windows/10 botocore/2.0.0dev4
Content-Type: application/x-amz-json-1.1
Authorization: AUTHPARAMS

{
    "ServiceNamespace": "sagemaker",
    "ResourceId": "endpoint/my-endpoint/variant/my-variant",
    "ScalableDimension": "sagemaker:variant:DesiredInstanceCount",
    "MinCapacity": 1,
    "MaxCapacity": 8
}