View a markdown version of this page

Compiler un modèle (SDK Amazon SageMaker AI) - Amazon SageMaker AI

Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

Compiler un modèle (SDK Amazon SageMaker AI)

Vous pouvez utiliser l'compile_modelAPI du SDK Amazon SageMaker AI pour Python afin de compiler un modèle entraîné et de l'optimiser pour un matériel cible spécifique. L'API doit être appelée sur l'objet estimateur utilisé pendant l'entraînement du modèle.

Note

Vous devez définir la variable d'MMS_DEFAULT_RESPONSE_TIMEOUTenvironnement sur 500 lors de la compilation du modèle avec MXNet ou. PyTorch La variable d'environnement n'est pas nécessaire pour TensorFlow.

Voici un exemple de la façon dont vous pouvez compiler un modèle à l'aide de l'objet trained_model_estimator : 

# Neo compilation in V3 uses ModelBuilder.optimize() with compilation_config
from sagemaker.serve import ModelBuilder

# Replace the value of expected_trained_model_input below and
# specify the name & shape of the expected inputs for your trained model
# in json dictionary form
expected_trained_model_input = {'data':[1, 784]}

# Replace the example target_instance_family below to your preferred target_instance_family
model_builder = ModelBuilder(
    model=trained_model,
    role_arn=role,
    instance_type='ml.c5.xlarge',
)
optimized_model = model_builder.optimize(
    instance_type='ml.c5.xlarge',
    output_path='insert s3 output path',
    compilation_config={
        'OverrideEnvironment': {
            'OPTION_TARGET_INSTANCE_FAMILY': 'ml_c5',
            'MMS_DEFAULT_RESPONSE_TIMEOUT': '500',
        },
    },
)

Le code compile le modèle, enregistre le modèle optimisé sur output_path et crée un modèle d' SageMaker IA qui peut être déployé sur un terminal.