Compila un modello (Amazon AI SDK) SageMaker

Puoi utilizzare l'compile_modelAPI nell'SDK Amazon SageMaker AI per Python per compilare un modello addestrato e ottimizzarlo per hardware di destinazione specifico. L'API deve essere richiamata sull'oggetto dello strumento di valutazione utilizzato durante l'addestramento del modello.

Di seguito è riportato un esempio di come è possibile compilare un modello utilizzando l'oggetto trained_model_estimator:

# Neo compilation in V3 uses ModelBuilder.optimize() with compilation_config
from sagemaker.serve import ModelBuilder

# Replace the value of expected_trained_model_input below and
# specify the name & shape of the expected inputs for your trained model
# in json dictionary form
expected_trained_model_input = {'data':[1, 784]}

# Replace the example target_instance_family below to your preferred target_instance_family
model_builder = ModelBuilder(
    model=trained_model,
    role_arn=role,
    instance_type='ml.c5.xlarge',
)
optimized_model = model_builder.optimize(
    instance_type='ml.c5.xlarge',
    output_path='insert s3 output path',
    compilation_config={
        'OverrideEnvironment': {
            'OPTION_TARGET_INSTANCE_FAMILY': 'ml_c5',
            'MMS_DEFAULT_RESPONSE_TIMEOUT': '500',
        },
    },
)

Il codice compila il modello, salva il modello ottimizzato in output_path e crea un modello SageMaker AI che può essere distribuito su un endpoint.