Prepara un lavoro di formazione per raccogliere i dati TensorBoard di output

Un tipico lavoro di formazione per l'apprendimento automatico nell' SageMaker IA consiste in due fasi principali: preparazione di uno script di addestramento e configurazione di un oggetto SageMaker AI ModelTrainer (precedentemente stimatore in PySDK v2) dell'SDK AI Python. SageMaker In questa sezione, scoprirai le modifiche necessarie per raccogliere dati dai lavori di formazione. TensorBoard-compatible SageMaker

Prerequisiti

L'elenco seguente mostra i prerequisiti con TensorBoard cui iniziare a utilizzare l' SageMaker IA.

Passaggio 1: modifica lo script di formazione con strumenti di supporto open source TensorBoard

Assicuratevi di determinare quali tensori e scalari di output raccogliere e di modificare le righe di codice nello script di training utilizzando uno dei seguenti strumenti: TensorBoard X, TensorFlow Summary Writer, Summary Writer o PyTorch Debugger. SageMaker

Assicuratevi inoltre di specificare il percorso di output dei TensorBoard dati come directory di log (log_dir) per il callback nel contenitore di formazione.

Per ulteriori informazioni sulle richiamate per framework, consulta le risorse seguenti.

Fase 2: Creare un oggetto di SageMaker addestramento ModelTrainer con la configurazione di output TensorBoard

Usa il comando sagemaker.debugger.TensorBoardOutputConfig durante la configurazione di un'intelligenza artificiale. SageMaker ModelTrainer Questa API di configurazione mappa il bucket S3 specificato per il salvataggio TensorBoard dei dati con il percorso locale nel contenitore di formazione (). /opt/ml/output/tensorboard Passate l'oggetto del modulo al tensorboard_output_config parametro della ModelTrainer classe. Il seguente frammento di codice mostra un esempio di preparazione di un TensorFlow ModelTrainer con il parametro di configurazione TensorBoard di output.

"TensorBoardOutputConfig": { 
  "LocalPath": "/opt/ml/output/tensorboard",
  "S3OutputPath": "s3_output_bucket"
}

import os
from sagemaker.train import ModelTrainer
from sagemaker.train.configs import SourceCode
from sagemaker.core.debugger import TensorBoardOutputConfig
from sagemaker.train.configs import Compute

# Set variables for training job information, 
# such as s3_out_bucket and other unique tags.
... 

LOG_DIR="/opt/ml/output/tensorboard"

output_path = os.path.join(
    "s3_output_bucket", "sagemaker-output", "date_str", "your-training_job_name"
)

tensorboard_output_config = TensorBoardOutputConfig(
    s3_output_path=os.path.join(output_path, 'tensorboard'),
    container_local_output_path=LOG_DIR
)

model_trainer = ModelTrainer(
    source_code=SourceCode(entry_script="train.py", source_dir="src"),
    role=role,
    training_image=image_uri,
    compute=Compute(instance_count=1, instance_type="ml.c5.xlarge"),
    base_job_name="your-training_job_name",
    tensorboard_output_config=tensorboard_output_config,
    hyperparameters=hyperparameters
)