Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.
Ottimizzare un modello TabTransformer
L'ottimizzazione automatica dei modelli, nota anche come ottimizzazione degli iperparametri, trova la versione migliore di un modello eseguendo molti processi che testano un intervallo di iperparametri sul set di dati di addestramento e di convalida. L'ottimizzazione del modello si concentra sui seguenti iperparametri:
Nota
La funzione obiettivo di apprendimento e il parametro di valutazione sono entrambi assegnati automaticamente in base al tipo di attività di classificazione, che è determinata dal numero di numeri interi univoci nella colonna dell'etichetta. Per ulteriori informazioni, consulta Iperparametri di TabTransformer.
-
Una funzione dell’obiettivo di apprendimento da ottimizzare durante l’addestramento dei modelli
-
Un parametro di valutazione utilizzato per valutare le prestazioni del modello durante la convalida
-
Un insieme di iperparametri e un intervallo di valori per ciascuno da utilizzare quando si ottimizza automaticamente il modello
L'ottimizzazione automatica del modello ricerca gli iperparametri scelti per trovare la combinazione di valori che restituisce il modello che ottimizza il parametro di valutazione scelto.
Nota
L’ottimizzazione automatica del modello per TabTransformer è disponibile solo da Amazon SageMaker SDK, non dalla console di Amazon SageMaker AI.
Per ulteriori informazioni sull'ottimizzazione del modello, consulta Ottimizzazione automatica dei modelli con AI SageMaker.
Parametri di valutazione calcolati dall'algoritmo TabTransformer
L’algoritmo SageMaker AI TabTransformer calcola le seguenti metriche da utilizzare per la convalida del modello. Il parametro di valutazione viene assegnato automaticamente in base al tipo di attività di classificazione, che è determinata dal numero di numeri interi univoci nella colonna dell'etichetta.
| Nome parametro | Descrizione | Direzione dell'ottimizzazione | Modello regex |
|---|---|---|---|
r2 |
r quadrato | massimizza | "metrics={'r2': (\\S+)}" |
f1_score |
entropia binaria incrociata | massimizza | "metrics={'f1': (\\S+)}" |
accuracy_score |
entropia incrociata multiclasse | massimizza | "metrics={'accuracy': (\\S+)}" |
Iperparametri di TabTransformer ottimizzabili
Ottimizza il modello TabTransformer con i seguenti iperparametri. Gli iperparametri che hanno il maggiore impatto sull'ottimizzazione dei parametri di valutazione di TabTransformer sono: learning_rate, input_dim, n_blocks, attn_dropout, mlp_dropout e frac_shared_embed. Per un elenco di tutti gli iperparametri TabTransformer, consulta Iperparametri di TabTransformer.
| Nome parametro | Tipo parametro | Intervalli consigliati |
|---|---|---|
learning_rate |
ContinuousParameterRanges | MinValue: 0,001, MaxValue: 0,01 |
input_dim |
CategoricalParameterRanges | [16, 32, 64, 128, 256, 512] |
n_blocks |
IntegerParameterRanges | MinValue: 1, MaxValue: 12 |
attn_dropout |
ContinuousParameterRanges | MinValue: 0,0, MaxValue: 0,8 |
mlp_dropout |
ContinuousParameterRanges | MinValue: 0,0, MaxValue: 0,8 |
frac_shared_embed |
ContinuousParameterRanges | MinValue: 0,0, MaxValue: 0,5 |
