Optimieren Sie ein TabTransformer-Modell - Amazon SageMaker KI

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Optimieren Sie ein TabTransformer-Modell

Die automatische Modelloptimierung, auch bekannt als Hyperparameteroptimierung, sucht die beste Version eines Modells, indem viele Aufträge ausgeführt werden, die einen Bereich von Hyperparametern in Ihrem Training und in den Validierungsdatensätzen testen. Die Modelloptimierung konzentriert sich auf die folgenden Hyperparameter:

Anmerkung

Die Lernzielfunktion und die Bewertungsmetrik werden beide automatisch auf der Grundlage der Art der Klassifikationsaufgabe zugewiesen, die durch die Anzahl der eindeutigen Ganzzahlen in der Beschriftungspalte bestimmt wird. Weitere Informationen finden Sie unter TabTransformer-Hyperparameter.

  • Eine Lernzielfunktion zur Optimierung beim Modelltraining

  • Eine Bewertungsmetrik, die verwendet wird, um die Modellleistung während der Validierung zu bewerten

  • Ein Satz von Hyperparametern und ein Wertebereich für jeden, der bei der automatischen Abstimmung des Modells verwendet werden kann

Die automatische Modelloptimierung durchsucht die ausgewählten Hyperparameter nach der Kombination von Werten, die das Modell ergeben, das die objektive Metrik optimiert.

Anmerkung

Die automatische Modelloptimierung für TabTransformer ist nur in den Amazon SageMaker AI SDKs verfügbar, nicht in der SageMaker-Konsole.

Mehr Informationen über die Modelloptimierung finden Sie unter Automatisches Modelloptiming mit KI SageMaker.

Mit dem TabTransformer-Algorithmus berechnete Bewertungsmetriken

Der TabTransformer-Algorithmus von SageMaker AI berechnet die folgenden Metriken, die für die Modellvalidierung verwendet werden sollen. Die Bewertungsmetrik wird automatisch auf der Grundlage der Art der Klassifizierungsaufgabe zugewiesen, die durch die Anzahl der eindeutigen Ganzzahlen in der Beschriftungspalte bestimmt wird.

Metrikname Beschreibung Optimierungsrichtung Regex-Muster
r2 Oder quadratisch Maximieren "metrics={'r2': (\\S+)}"
f1_score Binärkreuzentropie Maximieren "metrics={'f1': (\\S+)}"
accuracy_score Kreuzentropie mit mehreren Klassen Maximieren "metrics={'accuracy': (\\S+)}"

Einstellbare TabTransformer-Hyperparameter

Stimmen Sie das TabTransformer-Modell mit den folgenden Hyperparametern ab. Die Hyperparameter, die den größten Einfluss auf die Optimierung der TabTransformer-Bewertungsmetriken haben, sind: learning_rate, input_dim, n_blocks, attn_dropout, mlp_dropout, und frac_shared_embed. Eine Liste aller TabTransformer-Hyperparameter finden Sie unter TabTransformer-Hyperparameter.

Name des Parameters Parametertyp Empfohlene Bereiche
learning_rate ContinuousParameterRanges MinValue: 0.001, MaxValue: 0.01
input_dim CategoricalParameterRanges [16, 32, 64, 128, 256, 512]
n_blocks IntegerParameterRanges MinValue: 1, MaxValue: 12
attn_dropout ContinuousParameterRanges MinValue: 0.0, MaxValue: 0.8
mlp_dropout ContinuousParameterRanges MinValue: 0.0, MaxValue: 0.8
frac_shared_embed ContinuousParameterRanges MinValue: 0.0, MaxValue: 0.5