Anpassen des Modells für eine bessere Leistung im jeweiligen Anwendungsfall - Amazon Bedrock

Anpassen des Modells für eine bessere Leistung im jeweiligen Anwendungsfall

Modellanpassung ist der Prozess, bei dem einem Modell Trainingsdaten zur Verfügung gestellt werden, um seine Leistung für bestimmte Anwendungsfälle zu verbessern. Sie können Amazon-Bedrock-Basismodelle anpassen, um ihre Leistung zu steigern und ein besseres Kundenerlebnis zu schaffen. Amazon Bedrock bietet derzeit die folgenden Anpassungsmethoden.

  • Destillation

    Mit der Destillation können Sie Wissen von einem größeren, intelligenteren Modell (Lehrer) auf ein kleineres, schnelleres und kostengünstigeres Modell (Schüler) übertragen. Amazon Bedrock automatisiert den Destillationsprozess mithilfe der neuesten Datensynthesetechniken, um anhand des Lehrermodells vielfältige, qualitativ hochwertige Antworten zu generieren und das Schülermodell zu optimieren.

    Wenn Sie die Destillation verwenden möchten, wählen Sie ein Lehrermodell aus, dessen Genauigkeit Sie für Ihren Anwendungsfall erreichen möchten, und ein Schülermodell für die Feinabstimmung. Dann geben Sie anwendungsfallspezifische Prompts als Eingabedaten an. Für die bereitgestellten Prompts generiert Amazon Bedrock Antworten aus dem Lehrermodell und optimiert das Schülermodell dann anhand der Antworten. Sie können optional beschriftete Eingabedaten als Prompt-Antwort-Paare bereitstellen.

    Weitere Informationen zur Verwendung der Destillation finden Sie unter Anpassen eines Modells mit Destillation in Amazon Bedrock.

  • Feinabstimmung

    Stellen Sie beschriftete Daten zur Verfügung, um ein Modell für eine bessere Leistung bei bestimmten Aufgaben zu trainieren. Durch die Bereitstellung eines Trainingsdatensatzes mit beschrifteten Beispielen lernt das Modell, welche Arten von Ausgaben für bestimmte Arten von Eingaben generiert werden sollen. Die Modellparameter werden in diesem Prozess angepasst und die Modellleistung für die durch den Trainingsdatensatz dargestellten Aufgaben wird verbessert.

  • Fortgesetztes Vortraining

    Stellen Sie unbeschriftete Daten bereit, um ein Basismodell vorab zu trainieren, indem Sie es mit bestimmten Arten von Eingaben vertraut machen. Sie können Daten zu spezifischen Themen bereitstellen, um ein Modell für diese Bereiche zu trainieren. Im Rahmen des fortgesetzten Vortrainings werden die Modellparameter optimiert, um sie an die Eingabedaten anzupassen und das Fachwissen zu erweitern.

    Beispielsweise können Sie ein Modell mit privaten Daten wie Geschäftsdokumenten trainieren, die für das Training großer Sprachmodelle (LLMs) nicht öffentlich verfügbar sind. Darüber hinaus können Sie das Modell weiter verbessern, indem Sie das Modell mit mehr unbeschrifteten Daten erneut trainieren, sobald diese verfügbar sind.

Informationen zu Kontingenten für Modellanpassungen finden Sie unter Amazon-Bedrock-Endpunkte und -Kontingente in der Allgemeine AWS-Referenz. Nachdem Sie ein Modell angepasst haben, können Sie Inferenz für das neue benutzerdefinierte Modell einrichten. Weitere Informationen finden Sie unter Einrichten von Inferenz für ein benutzerdefiniertes Modell.

Anmerkung

Die Kosten für das Modelltraining basieren auf der Anzahl der vom Modell verarbeiteten Token (Anzahl der Token im Trainingsdatenkorpus × Anzahl der Epochen) und auf dem pro Monat und Modell berechneten Modellspeicher. Weitere Informationen finden Sie unter Amazon Bedrock – Preise.

Richtlinien für die Modellanpassung

Die idealen Parameter zum Anpassen eines Modells sind vom Datensatz und der Aufgabe abhängig, für die das Modell vorgesehen ist. Experimentieren Sie mit verschiedenen Werten, um herauszufinden, welche Parameter für Ihren speziellen Fall am besten geeignet sind. Es könnte hilfreich sein, Ihr Modell zu evaluieren, indem Sie einen Auftrag zur Modellbewertung ausführen. Weitere Informationen finden Sie unter Die Leistung von Amazon-Bedrock-Ressourcen bewerten.

Verwenden Sie die Trainings- und Validierungsmetriken aus den Ausgabedateien, die beim Übermitteln eines Modellanpassungsauftrag generiert werden, um die Parameter anzupassen. Sie finden diese Dateien in dem Amazon-S3-Bucket, in den Sie die Ausgabe geschrieben haben, oder indem Sie die Operation GetCustomModel verwenden.