Anpassen des Modells für eine bessere Leistung im jeweiligen Anwendungsfall - Amazon Bedrock

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Anpassen des Modells für eine bessere Leistung im jeweiligen Anwendungsfall

Modellanpassung ist der Prozess, bei dem einem Modell Trainingsdaten zur Verfügung gestellt werden, um seine Leistung für bestimmte Anwendungsfälle zu verbessern. Sie können Amazon-Bedrock-Basismodelle anpassen, um ihre Leistung zu steigern und ein besseres Kundenerlebnis zu schaffen. Amazon Bedrock bietet derzeit die folgenden Anpassungsmethoden.

  • Destillation

    Mit der Destillation können Sie Wissen von einem größeren, intelligenteren Modell (Lehrer) auf ein kleineres, schnelleres und kostengünstigeres Modell (Schüler) übertragen. Amazon Bedrock automatisiert den Destillationsprozess mithilfe der neuesten Datensynthesetechniken, um anhand des Lehrermodells vielfältige, qualitativ hochwertige Antworten zu generieren und das Schülermodell zu optimieren.

    Wenn Sie die Destillation verwenden möchten, wählen Sie ein Lehrermodell aus, dessen Genauigkeit Sie für Ihren Anwendungsfall erreichen möchten, und ein Schülermodell für die Feinabstimmung. Dann geben Sie anwendungsfallspezifische Prompts als Eingabedaten an. Für die bereitgestellten Prompts generiert Amazon Bedrock Antworten aus dem Lehrermodell und optimiert das Schülermodell dann anhand der Antworten. Sie können optional beschriftete Eingabedaten als Prompt-Antwort-Paare bereitstellen.

    Weitere Informationen zur Verwendung der Destillation finden Sie unter Anpassen eines Modells mit Destillation in Amazon Bedrock.

  • Feinabstimmung der Verstärkung

    Die Feinabstimmung von Reinforcement verbessert die Abstimmung des Fundamentmodells auf Ihren spezifischen Anwendungsfall durch Feedback-basiertes Lernen. Anstatt beschriftete Input-Output-Paare bereitzustellen, definieren Sie Belohnungsfunktionen, mit denen die Qualität der Antworten bewertet wird. Das Modell lernt iterativ, indem es Feedbackwerte aus diesen Belohnungsfunktionen erhält.

    Sie können vorhandene Bedrock-Aufrufprotokolle als Trainingsdaten verwenden oder benutzerdefinierte Eingabeaufforderungsdatensätze hochladen. Sie können Belohnungsfunktionen definieren, anhand AWS Lambda derer die Qualität der Antworten bewertet wird. Amazon Bedrock automatisiert den Schulungsablauf und bietet Echtzeitmetriken zur Überwachung des Lernfortschritts der Modelle.

    Weitere Informationen zur Feinabstimmung von Verstärkungen finden Sie unter. Passen Sie ein Modell mit Verstärkungsfeinabstimmung in Amazon Bedrock an

  • Überwachte Feinabstimmung

    Stellen Sie beschriftete Daten zur Verfügung, um ein Modell für eine bessere Leistung bei bestimmten Aufgaben zu trainieren. Durch die Bereitstellung eines Trainingsdatensatzes mit beschrifteten Beispielen lernt das Modell, welche Arten von Ausgaben für bestimmte Arten von Eingaben generiert werden sollen. Die Modellparameter werden in diesem Prozess angepasst und die Modellleistung für die durch den Trainingsdatensatz dargestellten Aufgaben wird verbessert.

  • Fortgesetztes Vortraining

    Stellen Sie unbeschriftete Daten bereit, um ein Basismodell vorab zu trainieren, indem Sie es mit bestimmten Arten von Eingaben vertraut machen. Sie können Daten zu spezifischen Themen bereitstellen, um ein Modell für diese Bereiche zu trainieren. Im Rahmen des fortgesetzten Vortrainings werden die Modellparameter optimiert, um sie an die Eingabedaten anzupassen und das Fachwissen zu erweitern.

    Beispielsweise können Sie ein Modell mit privaten Daten wie Geschäftsdokumenten trainieren, die für das Training großer Sprachmodelle (LLMs) nicht öffentlich verfügbar sind. Darüber hinaus können Sie das Modell weiter verbessern, indem Sie das Modell mit mehr unbeschrifteten Daten erneut trainieren, sobald diese verfügbar sind.

Informationen zu Kontingenten für Modellanpassungen finden Sie unter Amazon-Bedrock-Endpunkte und -Kontingente in der Allgemeine AWS-Referenz. Nachdem Sie ein Modell angepasst haben, können Sie Inferenz für das neue benutzerdefinierte Modell einrichten. Weitere Informationen finden Sie unter Einrichten von Inferenz für ein benutzerdefiniertes Modell.

Anmerkung

Die Kosten für das Modelltraining basieren auf der Anzahl der vom Modell verarbeiteten Token (Anzahl der Token im Trainingsdatenkorpus × Anzahl der Epochen) und auf dem pro Monat und Modell berechneten Modellspeicher. Weitere Informationen finden Sie unter Amazon Bedrock – Preise.

Richtlinien für die Modellanpassung

Die idealen Parameter zum Anpassen eines Modells sind vom Datensatz und der Aufgabe abhängig, für die das Modell vorgesehen ist. Experimentieren Sie mit verschiedenen Werten, um herauszufinden, welche Parameter für Ihren speziellen Fall am besten geeignet sind. Es könnte hilfreich sein, Ihr Modell zu evaluieren, indem Sie einen Auftrag zur Modellbewertung ausführen. Weitere Informationen finden Sie unter Die Leistung von Amazon-Bedrock-Ressourcen bewerten.

Verwenden Sie die Trainings- und Validierungsmetriken aus den Ausgabedateien, die beim Übermitteln eines Modellanpassungsauftrag generiert werden, um die Parameter anzupassen. Suchen Sie diese Dateien in dem Amazon S3 S3-Bucket, in den Sie die Ausgabe geschrieben haben, oder verwenden Sie den GetCustomModelVorgang.