Reichen Sie einen Auftrag zur Modelldestillation bei Amazon Bedrock ein - Amazon Bedrock
VoraussetzungenReichen Sie Ihren Job einNächste Schritte

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Reichen Sie einen Auftrag zur Modelldestillation bei Amazon Bedrock ein

Sie können die Modelldestillation über die Amazon Bedrock-Konsole oder durch Senden einer CreateModelCustomizationJobAnfrage mit einem Endpunkt der Amazon Bedrock-Steuerebene durchführen.

Voraussetzungen

Wenn Ihr Destillationsjob abgeschlossen ist, können Sie die Ergebnisse des Anpassungsprozesses analysieren. Weitere Informationen finden Sie unter Analysieren Sie die Ergebnisse einer Modellanpassung. Informationen zum Einrichten von Inferenzen für Ihr Modell finden Sie unterInferenz für ein benutzerdefiniertes Modell einrichten.

Reichen Sie Ihren Job ein

Console

  1. Melden Sie sich bei der AWS Management Console mit einer IAM-Identität an, die berechtigt ist, die Amazon Bedrock-Konsole zu verwenden. Öffnen Sie dann die Amazon Bedrock-Konsole unter https://console.aws.amazon.com/bedrock/.

  2. Wählen Sie im linken Navigationsbereich unter Foundation-Modelle die Option Benutzerdefinierte Modelle aus.

  3. Wählen Sie Destillationsauftrag erstellen aus.

  4. Gehen Sie wie folgt vor, um Details zum Modell Destilliert zu erhalten:

    1. Geben Sie unter Destillierter Modellname einen Namen für Ihr destilliertes Modell ein.

    2. (Optional) Aktivieren Sie für Modellverschlüsselung das Kontrollkästchen, wenn Sie einen KMS-Schlüssel für die Verschlüsselung Ihres Jobs und der zugehörigen Artefakte angeben möchten.

      Weitere Informationen finden Sie unter Verschlüsselung von kundenspezifischen Modellen.

    3. (Optional) Wenden Sie Tags auf Ihr destilliertes Modell an.

  5. Gehen Sie für die Job-Konfiguration wie folgt vor:

    1. Geben Sie unter Jobname einen Namen für Ihren Destillationsjob ein.

    2. (Optional) Aktivieren Sie für Modellverschlüsselung das Kontrollkästchen, wenn Sie einen KMS-Schlüssel für die Verschlüsselung Ihres Jobs und der zugehörigen Artefakte angeben möchten.

      Weitere Informationen finden Sie unter Verschlüsselung von kundenspezifischen Modellen.

    3. (Optional) Wenden Sie Tags auf Ihren Job an.

  6. Wählen Sie unter Lehrermodell — Details zum Schülermodell die Lehrer- und Schülermodelle aus, um Ihr destilliertes Modell zu erstellen.

    Weitere Informationen finden Sie unter Wählen Sie Lehrer- und Schülermodelle für die Destillation.

  7. Gehen Sie für die Generierung synthetischer Daten wie folgt vor:

    1. Geben Sie für Max. Antwortlänge die maximale Länge der synthetischen Antworten an, die durch das Lehrermodell generiert werden.

    2. Wählen Sie für den Eingabedatensatz „Destillation“ eine der folgenden Optionen aus:

      • Direkt an den S3-Speicherort hochladen — Geben Sie den S3-Speicherort an, an dem Sie den Eingabedatensatz (Eingabeaufforderungen) speichern, der für die Destillation verwendet werden soll. Weitere Informationen finden Sie unter Option 1: Stellen Sie Ihre eigenen Eingabeaufforderungen für die Datenvorbereitung bereit.

      • Zugriff auf Aufrufprotokolle gewähren — Geben Sie den S3-Speicherort an, an dem Sie die Aufrufprotokolle zusammen mit dem Eingabedatensatz (Eingabeaufforderungen) speichern, der für die Destillation verwendet werden soll. Weitere Informationen finden Sie unter Option 2: Verwenden Sie Aufrufprotokolle für die Datenvorbereitung.

        • (Optional) Geben Sie für Filter zum Anfordern von Metadaten Filter an, wenn Amazon Bedrock nur bestimmte Eingabeaufforderungen in Ihren Protokollen zur Destillation verwenden soll.

        • Wählen Sie Eingabeaufforderungen lesen oder Prompt-Antwort-Paare lesen, je nachdem, worauf Amazon Bedrock aus Ihren Protokollen zugreifen soll. Denken Sie daran, dass Antworten nur gelesen werden, wenn Ihr Lehrermodell mit dem Modell in Ihren Protokollen übereinstimmt.

  8. Geben Sie für die Destillationsausgabe den S3-Speicherort an, an den Sie die Metriken und Berichte zu Ihrem Destillationsauftrag hochladen möchten.

    Weitere Informationen finden Sie unter Analysieren Sie die Ergebnisse einer Modellanpassung.

  9. Wählen Sie für VPC-Einstellungen eine VPC-Konfiguration für den Zugriff auf den S3-Bucket mit Ihren Trainingsdaten.

    Weitere Informationen finden Sie unter (Optional) Schützen Sie Ihre Modellanpassungsaufträge mit einer VPC.

  10. Geben Sie für den Servicezugriff die IAM-Rolle für den Zugriff auf den S3-Bucket mit Ihren Trainingsdaten an. Sofern Sie kein regionsübergreifendes Inferenzprofil oder VPC-Konfigurationen verwenden, können Sie die Rolle in der Amazon Bedrock-Konsole mit den richtigen automatisch konfigurierten Berechtigungen erstellen. Oder Sie können eine bestehende Servicerolle verwenden.

    Für einen Job, der Amazon VPC-Konfigurationen hat oder ein regionsübergreifendes Inferenzprofil verwendet, müssen Sie eine neue Servicerolle in IAM erstellen, die über die erforderlichen Berechtigungen verfügt.

    Weitere Informationen finden Sie unter Erstellen Sie eine IAM-Servicerolle für die Modellanpassung.

  11. Wählen Sie „Destillationsauftrag erstellen“, um den Destillationsauftrag zu starten. Nachdem Sie ein Modell angepasst haben, können Sie die Inferenz für das Modell einrichten. Weitere Informationen finden Sie unter Inferenz für ein benutzerdefiniertes Modell einrichten.

API

Sie müssen mindestens die folgenden Felder angeben, um Ihren Modeldestillationsauftrag einzureichen, wenn Sie die Amazon Bedrock API verwenden.

Feld Beschreibung
baseModelIdentifier Die Modell-ID des Studentenmodells
customModelName Der Name des neuen destillierten Modells
jobName Der Name des Modelldestillationsauftrags
roleArn Rolle, die Amazon Bedrock die Erlaubnis erteilt, Schulungs- und Validierungsdateien zu lesen und in den Ausgabepfad zu schreiben
trainingDataConfig Der Amazon S3 S3-Pfad, der Ihre Trainingsdaten enthält
outputDataConfig Der Amazon S3 S3-Pfad, der Ihre Trainings- und Validierungsmetriken enthält
DestillationConfig Eingaben, die für den Destillationsjob erforderlich sind
customModelKmsKeyId Um das benutzerdefinierte Modell zu verschlüsseln
clientRequestToken Token, um zu verhindern, dass die Anfrage mehr als einmal abgeschlossen wird

Die folgenden Felder sind optional:

Feld Beschreibung
Typ der Anpassung DISTILLATION Standardmäßig für Destillationsaufträge auf eingestellt
validationDataConfig Liste der Amazon S3 S3-Pfade für Validierungsdaten
Job-Tags Um Tags mit dem Job zu verknüpfen
customModelTags Um Tags mit dem resultierenden benutzerdefinierten Modell zu verknüpfen
vpcConfig VPC zum Schutz Ihrer Trainingsdaten und Ihres Destillationsjobs

Um zu verhindern, dass die Anfrage mehr als einmal abgeschlossen wird, fügen Sie eine clientRequestToken hinzu.

Sie können die folgenden optionalen Felder für zusätzliche Konfigurationen hinzufügen.

Das Folgende ist ein Beispielausschnitt aus der API. CreateModelCustomizationJob In diesem Beispiel werden die Prompt-Response-Paare im Aufrufprotokoll als Eingabedatenquelle verwendet und der Filter für die Auswahl von Prompt-Response-Paaren angegeben. 

"trainingDataConfig": {
    "invocationLogsConfig": {
        "usePromptResponse": true,
        "invocationLogSource": {
            "s3Uri": "string"
        },
        "requestMetadataFilters": {
            "equals": {
                "priority": "High"
            }
        }
    }
}

Antwort

Die Antwort gibt einen Wert des jobArn Modelldestillationsjobs zurück.

Nächste Schritte