Anpassen von Amazon Nova-Modellen auf KI SageMaker - Amazon Nova

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Anpassen von Amazon Nova-Modellen auf KI SageMaker

Anmerkung

Diese Dokumentation bezieht sich auf Amazon Nova Version 1. Amazon Nova 2 ist jetzt mit neuen Modellen und erweiterten Funktionen erhältlich. Informationen zum Anpassen von Amazon Nova 2-Modellen finden Sie unter Amazon Nova 2-Modelle anpassen.

Sie können Amazon Nova-Modelle, einschließlich der erweiterten Amazon Nova 2.0-Modelle, anhand von Rezepten anpassen und sie anhand von Rezepten trainieren SageMaker. Diese Rezepte unterstützen Techniken wie Supervised Fine-Tuning (SFT), Direct Preference Optimization (DPO) und Reinforcement Fine-Tuning (RFT) mit Optionen für Full-Rank und Low-Rank Adaptation (LoRa).

Der end-to-end Anpassungsablauf umfasst Phasen wie Modelltraining, Modellevaluierung und Einsatz für Inferenz. Dieser Ansatz zur Modellanpassung SageMaker bietet mehr Flexibilität und Kontrolle bei der Feinabstimmung der unterstützten Amazon Nova-Modelle, der präzisen Optimierung von Hyperparametern und der Implementierung von Techniken wie LoRa Parameter-Efficient Fine-Tuning (PEFT), Full-Rank SFT, DPO, RFT, Continued Pre-Training (CPT), Proximal Policy Optimization (PPO) usw.

SageMaker bietet zwei Umgebungen für die Anpassung von Amazon Nova-Modellen.

  • SageMaker Training Jobs bietet eine vollständig verwaltete Umgebung für die Anpassung von Amazon Nova-Modellen, in der Sie keine Cluster erstellen oder verwalten müssen. Der Service kümmert sich automatisch um die gesamte Bereitstellung, Skalierung und Ressourcenverwaltung der Infrastruktur, sodass Sie sich ausschließlich auf die Konfiguration Ihrer Trainingsparameter und die Einreichung Ihres Jobs konzentrieren können. Sie können Nova-Modelle für SageMaker Trainingsjobs mit Techniken wie Parameter Efficient Fine-Tuning (PEFT), Full Rank Fine Tuning, Direct Preference Optimization (DPO) und Reinforcement Fine-Tuning (RFT) individuell anpassen. Weitere Informationen finden Sie unter Amazon Nova-Anpassung bei SageMaker Schulungsjobs.

    Anmerkung

    Wenn Sie einen KMS-Schlüssel für Ihren Schulungsjob zur Anpassung des Amazon Nova-Modells zur Verschlüsselung im Amazon-eigenen Output-S3-Bucket bereitstellen:

    • Sie müssen denselben KMS-Schlüssel angeben, wenn Sie nachfolgende iterative Trainingsjobs aufrufen oder wenn Sie die Amazon CreateCustomModelBedrock-API aufrufen, die das verschlüsselte Modell nutzt.

    • Die Identität, die die CreateTrainingJob API aufruft (und nicht die Ausführungsrolle), muss über die in der KMS-Schlüsselrichtlinie definierten Berechtigungen für CreateGrant RetireGrantEncrypt,, und GenerateDataKey verfügen.

  • SageMaker HyperPodbietet eine spezielle Umgebung zum Trainieren von Amazon Nova-Modellen, in der Sie EKS-Cluster mit eingeschränkten Instanzgruppen (RIGs) erstellen und verwalten müssen. Diese Umgebung bietet Ihnen Flexibilität bei der Konfiguration Ihrer Trainingsumgebung mit speziellen GPU-Instances und integriertem Amazon FSx for Lustre-Speicher, sodass sie sich besonders für fortgeschrittene verteilte Trainingsszenarien und die laufende Modellentwicklung eignet. Weitere Informationen finden Sie unter Amazon Nova-Anpassung auf SageMaker HyperPod.

In diesem Kapitel