Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.
Fortgesetztes Vortraining (CPT)
Continued Pre-Training (CPT) ist eine Trainingstechnik, die die Vortrainingsphase eines Basismodells verlängert, indem es mit zusätzlichem unbeschriftetem Text aus bestimmten Bereichen oder Korpora vertraut gemacht wird. Im Gegensatz zur überwachten Feinabstimmung, für die beschriftete Input-Output-Paare erforderlich sind, trainiert CPT anhand von Rohdokumenten, um dem Modell zu helfen, sich tiefere Kenntnisse über neue Bereiche anzueignen, domänenspezifische Terminologie und Schreibmuster zu erlernen und sich an bestimmte Inhaltstypen oder Fachbereiche anzupassen.
Dieser Ansatz ist besonders nützlich, wenn Sie über große Mengen (zig Milliarden Tokens) domänenspezifischer Textdaten verfügen, wie z. B. Rechtsdokumente, medizinische Literatur, technische Dokumentation oder firmeneigene Geschäftsinhalte, und Sie möchten, dass das Modell in diesem Bereich systemeigene Sprachkenntnisse entwickelt. Im Allgemeinen muss das Modell nach der CPT-Phase weitere Stufen zur Anpassung der Anweisungen durchlaufen, damit das Modell das neu gewonnene Wissen nutzen und nützliche Aufgaben ausführen kann.
Unterstützte Modelle
CPT ist für die folgenden Amazon Nova-Modelle verfügbar:
-
Nova 1.0 (Micro, Lite, Pro)
-
Nova 2.0 (Lite)
Wann sollte Nova 1.0 im Vergleich zu Nova 2.0 verwendet werden
Die Amazon Nova-Modellfamilie bietet mehrere Preis-Leistungs-Betriebspunkte, um ein optimales Verhältnis zwischen Genauigkeit, Geschwindigkeit und Kosten zu erzielen.
Wählen Sie Nova 2.0, wenn Sie Folgendes benötigen:
-
Fortgeschrittene Argumentationsfähigkeiten für komplexe analytische Aufgaben
-
Überragende Leistung bei Programmierung, Mathematik und wissenschaftlicher Problemlösung
-
Unterstützung für längere Kontextlängen
-
Bessere mehrsprachige Leistung
Wählen Sie Nova 1.0, wenn Folgendes zutrifft:
-
Ihr Anwendungsfall erfordert Standardsprachenkenntnisse ohne fortgeschrittene Argumentation.
-
Sie möchten für niedrigere Schulungs- und Inferenzkosten optimieren.
-
Ihr Schwerpunkt liegt eher darauf, dem Modell domänenspezifisches Wissen und Verhalten beizubringen, als komplexe Denkaufgaben.
-
Sie haben die Leistung von Nova 1.0 bereits validiert und benötigen keine zusätzlichen Funktionen.
Anmerkung
Das größere Modell ist nicht immer besser. Berücksichtigen Sie bei der Auswahl zwischen den Modellen Nova 1.0 und Nova 2.0 den Kosten-Nutzen-Kompromiss und Ihre spezifischen Geschäftsanforderungen.
