View a markdown version of this page

Fine-tune Modelle mit offenem Gewicht unter Verwendung OpenAI-kompatible APIs - Amazon Bedrock

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Fine-tune Modelle mit offenem Gewicht unter Verwendung OpenAI-kompatible APIs

Amazon Bedrock bietet OpenAI kompatible API-Endpunkte für die Feinabstimmung von Basismodellen. Mit diesen Endpunkten können Sie vertraute OpenAI SDKs und Tools verwenden, um Feinabstimmungsjobs mit Amazon Bedrock-Modellen zu erstellen, zu überwachen und zu verwalten. Auf dieser Seite wird die Verwendung dieser APIs zur Feinabstimmung von Verstärkern hervorgehoben.

Die wichtigsten Funktionen

  • Trainingsdateien hochladen — Verwenden Sie die Files API, um Trainingsdaten für die Feinabstimmung hochzuladen und zu verwalten

  • Erstellen Sie Aufträge zur Feinabstimmung — Beginnen Sie mit der Feinabstimmung von Aufträgen mit benutzerdefinierten Trainingsdaten und Belohnungsfunktionen

  • Jobs auflisten und abrufen — Sieh dir alle Aufträge zur Feinabstimmung an und erhalte detaillierte Informationen zu bestimmten Jobs

  • Auftragsereignisse überwachen — Verfolgen Sie den Fortschritt der Feinabstimmung anhand detaillierter Ereignisprotokolle

  • Zugriffs-Checkpoints — Rufen Sie Zwischenmodell-Checkpoints ab, die während des Trainings erstellt wurden

  • Sofortige Rückschlüsse — Verwenden Sie nach Abschluss der Feinabstimmung das daraus resultierende, fein abgestimmte Modell für On-Demand-Inferenzen über die OpenAI-compatible APIs (Completions API) von Amazon Bedrock ohne zusätzliche Bereitstellungsschritte Responses/chat

  • Einfache Migration — Kompatibel mit vorhandenen SDK-Codebasen OpenAI

Verstärkung des Workflows zur Feinabstimmung von Modellen mit offenem Gewicht

Stellen Sie vor der Feinabstimmung sicher, dass Sie die Voraussetzungen erfüllen, da Amazon Bedrock spezielle Berechtigungen benötigt, um den Feinabstimmungsprozess zu erstellen und zu verwalten. Umfassende Informationen zu Sicherheit und Berechtigungen finden Sie unter. Zugriff und Sicherheit für Modelle mit offenem Gewicht

Führen Sie die Feinabstimmung der Verstärkung für Modelle mit offenem Gewicht in 5 Schritten durch:

  1. Trainingsdatensatz hochladen — Verwende die Files-API, um Aufforderungen im erforderlichen Format (z. B. JSONL) hochzuladen, wobei der Zweck „Feinabstimmung“ als Trainingsdatensatz zur Verstärkung der Feinabstimmung dient. Weitere Informationen finden Sie unter Daten für Modelle mit offenem Gewicht vorbereiten.

  2. Belohnungsfunktion konfigurieren — Definieren Sie einen Grader, der die Antworten der Modelle mithilfe von Lambda-Funktionen anhand von Richtigkeit, Struktur, Tonfall oder anderen Zielen bewertet. Weitere Informationen finden Sie unter Einrichtung von Belohnungsfunktionen für Modelle mit offenem Gewicht.

  3. Fine-tuning Auftrag erstellen — Starten Sie die Feinabstimmung der Verstärkung mithilfe der OpenAI -kompatiblen API, indem Sie das Basismodell, den Datensatz, die Belohnungsfunktion und andere optionale Einstellungen wie Hyperparameter angeben. Weitere Informationen finden Sie unter Einen Job zur Feinabstimmung erstellen.

  4. Trainingsfortschritt überwachen — Verfolgen Sie den Auftragsstatus, Ereignisse und Schulungskennzahlen mithilfe der APIs zur Feinabstimmung der Jobs. Weitere Informationen finden Sie unter Führt Feinabstimmungsereignisse auf. Greifen Sie auf Zwischenmodell-Checkpoints zu, um die Leistung in verschiedenen Trainingsphasen zu bewerten, siehe. Listet Checkpoints für die Feinabstimmung auf

  5. Inferenz ausführen — Verwenden Sie die fein abgestimmte Modell-ID direkt für Rückschlüsse über die Amazon OpenAI Bedrock-kompatiblen APIs für Antworten oder Chat-Abschlüsse. Weitere Informationen finden Sie unter Führen Sie die Inferenz mit einem fein abgestimmten Modell aus.

Unterstützte Regionen und Endpunkte

Die folgende Tabelle zeigt die Basismodelle und Regionen, die OpenAI kompatible APIs zur Feinabstimmung unterstützen:

Unterstützte Modelle und Regionen für OpenAI kompatible APIs zur Feinabstimmung
Anbieter Modell Modell-ID Name der Region Region Endpoint
OpenAI Gpt-oss-20B openai.gpt-oss-20b USA West (Oregon) us-west-2 bedrock-mantle.us-west-2.api.aws
Qwen Qwen 3 32 B qwen.qwen3-32b USA West (Oregon) us-west-2 bedrock-mantle.us-west-2.api.aws