Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.
Bereitgestellter Durchsatz
Wenn Sie den bereitgestellten Durchsatz für ein Modell konfigurieren, erhalten Sie einen bestimmten Durchsatz zu festen Kosten.
Sie können bereitgestellten Durchsatz mit Basismodellen von Amazon und Drittanbietern sowie mit benutzerdefinierten Modellen verwenden.
Die Preise für bereitgestellten Durchsatz variieren je nach dem Modell, das Sie verwenden, und der Verpflichtung, die Sie auswählen. Sie erhalten einen ermäßigten Tarif, wenn Sie sich für einen längeren Zeitraum verpflichten. Details zu den Preisen der einzelnen Modelle finden Sie auf der Seite Modellanbieter
Ihre Optionen für den Durchsatz für ein Modell unterscheiden sich je nachdem, ob Sie Inferenzen für ein Basis- oder ein benutzerdefiniertes Modell bilden.
Anmerkung
In der AWS GovCloud (US) Region können Sie Provisioned Throughput nur unverbindlich für benutzerdefinierte Modelle erwerben.
| Gebührenoption | Basismodell | Benutzerdefiniertes Modell |
|---|---|---|
| Bereitgestellter Durchsatz, keine Verpflichtung (Stundensatz) | Nicht verfügbar | Verfügbar (maximal 2 bereitgestellte Durchsätze pro Konto) |
| Bereitgestellter Durchsatz, Verpflichtungsfrist 1 Monat | Verfügbar | Verfügbar |
| Bereitgestellter Durchsatz, Verpflichtungsfrist 6 Monate | Verfügbar | Verfügbar |
Den bereitgestellten Durchsatz geben Sie in Model Units (MU, Modelleinheiten) an. Eine Modelleinheit bietet einen bestimmten Durchsatz für das angegebene Modell. Die Durchsatzstufe einer MU für ein bestimmtes Textmodell gibt Folgendes an:
Die Gesamtzahl der Eingabe-Token pro Minute – die Anzahl der Eingabe-Token, die eine MU für alle Anfragen innerhalb einer Minute verarbeiten kann
Die Gesamtzahl der Ausgabe-Token pro Minute – die Anzahl der Ausgabe-Token, die eine MU für alle Anfragen innerhalb einer Minute generieren kann
Die Kontingente für Modelleinheiten hängen von der Stufe der Verpflichtung ab, die Sie für den bereitgestellten Durchsatz angeben.
-
Für benutzerdefinierte Modelle ohne Verpflichtung ist ein Kontingent von einer Modelleinheit für jeden bereitgestellten Durchsatz verfügbar. Sie können bis zu zwei bereitgestellte Durchsätze pro Konto erstellen.
-
Für Basis- oder benutzerdefinierte Modelle mit Verpflichtung gibt es ein Standardkontingent von 0 Modelleinheiten. Wenn Sie eine Kontigenterhöhung beantragen möchten, verwenden Sie das Formular zur Erhöhung des Limits
.
Themen
