Erwerben Sie einen bereitgestellten Durchsatz für ein Amazon Bedrock-Modell - Amazon Bedrock

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Erwerben Sie einen bereitgestellten Durchsatz für ein Amazon Bedrock-Modell

Amazon Bedrock bietet zwei Arten von bereitgestelltem Durchsatz — nach Tokens und nach Modelleinheiten. In den folgenden Anweisungen erfahren Sie, welchen Typ von Provisioned Throughput Sie erwerben möchten.

Weitere Informationen zu den Unterschieden zwischen den beiden Typen des bereitgestellten Durchsatzes finden Sie unter. Erhöhen Sie die Kapazität für den Modellaufruf mit Provisioned Throughput in Amazon Bedrock

Wenn Sie für ein Modell ein Modell mit bereitgestelltem Durchsatz nach Modelleinheiten erwerben, geben Sie die Höhe der Verpflichtung für das Modell und die Anzahl der zuzuweisenden Modelleinheiten (MUs) an. Informationen zu MU-Kontingenten finden Sie unter Amazon Bedrock Endpoints and Quotas in der. Allgemeine AWS-Referenz Bevor Sie einen Provisioned Throughput (mit oder ohne Verpflichtung) erwerben können, müssen Sie zunächst das AWSSupport Center aufsuchen und MUs beantragen, dass Ihr Konto auf die Provisioned Throughputs aufgeteilt wird. Nachdem Ihrer Anfrage stattgegeben wurde, können Sie einen Provisioned Throughput erwerben.

Anmerkung

Wenn der Provisioned Throughput nach dem Kauf mit einem benutzerdefinierten Modell verknüpft ist, können Sie das Modell ändern, indem Sie eine der folgenden Optionen angeben:

  • Das Basismodell, auf dessen Grundlage das benutzerdefinierte Modell angepasst wurde

  • Ein weiteres benutzerdefiniertes Modell, das auf der Grundlage desselben Basismodells wie das benutzerdefinierte Modell angepasst wurde

Sie können das zugeordnete Modell nur für bereitgestellte Durchsätze ändern, die einem benutzerdefinierten Modell zugeordnet sind.

Um zu erfahren, wie Sie Provisioned Throughput für ein Modell erwerben können, wählen Sie die Registerkarte für Ihre bevorzugte Methode und gehen Sie dann wie folgt vor:

Console

  1. Melden Sie sich bei der AWS-Managementkonsole mit einer IAM-Identität an, die berechtigt ist, die Amazon Bedrock-Konsole zu verwenden. Öffnen Sie dann die Amazon Bedrock-Konsole unter https://console.aws.amazon.com/bedrock.

  2. Wählen Sie im linken Navigationsbereich Bereitgestellter Durchsatz aus.

  3. Wählen Sie im Abschnitt Provisioned Throughput die Option Purchase Provisioned Throughput aus.

  4. Gehen Sie für den Abschnitt Details zum bereitgestellten Durchsatz wie folgt vor:

    1. Geben Sie im Feld Name des bereitgestellten Durchsatzes einen Namen für den bereitgestellten Durchsatz ein.

    2. Wählen Sie unter Modell auswählen einen Basismodellanbieter oder eine benutzerdefinierte Modellkategorie aus. Wählen Sie dann das Modell aus, für das der Durchsatz bereitgestellt werden soll.

      Anmerkung

      Die Basismodelle, für die Sie Provisioned Throughput unverbindlich erwerben können, finden Sie in der Dokumentation zu den unterstützten Modellen.

      In der AWS GovCloud (US) Region können Sie Provisioned Throughput nur unverbindlich für benutzerdefinierte Modelle erwerben.

    3. (Optional) Um Ihrem bereitgestellten Durchsatz Tags zuzuordnen, erweitern Sie den Abschnitt Tags und wählen Sie Neues Tag hinzufügen aus. Weitere Informationen finden Sie unter Markieren von Amazon-Bedrock-Ressourcen.

  5. Wählen Sie für den Bereitstellungsmodus die Option Nach Modelleinheiten aus

  6. Gehen Sie für den Abschnitt Laufzeit und Modelleinheiten der Verpflichtung wie folgt vor:

    1. Wählen Sie im Abschnitt Laufzeit der Verpflichtung auswählen den Zeitraum aus, für den Sie sich verpflichten möchten, den bereitgestellten Durchsatz zu nutzen.

    2. Geben Sie im Feld Modelleinheiten die gewünschte Anzahl von Modelleinheiten (MUs) ein. Wenn Sie ein kostenpflichtiges Modell bereitstellen, müssen Sie zunächst das AWSSupport Center aufsuchen, um eine Erhöhung der Anzahl der Modelle, die Sie erwerben können MUs , zu beantragen.

  7. Wählen Sie Bereitgestellten Durchsatz erwerben aus.

  8. Prüfen Sie den angezeigten Hinweis und bestätigen Sie die Verpflichtungsfrist und den Preis, indem Sie das Kontrollkästchen aktivieren. Wählen Sie dann Kauf bestätigen aus.

  9. In der Konsole wird die Übersichtsseite für den bereitgestellten Durchsatz angezeigt. Der Status des bereitgestellten Durchsatzes in der Tabelle Bereitgestellter Durchsatz lautet Creating. Wenn die Erstellung des bereitgestellten Durchsatzes abgeschlossen ist, ändert sich der Status in Betrieb. Wenn das Update fehlschlägt, lautet der Status Fehlgeschlagen.

API

Um einen Provisioned Throughput zu erwerben, senden Sie eine CreateProvisionedModelThroughputAnfrage mit einem Amazon Bedrock Control Plane-Endpunkt.

Weitere Informationen zum Inhalt des Anforderungstexts und zu den Parametern, die Sie angeben müssen, um einen bereitgestellten Durchsatz nach Modelleinheiten zu erstellen, finden Sie CreateProvisionedModelThroughputin der Amazon Bedrock API-Referenz.

Anmerkung

Die Basismodelle, für die Sie Provisioned Throughput unverbindlich erwerben können, finden Sie in der Dokumentation zu den unterstützten Modellen.

In der AWS GovCloud (US) Region können Sie Provisioned Throughput nur unverbindlich für benutzerdefinierte Modelle erwerben.

Die Antwort gibt a zurückprovisionedModelArn, das Sie als Inferenz modelId im Modell verwenden können. Um zu überprüfen, wann der Provisioned Throughput einsatzbereit ist, senden Sie eine GetProvisionedModelThroughputAnfrage und überprüfen Sie, ob der Status lautet. InService Schlägt das Update fehl, lautet der Failed Status und die GetProvisionedModelThroughputAntwort enthält einefailureMessage.

Siehe Codebeispiele