Erwerben von bereitgestelltem Durchsatz für ein benutzerdefiniertes Modell - Amazon Bedrock

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Erwerben von bereitgestelltem Durchsatz für ein benutzerdefiniertes Modell

Wenn Sie ein benutzerdefiniertes Modell mit dedizierter Rechenkapazität und garantiertem Durchsatz verwenden möchten, haben Sie die Möglichkeit, dafür bereitgestellten Durchsatz zu kaufen. Anschließend können Sie das resultierende bereitgestellte Modell als Inferenz verwenden. Weitere Informationen zu bereitgestelltem Durchsatz finden Sie unter Erhöhen Sie die Kapazität für den Modellaufruf mit Provisioned Throughput in Amazon Bedrock.

Console
So erwerben Sie bereitgestellten Durchsatz für ein benutzerdefiniertes Modell

  1. Melden Sie sich bei der AWS-Managementkonsole mit einer IAM-Identität an, die berechtigt ist, die Amazon Bedrock-Konsole zu verwenden. Öffnen Sie dann die Amazon Bedrock-Konsole unter https://console.aws.amazon.com/bedrock.

  2. Wählen Sie im linken Navigationsbereich unter Optimieren die Option Benutzerdefinierte Modelle aus.

  3. Wählen Sie auf der Registerkarte Modelle das Optionsfeld neben dem Modell aus, für das Sie bereitgestellten Durchsatz kaufen möchten. Oder wählen Sie den Modellnamen aus, um zur Detailseite zu navigieren.

  4. Wählen Sie Bereitgestellten Durchsatz kaufen aus.

  5. Führen Sie die Schritte in der Dokumentation zum bereitgestellten Durchsatz aus, um weitere Informationen zu erhalten.

  6. Führen Sie nach dem Kauf von bereitgestelltem Durchsatz für das benutzerdefinierte Modell die Schritte in der Dokumentation zur Nutzung des bereitgestellten Durchsatzes aus.

Wenn Sie einen Vorgang ausführen, der die Verwendung benutzerdefinierter Modelle unterstützt, wird Ihr benutzerdefiniertes Modell als Option im Menü zur Modellauswahl angezeigt.

API

Um Provisioned Throughput für ein benutzerdefiniertes Modell zu erwerben, folgen Sie den Schritten in der Dokumentation zum bereitgestellten Durchsatz, um eine Anfrage CreateProvisionedModelThroughput(siehe Link für Anfrage- und Antwortformate und Felddetails) mit einem Amazon Bedrock Control Plane-Endpunkt zu senden. Verwenden Sie den Namen oder ARN des benutzerdefinierten Modells als modelId. Als Antwort wird eine zurückgegebenprovisionedModelArn, die Sie als Antwort verwenden können, modelId wenn Sie eine InvokeModelOder-Anfrage stellen. InvokeModelWithResponseStream

Siehe Codebeispiele