Übermitteln eines Modellimportauftrags - Amazon Bedrock

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Übermitteln eines Modellimportauftrags

Sie importieren ein Modell in Amazon Bedrock, indem Sie einen Modellimportauftrag in der Amazon Bedrock-Konsole einreichen, die API verwenden, das AWS CLI oder das SDK verwendenAWS. Im Auftrag geben Sie den Amazon-S3-URI für die Quelle der Modelldateien an. Wenn Sie das Modell in Amazon SageMaker AI erstellt haben, können Sie das SageMaker KI-Modell alternativ angeben. Während des Modellimports erkennt der Importauftrag automatisch die Architektur Ihres Modells. Der Modellimportauftrags kann einige Minuten in Anspruch nehmen. Während des Auftrags überprüft Amazon Bedrock, ob das Modell, das importiert wird, eine kompatible Modellarchitektur verwendet.

Das folgende Verfahren zeigt Ihnen, wie Sie ein benutzerdefiniertes Modell erstellen können, indem Sie ein Modell, das Sie bereits angepasst haben, importieren. Wählen Sie die Registerkarte aus, die der Methode Ihrer Wahl entspricht, und folgen Sie den Schritten.

Console

Führen Sie die folgenden Schritte aus, um einen Modellimportauftrag in der Konsole zu übermitteln.

  1. Wenn Sie Ihre Modelldateien aus Amazon S3 importieren, konvertieren Sie das Modell in das Format Hugging Face.

    1. Wenn es sich bei Ihrem Modell um ein Modell von Mistral AI handelt, verwenden Sie convert_mistral_weights_to_hf.py.

    2. Wenn es sich bei Ihrem Modell um ein Llama-Modell handelt, verwenden Sie convert_llama_weights_to_hf.py.

    3. Laden Sie die Modelldateien in einen Amazon-S3-Bucket in Ihrem AWS-Konto hoch. Weitere Informationen finden Sie unter Hinzufügen eines Objekts in Ihren Bucket.

    4. Wenn Sie kontoübergreifende Amazon S3- oder KMS-Schlüssel verwenden, um Ihr benutzerdefiniertes Modell zu importieren, gewähren Sie Amazon Bedrock Zugriff auf Ihren AWS-Konto Amazon S3- oder KMS-Schlüssel. Weitere Informationen finden Sie unter Kontoübergreifender Zugriff auf Amazon-S3-Buckets für benutzerdefinierte Modellimportaufträge.

  2. Wählen Sie im linken Navigationsbereich der Amazon-Bedrock-Konsole unter Basismodelle die Option Importierte Modelle aus.

  3. Wählen Sie die Registerkarte Modelle.

  4. Wählen Sie Import model (Modell importieren) aus.

  5. Wählen Sie auf der Registerkarte Importiert die Option Modell importieren aus, um die Seite Modell importieren zu öffnen.

  6. Gehen Sie im Abschnitt Modelldetails wie folgt vor:

    1. Geben Sie im Feld Modellname einen Namen für das Modell ein.

    2. (Optional) Sie können den Abschnitt Tags erweitern und Neues Tag hinzufügen auswählen, um dem Modell Tags zuzuordnen.

  7. Gehen Sie im Abschnitt Name des Importauftrags wie folgt vor:

    1. Geben Sie im Feld Auftragsname einen Namen für den Modellimportauftrag ein.

    2. (Optional) Sie können den Abschnitt Tags erweitern und Neues Tag hinzufügen auswählen, um dem benutzerdefinierten Modell Tags zuzuordnen.

  8. Wählen Sie unter Modellimporteinstellungen die Importoptionen aus, die Sie verwenden möchten.

    • Wählen Sie Amazon S3 S3-Bucket oder Amazon SageMaker AI-Modell aus, um die Importquelle anzugeben.

    • Wenn Sie Ihre Modelldateien aus einem Amazon-S3-Bucket importieren, geben Sie den Amazon-S3-Speicherort unter S3-Speicherort ein. Optional können Sie S3 durchsuchen auswählen, um den Speicherort der Datei anzugeben.

    • Wenn Sie Ihr Modell aus Amazon SageMaker AI importieren, wählen Sie Amazon SageMaker AI-Modell und dann das SageMaker KI-Modell aus, das Sie in SageMaker KI-Modelle importieren möchten.

  9. Geben Sie VPC-Einstellungen (optional) ein, um eine VPC-Konfiguration für den Zugriff auf Ihre Amazon-S3-Datenquelle in Ihrer VPC auszuwählen. Sie können VPCs, Subnetze und Sicherheitsgruppen in Amazon VPC erstellen und verwalten. Weitere Informationen zu Amazon VPC finden Sie unter (Optional) Schützen der Importaufträge für benutzerdefinierte Modelle mit einer VPC.

  10. Wählen Sie Verschlüsselung, um Ihre Daten standardmäßig mit einem AWS Schlüssel zu verschlüsseln, der Ihnen gehört und von Ihnen verwaltet wird. Sie können auch einen anderen Schlüssel wählen, wenn Sie Verschlüsselungseinstellungen anpassen (erweitert) auswählen.

  11. Wählen Sie im Abschnitt Servicezugriff eine der folgenden Optionen aus:

    • Neue Servicerolle erstellen und verwenden – Geben Sie einen Namen für die Servicerolle ein.

    • Eine vorhandene Servicerolle verwenden – Wählen Sie eine Servicerolle aus der Dropdown-Liste aus. Wenn Sie die Berechtigungen sehen möchten, die Ihre bestehende Servicerolle benötigt, wählen Sie Berechtigungsdetails anzeigen aus.

      Weitere Informationen zum Einrichten einer Servicerolle mit den entsprechenden Berechtigungen finden Sie unter Erstellen einer Servicerolle für den Import von vortrainierten Modellen.

      Anmerkung

      Wenn Sie kontoübergreifende Amazon S3- oder KMS-Schlüssel verwenden, bearbeiten Sie die Service-Rollenrichtlinie und ersetzen Sie die für angegebene Konto-ID aws:ResourceAccount durch die AWS Konto-ID des Bucket-Besitzers.

  12. Wählen Sie Importieren aus.

  13. Wählen Sie auf der Seite Benutzerdefinierte Modelle die Option Importiert aus.

  14. Überprüfen Sie im Bereich Aufträge den Status des Importauftrags. Der von Ihnen angegebene Modellname identifiziert den Modellimportauftrag. Der Auftrag ist abgeschlossen, wenn der Wert Status für das Modell Abgeschlossen lautet.

  15. Rufen Sie die Modell-ID für Ihr Modell ab, indem Sie wie folgt vorgehen.

    1. Wählen Sie auf der Seite Importierte Modelle die Registerkarte Modelle aus.

    2. Kopieren Sie den ARN des Modells, das Sie verwenden möchten, aus der Spalte ARN.

  16. Verwenden Sie Ihr Modell für Inferenzaufrufe. Weitere Informationen finden Sie unter Senden Sie eine einzelne Aufforderung mit InvokeModel. Sie können das Modell mit On-Demand-Durchsatz verwenden.

    Außerdem können Sie Ihr Modell im Text-Playground von Amazon Bedrock verwenden.

API

Anforderung

Senden Sie eine Anfrage CreateModelImportJob(siehe Link für Anfrage- und Antwortformat und Felddetails) mit einem Endpunkt der Amazon Bedrock-Steuerebene, um einen Importauftrag für ein benutzerdefiniertes Modell einzureichen. Sie müssen mindestens die folgenden Felder angeben:

  • roleArn – Der ARN der Servicerolle mit den Berechtigungen zum Importieren von Modellen. Amazon Bedrock kann automatisch eine Rolle mit den entsprechenden Berechtigungen erstellen, wenn Sie die Konsole verwenden. Sie können auch eine benutzerdefinierte Rolle erstellen, indem Sie den Schritten unter Erstellen einer Servicerolle für den Import von vortrainierten Modellen folgen.

    Anmerkung

    Wenn Sie ein vpcConfig-Feld einschließen, stellen Sie sicher, dass die Rolle über die erforderlichen Berechtigungen für den Zugriff auf die VPC verfügt. Ein Beispiel finden Sie unter Fügen Sie VPC-Berechtigungen an eine benutzerdefinierte Modelimportrolle an.

  • importedModelName – Der Name für das neu importierte Modell

  • jobName – Der Name des Auftrags

  • modelDataSource – Die Datenquelle für das importierte Modell

Wenn Sie verhindern möchten, dass die Anforderung mehr als einmal abgeschlossen wird, fügen Sie einen clientRequestToken hinzu.

Sie können die folgenden optionalen Felder für zusätzliche Konfigurationen einschließen.

Antwort

Die Antwort gibt einen jobArn für den Importauftrag zurück, den Sie verwenden, um den Importauftrag in anderen Operationen zu identifizieren.

Es dauert eine Weile, bis der Auftrag abgeschlossen ist. Sie können den aktuellen Status überprüfen, indem Sie den GetModelImportJobVorgang aufrufen und das Status Feld in der Antwort überprüfen. Sie können die aktuellen Importaufträge mit dem auflisten ListModelImportJobs.

Um eine Liste der Modelle zu erhalten, die Sie importiert haben, rufen Sie an ListImportedModels. Um Informationen zu einem bestimmten importierten Modell zu erhalten, rufen Sie an GetImportedModel.

Um ein importiertes Modell zu löschen, rufen Sie an DeleteImportedModel.