Serverless-Endpunkt aktualisieren - Amazon SageMaker AI
Den Endpunkt löschen

Serverless-Endpunkt aktualisieren

Bevor Sie Ihren Endpunkt aktualisieren, erstellen Sie eine neue Endpunktkonfiguration oder verwenden Sie eine vorhandene Endpunktkonfiguration. In der Endpunktkonfiguration geben Sie die Änderungen für Ihr Update an. Anschließend können Sie Ihren Endpunkt mit der SageMaker-AI-Konsole, der API UpdateEndpoint oder dem AWS CLI aktualisieren. Der Vorgang zur Aktualisierung eines Serverless-Endpunktes ist derselbe wie für die Aktualisierung eines Echtzeitendpunktes. Beachten Sie, dass es bei der Aktualisierung Ihres Endpunktes zu Kaltstarts kommen kann, wenn Sie Anforderungen an den Endpunkt stellen, weil SageMaker AI Ihren Container und Ihr Modell neu initialisieren muss.

Sie möchten ggf. einen Serverless-Endpunkt auf Abruf auf einen Serverless-Endpunkt mit bereitgestellter Gleichzeitigkeit aktualisieren oder den Wert für bereitgestellte Gleichzeitigkeit für einen vorhandenen Serverless-Endpunkt mit bereitgestellter Gleichzeitigkeit anpassen. In beiden Fällen müssen Sie eine neue Serverless-Endpunktkonfiguration mit dem gewünschten Wert für bereitgestellte Gleichzeitigkeit erstellen und UpdateEndpoint auf den vorhandenen Serverless-Endpunkt anwenden. Wie Sie eine neue Serverless-Endpunktkonfiguration mit bereitgestellter Gleichzeitigkeit erstellen, erfahren Sie unter Eine Endpunktkonfiguration erstellen.

Wenn Sie von einem Serverless-Endpunkt die bereitgestellte Gleichzeitigkeit entfernen möchten, müssen Sie eine neue Endpunktkonfiguration erstellen, ohne einen Wert für die bereitgestellte Gleichzeitigkeit anzugeben, und dann UpdateEndpoint auf den Endpunkt anwenden.

Anmerkung

Die Aktualisierung eines Echtzeit-Inferenzendpunktes auf einen Serverless-Endpunkt auf Abruf oder einen Serverless-Endpunkt mit bereitgestellter Gleichzeitigkeit wird derzeit nicht unterstützt.

Den Endpunkt löschen

Wenn Sie eine neue Serverless-Endpunktkonfiguration erstellt haben, können Sie mit Hilfe des AWS SDK für Python (Boto3) oder der SageMaker AI-Konsole einen vorhandenen Serverless-Endpunkt aktualisieren. In den folgenden Abschnitten wird anhand von Beispielen beschrieben, wie Sie Ihren Endpunkt mithilfe des AWS SDK für Python (Boto3) und der SageMaker-AI-Konsole aktualisieren können.

So aktualisieren Sie den Endpunkt (mit Boto3)

Im folgenden Beispiel wird das AWS SDK für Python (Boto3) verwendet, um die Methode update_endpoint aufzurufen. Geben Sie beim Aufrufen der Methode mindestens die folgenden Parameter an:

  • Verwenden Sie für EndpointName den Namen des Endpunktes, den Sie aktualisieren wollen.

  • Verwenden Sie für EndpointConfigName den Namen der Endpunktkonfiguration, die Sie für das Update verwenden möchten.

response = client.update_endpoint(
    EndpointName="<your-endpoint-name>",
    EndpointConfigName="<new-endpoint-config>",
)

So aktualisieren Sie den Endpunkt (mit Hilfe der Konsole)

  1. Melden Sie sich bei der Konsole von Amazon SageMaker AI an.

  2. Wählen Sie auf der Registerkarte Navigation Inferenz aus.

  3. Wählen Sie als Nächstes Endpunkte aus.

  4. Wählen Sie von der Liste der Endpunkte den Endpunkt aus, den Sie aktualisieren möchten.

  5. Wählen Sie im Abschnitt Einstellungen für Endpunktkonfiguration die Option Ändern aus.

  6. Wählen Sie unter Endpunktkonfiguration ändern die Option Vorhandene Endpunktkonfiguration verwenden aus.

  7. Wählen Sie von der Liste der Endpunktkonfigurationen diejenige aus, die Sie für Ihr Update verwenden möchten.

  8. Wählen Sie Endpunktkonfiguration auswählen.

  9. Wählen Sie Endpunkt aktualisieren aus.