更新無伺服器端點 - Amazon SageMaker AI

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

更新無伺服器端點

端點更新前,請先建立新的端點設定,或使用現有的端點組態。端點組態是您指定更新變更的位置。然後,您可以使用 SageMaker AI 主控台UpdateEndpoint API 或 AWS CLI 來更新您的端點。更新無伺服器端點的程序與更新即時端點的程序相同。請注意,更新端點時,向端點發出請求時可能會遇到冷啟動,因為 SageMaker AI 必須重新初始化您的容器和模型。

您可能想要將隨需無伺服器端點更新為具有佈建並行的無伺服器端點,或者針對具有佈建並行的現有無伺服器端點調整佈建並行值。對於這兩種情況,您都必須使用所需的佈建並行值建立新的無伺服器端點組態,並套用 UpdateEndpoint 至現有的無伺服器端點。如需使用佈建並行建立一個新無伺服器端點組態的更多資訊,請參閱建立端點組態

如果您想要從無伺服器端點移除佈建並行,則必須建立新的端點組態,而不必為佈建並行指定任何值,然後套用 UpdateEndpoint 至端點。

注意

目前不支援將即時推論端點更新為隨需無伺服器端點,或具有佈建並行的無伺服器端點。

更新端點

建立新的無伺服器端點組態後,您可以透過 AWS SDK for Python (Boto3)SageMaker AI 主控台,來更新現有的無伺服器端點。以下各節概述如何使用 AWS SDK for Python (Boto3)和 SageMaker AI 主控台更新端點的範例。

更新端點 (使用 Boto3)

下列範例使用 AWS SDK for Python (Boto3) 來呼叫 update_endpoint 方法。呼叫方法時,請至少指定下列參數:

  • EndpointName 中,使用您更新的端點的名稱。

  • EndpointConfigName 中,使用您要用於更新的端點組態的名稱。

response = client.update_endpoint( EndpointName="<your-endpoint-name>", EndpointConfigName="<new-endpoint-config>", )

更新端點 (使用主控台)

  1. 登入 Amazon SageMaker AI 主控台

  2. 在導覽索引標記中,選擇推論

  3. 接下來,選擇端點

  4. 從端點清單中,選取您要更新的端點。

  5. 端點組態設定區段中選擇 變更

  6. 變更端點組態中,選擇 使用現有的端點組態

  7. 從端點組態清單中,選取您要用於更新的組態。

  8. 選擇選取端點組態

  9. 選擇 更新端點