更新无服务器端点 - 亚马逊 SageMaker AI

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

更新无服务器端点

更新端点前,请创建新的端点配置或使用现有的端点配置。您可以在端点配置中指定更改以进行更新。然后,您可以使用 SageMaker AI 控制台UpdateEndpointAPI 或更新您的终端节点AWS CLI。更新无服务器端点的流程与更新实时端点的流程相同。请注意,在更新终端节点时,向终端节点发出请求时可能会遇到冷启动,因为 SageMaker AI 必须重新初始化您的容器和模型。

您可能需要将按需无服务器端点更新为使用预置并发的无服务器端点,或者调整使用预置并发的现有无服务器端点的预置并发值。在这两种情况下,您都必须创建新的无服务器端点配置,并为预置并发设置所需的值,然后将 UpdateEndpoint 应用到现有的无服务器端点。有关使用预置并发创建新的无服务器端点配置的更多信息,请参阅创建端点配置

如果要从无服务器端点中移除预置并发,则必须在不为预置并发指定任何值的情况下创建新的端点配置,然后将 UpdateEndpoint 应用到该端点。

注意

目前不支持将实时推理端点更新为按需无服务器端点或使用预置并发的无服务器端点。

更新端点

创建新的无服务器端点配置后,您可以使用AWS SDK for Python (Boto3)SageMaker AI 控制台更新现有的无服务器端点。以下各节概述了如何使用AWS SDK for Python (Boto3)和 SageMaker AI 控制台更新终端节点的示例。

更新端点(使用 Boto3)

下面的示例使用 AWS SDK for Python (Boto3) 调用 update_endpoint 方法。调用此方法时至少指定以下参数:

  • 对于 EndpointName,使用要更新的端点的名称。

  • 对于 EndpointConfigName,使用要用于更新的端点配置的名称。

response = client.update_endpoint( EndpointName="<your-endpoint-name>", EndpointConfigName="<new-endpoint-config>", )

更新端点(使用控制台)

  1. 登录 Amazon A SageMaker I 控制台

  2. 在导航选项卡中,选择推理

  3. 接下来,选择端点

  4. 从端点列表中选择要更新的端点。

  5. 端点配置设置部分中选择更改

  6. 对于更改端点配置,选择使用现有的端点配置

  7. 从端点配置列表中,选择要用于更新的配置。

  8. 选择选择端点配置

  9. 选择更新端点