本文属于机器翻译版本。若本译文内容与英语原文存在差异，则一律以英文原文为准。

Amazon SageMaker HyperPod Inference 发行说明

本主题涵盖了跟踪 Amazon SageMaker HyperPod Inference 的更新、修复和新功能的发行说明。 SageMaker HyperPod 推理使您能够以企业级的可靠性在 HyperPod 集群上部署和扩展机器学习模型。有关 Amazon SageMaker HyperPod 平台的一般版本、更新和改进，请参阅亚马逊 SageMaker HyperPod 发行说明。

有关 SageMaker HyperPod 推理功能和部署选项的信息，请参阅在亚马逊上部署模型 SageMaker HyperPod。

SageMaker HyperPod 推理发行说明：v3.1.2

发布日期：2026 年 5 月 6 日

摘要

Inference Operator v3.1.2 引入了用于记录端点流量的推理数据采集、用于直接部署模型的 HuggingFace 集线器集成、用于自定义域的 Route 53 DNS 管理、用于减少冷启动延迟的本地 NVMe 模型部署以及支持 IRSA 的自定义服务帐户。

新功能

错误修复

升级到 v3.1.2

头盔升级：

如果您已经通过 Helm 安装了推理运算符，请使用以下命令进行升级：

helm get values -n kube-system hyperpod-inference-operator \
> current-values.yaml

cd sagemaker-hyperpod-cli/helm_chart/HyperPodHelmChart/\
charts/inference-operator

helm upgrade hyperpod-inference-operator . -n kube-system \
  -f current-values.yaml --set image.tag=v3.1
    
# Verification
kubectl get deployment hyperpod-inference-operator-controller-manager \
  -n hyperpod-inference-system \
  -o jsonpath='{.spec.template.spec.containers[0].image}'

EKS Add-on 升级：

如果您将推理运算符安装为 EKS Add-on，请升级到最新版本。

首先，检查您的插件配置中hyperpodClusterArn是否已有：

CLUSTER=EKS_CLUSTER_NAME
REGION=REGION

aws eks describe-addon \
  --cluster-name $CLUSTER \
  --addon-name amazon-sagemaker-hyperpod-inference \
  --region $REGION \
  --query 'addon.configurationValues' --output text | jq .

hyperpodClusterArn如果输出中存在，请运行以下命令进行升级：

aws eks update-addon \
  --cluster-name $CLUSTER \
  --addon-name amazon-sagemaker-hyperpod-inference \
  --addon-version v1.2.0-eksbuild.1 \
  --resolve-conflicts OVERWRITE \
  --region $REGION

如果hyperpodClusterArn不存在，请获取当前配置，添加并升级：

HP_ARN=HYPERPOD_CLUSTER_ARN

CURRENT_CONFIG=$(aws eks describe-addon \
  --cluster-name $CLUSTER \
  --addon-name amazon-sagemaker-hyperpod-inference \
  --region $REGION \
  --query 'addon.configurationValues' --output text)

# Add hyperpodClusterArn to the configuration
NEW_CONFIG=$(echo "$CURRENT_CONFIG" | jq --arg arn "$HP_ARN" \
  '. + {hyperpodClusterArn: $arn}')

aws eks update-addon \
  --cluster-name $CLUSTER \
  --addon-name amazon-sagemaker-hyperpod-inference \
  --addon-version v1.2.0-eksbuild.1 \
  --configuration-values "$NEW_CONFIG" \
  --resolve-conflicts OVERWRITE \
  --region $REGION

等待插件激活后再部署模型。

SageMaker HyperPod 推理发行说明：v3.1

发布日期：2026 年 4 月 3 日

摘要

推理运算符 v3.1 引入了自定义 Kubernetes 容器配置、自定义证书支持和每个 Pod 的请求限制。

主要特点

有关包括先决条件和升级说明在内的详细信息，请参阅以下部分。

先决条件

要使用自定义证书功能，请向您的推理运算符执行角色添加以下权限：

{  
    "Sid": "ACMCertificateAccess",  
    "Effect": "Allow",  
    "Action": [  
        "acm:DescribeCertificate",  
        "acm:GetCertificate"  
    ],  
    "Resource": "arn:aws:acm:*:*:certificate/*"  
}

升级到 v3.1

如果您已经通过 Helm 安装了推理运算符，请使用以下命令进行升级：

helm get values -n kube-system hyperpod-inference-operator \
> current-values.yaml

cd sagemaker-hyperpod-cli/helm_chart/HyperPodHelmChart/\
charts/inference-operator

helm upgrade hyperpod-inference-operator . -n kube-system \
  -f current-values.yaml --set image.tag=v3.1
    
# Verification
kubectl get deployment hyperpod-inference-operator-controller-manager \
  -n hyperpod-inference-system \
  -o jsonpath='{.spec.template.spec.containers[0].image}'

SageMaker HyperPod 推理发行说明：v3.0

发布日期：2026 年 2 月 23 日

摘要

Inference Operator 3.0 引入了 EKS Add-on 集成以简化生命周期管理，引入了 Node Affinity 支持精细调度控制，并改进了资源标记。可以使用提供的迁移脚本将现有 Helm-based 安装迁移到 E Add-on KS。升级之前，请使用新的标记权限更新您的推理运算符执行角色。

主要特点

有关包括先决条件、升级说明和迁移指南在内的详细信息，请参阅以下部分。

先决条件

在将 Helm 版本升级到 3.0 之前，客户应为其推理运算符执行角色添加额外的标记权限。作为改善资源标记和安全性的一部分，推理运算符现在可以标记 ALB、S3 和 ACM 资源。此增强功能需要具有推理运算符执行角色的额外权限。向您的推理运算符执行角色添加以下权限：

{  
    "Sid": "CertificateTagginPermission",  
    "Effect": "Allow",  
    "Action": [  
        "acm:AddTagsToCertificate"  
    ],  
    "Resource": "arn:aws:acm:*:*:certificate/*",  
},  
{  
    "Sid": "S3PutObjectTaggingAccess",  
    "Effect": "Allow",  
    "Action": [  
        "s3:PutObjectTagging"  
    ],  
    "Resource": [  
        "arn:aws:s3:::<TLS_BUCKET>/*" # Replace * with your TLS bucket  
    ]  
}

升级到 v3.0

如果您已经通过 Helm 安装了推理运算符，请使用以下命令进行升级：

helm get values -n kube-system hyperpod-inference-operator \
> current-values.yaml

cd sagemaker-hyperpod-cli/helm_chart/HyperPodHelmChart/\
charts/inference-operator

helm upgrade hyperpod-inference-operator . -n kube-system \
  -f current-values.yaml --set image.tag=v3.0
    
# Verification
kubectl get deployment hyperpod-inference-operator-controller-manager \
  -n hyperpod-inference-system \
  -o jsonpath='{.spec.template.spec.containers[0].image}'

掌舵到 EKS Add-on 迁移

如果在 3.0 版本之前通过 Helm 安装推理运算符，我们建议迁移 Add-on 到 EKS，以便及时更新将为推理运算符发布的新功能。此脚本将 SageMaker HyperPod 推理运算符从 Helm-based 安装迁移到 EKS Add-on 安装。

概述：该脚本将集群名称和区域作为参数，检索现有的 Helm 安装配置，然后迁移到 EKS 部署。 Add-on 它为推理操作员、ALB 控制器和 KEDA 操作员创建了新的 IAM 角色。

在迁移推理运算符之前，该脚本会确保存在所需的依赖关系（S3 CSI 驱动程序、FSx CSI 驱动程序、证书管理器和指标服务器）。如果它们不存在，它会将它们部署为 Add-on。

推理运算符 Add-on 迁移完成后，脚本还会迁移 S3、FSx 和其他依赖项（ALB、KEDA、证书管理器、指标服务器），前提是它们最初是通过推理运算符 Helm 图表安装的。使用 --skip-dependencies-migration S3 CSI 驱动程序、FSx CSI 驱动程序、证书管理器和指标服务器可以跳过此步骤。请注意，ALB 和 KEDA 作为推理运算符的一部分安装 Add-on 在与推理运算符相同的命名空间中，并将作为推理运算符的一部分进行迁移。 Add-on

迁移先决条件：

获取迁移脚本：

git clone https://github.com/aws/sagemaker-hyperpod-cli.git
cd sagemaker-hyperpod-cli/helm_chart/HyperPodHelmChart/\
charts/inference-operator/migration

用法：

./helm_to_addon.sh [OPTIONS] \
  --cluster-name <cluster-name> (Required) \
  --region <region> (Required) \
  --helm-namespace kube-system (Optional) \
  --auto-approve (Optional) \
  --skip-dependencies-migration (Optional) \
  --s3-mountpoint-role-arn <s3-mountpoint-role-arn> (Optional) \
  --fsx-role-arn <fsx-role-arn> (Optional)

选项：

示例：

基本迁移（迁移依赖关系）：

./helm_to_addon.sh \
  --cluster-name my-cluster \
  --region us-east-1

Auto-approve 不带提示：

./helm_to_addon.sh \
  --cluster-name my-cluster \
  --region us-east-1 \
  --auto-approve

跳过 FSx、S3 挂载点、证书管理器和指标服务器的依赖迁移：

./helm_to_addon.sh \
  --cluster-name my-cluster \
  --region us-east-1 \
  --skip-dependencies-migration

提供现有 S3 和 FSx 的 IAM 角色：

./helm_to_addon.sh \
  --cluster-name my-cluster \
  --region us-east-1 \
  --s3-mountpoint-role-arn arn:aws:iam::123456789012:role/s3-csi-role \
  --fsx-role-arn arn:aws:iam::123456789012:role/fsx-csi-role

Backup 位置：

备份存储在 /tmp/hyperpod-migration-backup-<timestamp>/

备份可实现安全的迁移和恢复：

回滚：

如果迁移失败，脚本会提示用户进行确认，然后再启动回滚以恢复先前的状态。

SageMaker HyperPod 推理发行说明：v2.3

新增功能

此版本在自定义资源定义 (CRD) 中引入了新的可选字段，以增强部署配置的灵活性。

功能

错误修复

规范invocationEndpoint中对字段的更改现在InferenceEndpointConfig将生效：

安装头盔：

关注：https://github.com/aws/sagemaker-hyperpod-cli/tree/main/helm_chart

如果你只专注于安装推理运算符，那么在第 1 步之后，也就是说Set Up Your Helm Environment，就这样做cd HyperPodHelmChart/charts/inference-operator。由于您位于推理运算符图表目录中，因此在命令中，无论您看到helm_chart/HyperPodHelmChart什么，都要替.换为。

如果已安装，请将 Operator 升级到 v2.3：

cd sagemaker-hyperpod-cli/helm_chart/HyperPodHelmChart/\
charts/inference-operator

helm get values -n kube-system hyperpod-inference-operator \
> current-values.yaml

helm upgrade hyperpod-inference-operator . \
  -n kube-system \
  -f current-values.yaml \
  --set image.tag=v2.3