ML 容量块

机器学习容量块允许您在未来预留基于 GPU 的加速型计算实例，以支持您的短期机器学习工作负载。在容量块内运行的实例会自动紧密放置在 Amazon EC2 UltraClusters 中，以实现低延迟、PB 级非阻塞联网。

您还可以使用容量块为 Amazon EC2 UltraServers 预留容量。UltraServer 在低延迟、高带宽的加速器互连中连接多个 Amazon EC2 实例。您可以使用 UltraServer 来处理训练、微调和推理中最需要计算和内存的 AI/ML 工作负载。有关更多信息，请参阅 Amazon EC2 UltraServers。

使用容量块，您可以了解 GPU 实例容量在未来何时可用，并安排容量块在最适合您的时间启动。当您预留容量块时，您可以获得 GPU 实例的可预测容量保证，同时只需为所需的时间付费。如果您需要 GPU 一次支持几天或几周的 ML 工作负载，并且不想在未使用 GPU 实例时支付预留费用，我们建议您使用容量块。

以下是容量块的一些常见使用案例。

您可以预留具有以下规格的容量块：

对于 Amazon EC2 UltraServers，每个 UltraServer 对应一个容量块。您可以通过一次请求来请求多个 UltraServer。

您可以使用容量块来预留 p6-b200、p5、p5e、p5en、p4d、p4de、trn1 和 trn2 实例。您可以通过容量块购买以下 UltraServer 类型：P6e-GB200 和 Trn2（预览版）。

要预留容量块，首先要指定容量需求，包括所需的实例类型或 UltraServer 类型、实例或 UltraServer 数量、时间、最早开始日期和最晚结束日期。然后，您可以看到符合您要求的可用容量块产品。容量块产品包括开始时间、可用区和预留价格等详细信息。容量块产品的价格取决于产品交付时的供需情况。预留容量块后，价格不会改变。有关更多信息，请参阅 容量块定价和计费。

当您购买容量块产品时，系统会根据您选择的日期和实例数创建预留。当容量块预留开始时，您可以通过在启动请求中指定预留 ID 来定位实例启动。

您可以在容量块结束时间前 30 分钟（适用于实例类型）或 60 分钟（适用于 UltraServer 类型）之前使用您预留的所有实例。在您的容量块预留还剩 30 分钟（适用于实例类型）或 60 分钟（适用于 UltraServer 类型）时，我们将开始终止在容量块中运行的所有实例。我们会利用这段时间清理您的实例，然后将容量块交付给下一个客户。系统将在终止过程开始前 10 分钟通过 EventBridge 发布一个事件。有关更多信息，请参阅 使用 EventBridge 监控容量块。

支持的平台

适用于 ML 的容量块目前仅支持具有默认租赁的实例和 UltraServer。当您使用 AWS Management Console 购买容量块时，默认平台选项为 Linux/UNIX。当您使用 AWS Command Line Interface（AWS CLI）或 AWS SDK 购买容量块时，可以使用以下平台选项：

注意事项

在使用容量块之前，请考虑以下细节和限制。

相关资源

创建容量块后，您可以使用容量块执行以下操作：

有关 AWS ParallelCluster 的更多信息，请参阅什么是 AWS ParallelCluster。