Notas SageMaker HyperPod de lançamento da Amazon

Patches SageMaker HyperPod Lançamentos da AMI para o Amazon EKS: 07 de novembro de 2025 de segurança atualizados.

Lançou a nova SageMaker HyperPod AMI para o Amazon EKS 1.33. Para obter mais informações, SageMaker HyperPod Lançamentos da AMI para o Amazon EKS: 29 de setembro de 2025.

Lançamento de uma nova AMI que atualiza o sistema operacional do Amazon Linux 2 para o Amazon Linux 2023 para clusters do EKS. As principais atualizações incluem Linux Kernel 6.1, Python 3.10, driver 560.35.03 da NVIDIA e o gerenciador de pacotes DNF, que substitui o YUM.

Para ter mais informações sobre a nova AMI e como atualizar clusters, consulte SageMaker HyperPod Lançamentos da AMI para o Amazon EKS: 31 de julho de 2025.

Lançamento de uma AMI atualizada que oferece suporte ao Ubuntu 22.04 LTS para clusters do Slurm. Essa versão inclui várias atualizações de componentes de software e sistema para oferecer melhor desempenho, recursos atualizados e segurança aprimorada.

Para obter mais informações, consulte:

Foram adicionados relatórios de uso para clusters orquestrados pelo EKS, permitindo que as organizações implementem uma alocação de custos transparente e baseada no uso entre equipes, projetos ou departamentos. Esse recurso complementa a funcionalidade HyperPod de governança de tarefas para garantir uma distribuição justa de custos em ambientes compartilhados com vários inquilinos AI/ML . Para obter mais informações, consulte Relatar o uso da computação em HyperPod.

Atualização do driver da NVIDIA da versão 550.144.03 para a 550.163.01. Essa atualização visa abordar vulnerabilidades e exposições comuns (CVEs) presentes no Boletim de Segurança do NVIDIA GPU Display de abril de 2025.

Lançou a nova SageMaker HyperPod AMI para o Amazon EKS 1.32.1. Para obter mais informações, consulte SageMaker HyperPod Lançamentos da AMI para o Amazon EKS: 18 de abril de 2025.

Foi adicionado um tutorial de receita de Otimização de Preferência Direta (DPO) para SageMaker HyperPod com a orquestração do Slurm. Este tutorial de ajuste fino fornece step-by-step orientação para otimizar o alinhamento do modelo usando o método DPO em clusters Slurm alimentados por GPU. SageMaker HyperPod Para obter mais informações, consulte HyperPod Tutorial de DPO (GPU) do cluster Slurm.

Foi adicionada uma página de início rápido para a implantação SageMaker HyperPod de clusters. A página aproveita os fluxos de trabalho de configuração simplificados dos SageMaker HyperPod workshops especializados e automatiza a implantação usando modelos pré-criados. AWS CloudFormation Ela permite a escolha de infraestrutura, como Slurm ou Amazon EKS, para facilitar a configuração e a implantação de clusters de referência.

SageMaker HyperPod agora oferece suporte aos seguintes tipos de instância para clusters Slurm e Amazon EKS.

Foram adicionadas as chaves de condição do IAM a seguir para oferecer um controle de acesso mais granular nas operações de API CreateCluster e UpdateCluster.

Foi adicionado suporte para excluir grupos de instâncias do seu SageMaker HyperPod cluster. Para ter mais informações, consulte Excluir grupos de instâncias de clusters orquestrados pelo EKS e Reduzir a escala verticalmente do cluster para clusters orquestrados pelo Slurm.

Esta versão do SageMaker HyperPod incorpora uma atualização de segurança do kit de ferramentas de contêiner da Nvidia (da versão 1.17.3 para a versão 1.17.4). Para ter mais informações, consulte as notas de lançamento da v1.17.4.

Suporte aprimorado para SageMaker HyperPod Multi-AZ: você pode especificar diferentes sub-redes e grupos de segurança, abrangendo diferentes zonas de disponibilidade, para grupos de instâncias individuais em seu cluster. Para obter mais informações sobre o suporte SageMaker HyperPod Multi-AZ, consulteConfigurando SageMaker HyperPod clusters em vários AZs.

SageMaker HyperPod Lançamentos da AMI para o Amazon EKS: 22 de janeiro de 2025

IPv6 Suporte adicional: os clusters podem usar IPv6 endereçamento quando configurados com VPC e IPv6 sub-redes habilitadas. Para obter mais informações, consulte Configuração SageMaker HyperPod com uma Amazon VPC personalizada.

SageMaker HyperPod agora oferece suporte aos seguintes tipos de instância para clusters Slurm e Amazon EKS.

Visibilidade aprimorada do registro de erros em log quando o Slurm interrompe trabalhos e impedimento do encerramento desnecessário de etapas de trabalho durante cancelamentos iniciados pelo Slurm.

DLAMI base atualizada para p5en para clusters do Slurm e do Amazon EKS.

SageMaker HyperPod Lançamentos da AMI para o Slurm: 21 de dezembro de 2024

SageMaker HyperPod Lançamentos da AMI para o Amazon EKS: 21 de dezembro de 2024

SageMaker HyperPod lança um conjunto de CloudWatch métricas da Amazon para monitorar a integridade e o desempenho dos clusters do SageMaker HyperPod Slurm. Essas métricas estão relacionadas à CPU, GPU, utilização de memória e informações da instância do cluster, como contagem de nós e nós com falha. Esse recurso de monitoramento é ativado por padrão e as métricas podem ser acessadas no /aws/sagemaker/Clusters CloudWatch namespace. Você também pode configurar CloudWatch alarmes com base nessas métricas para detectar e resolver proativamente possíveis problemas em seus clusters baseados em HyperPod SLURM. Para obter mais informações, consulte Métricas do Amazon SageMaker HyperPod Slurm.

SageMaker HyperPod Lançamentos da AMI para o Amazon EKS: 13 de dezembro de 2024

Foi adicionado suporte para configurar SageMaker HyperPod clusters em várias zonas de disponibilidade. Para obter mais informações sobre o suporte SageMaker HyperPod Multi-AZ, consulteConfigurando SageMaker HyperPod clusters em vários AZs.

SageMaker HyperPod Lançamentos da AMI para o Slurm: 24 de novembro de 2024

SageMaker HyperPod Lançamentos da AMI para o Amazon EKS: 24 de novembro de 2024

Foi adicionado suporte aos tipos de instância trn1 e trn1n para clusters orquestrados pelo Amazon EKS e pelo Slurm.

Gerenciamento aprimorado de logs para clusters do Slurm:

Ajuste das configurações do Fluent Bit para evitar problemas de rastreamento em arquivos que contém linhas longas.

Impedimento do truncamento indesejado com atualizações de nó do controlador do Slurm no arquivo de configuração slurm.config.

SageMaker HyperPod Lançamentos da AMI para o Slurm: 15 de novembro de 2024

SageMaker HyperPod Lançamentos da AMI para o Amazon EKS: 15 de novembro de 2024

SageMaker HyperPod A AMI agora oferece suporte aos tipos de instância G6e.

SageMaker HyperPod Lançamentos da AMI para o Slurm: 11 de novembro de 2024

SageMaker HyperPod Lançamentos da AMI para o Amazon EKS: 11 de novembro de 2024

Foi adicionada redução de SageMaker HyperPod clusters no nível do grupo de instâncias e no nível da instância para os clusters orquestrados Amazon EKS e Slurm. Para ter mais informações sobre como reduzir a escala verticalmente de clusters do Amazon EKS, consulte Reduzindo a escala de um cluster SageMaker HyperPod . Para ter mais informações sobre como reduzir a escala verticalmente de clusters do Slurm, consulte Reduzir a escala verticalmente de um cluster em Gerenciando clusters SageMaker HyperPod do Slurm usando o AWS CLI.

SageMaker HyperPod agora oferece suporte ao tipo de instância P5e para clusters orquestrados Amazon EKS e Slurm.

SageMaker HyperPod agora suporta os tipos de instância P5e [n], G6, Gr6 e Trn2 [n] para clusters Slurm e Amazon EKS.

SageMaker HyperPod Lançamentos da AMI para o Slurm: 21 de outubro de 2024

SageMaker HyperPod Lançamentos da AMI para o Amazon EKS: 21 de outubro de 2024

Foi adicionado suporte ao Amazon EKS em SageMaker HyperPod. Para saber mais, consulte Orquestrando SageMaker HyperPod clusters com o Amazon EKS.

Foi adicionado suporte para gerenciar SageMaker HyperPod clusters por meio do CloudFormation Terraform. Para obter mais informações sobre como gerenciar HyperPod clusters por meio deCloudFormation, consulte a CloudFormation documentação doAWS::SageMaker::Cluster. Para saber mais sobre o gerenciamento de HyperPod clusters por meio do Terraform, consulte a documentação do Terraform para. awscc_sagemaker_cluster

SageMaker HyperPod Lançamentos da AMI para o Slurm: 10 de setembro de 2024

SageMaker HyperPod Lançamentos da AMI para o Amazon EKS: 10 de setembro de 2024

Aprimorou a funcionalidade de SageMaker HyperPod retomada automática, ampliando a capacidade de resiliência dos nós Slurm conectados ao Generic (GRES). RESources

Quando recursos genéricos (GRES) são anexados a um nó do Slurm, o Slurm normalmente não permite alterações na alocação do nó, como a substituição de nós, e, portanto, não permite a retomada de um trabalho com falha. A menos que seja explicitamente proibida, a funcionalidade de HyperPod retomada automática coloca automaticamente em fila novamente qualquer trabalho com defeito associado aos nós habilitados para GRES. Esse processo envolve interromper o trabalho, colocá-lo de volta na fila de trabalhos e reiniciar o trabalho desde o início.

Pré-embalado slurmrestdna AMI SageMaker HyperPod .

Os valores padrão foram ResumeTimeout e UnkillableStepTimeout de 60 segundos para 300 segundos em slurm.conf para melhorar a capacidade de resposta do sistema e o gerenciamento do trabalho.

Fizemos pequenas melhorias nas verificações de integridade do NVIDIA Data Center GPU Manager (DCGM) e da NVIDIA System Management Interface (nvidia-smi).

O plug-in de HyperPod retomada automática pode usar nós ociosos para retomar um trabalho.

Foi adicionada uma nova capacidade de anexar armazenamento adicional às instâncias SageMaker HyperPod do cluster. Com esse recurso, você pode configurar o armazenamento suplementar no nível de configuração do grupo de instâncias durante os processos de criação ou atualização do cluster, seja por meio do SageMaker HyperPod console ou do CreateClustere. UpdateCluster APIs O volume adicional do EBS é anexado a cada instância dentro de um SageMaker HyperPod cluster e montado em. /opt/sagemaker Para saber mais sobre como implementá-lo em seu SageMaker HyperPod cluster, consulte a documentação atualizada nas páginas a seguir.

Observe que você precisa atualizar o software do HyperPod cluster para usar esse recurso. Depois de corrigir o software de HyperPod cluster, você pode utilizar esse recurso para SageMaker HyperPod clusters existentes criados antes de 20 de junho de 2024 adicionando novos grupos de instâncias. Esse recurso é totalmente efetivo para qualquer SageMaker HyperPod cluster criado após 20 de junho de 2024.

Execute o comando a seguir para chamar a UpdateClusterSoftwareAPI e atualizar seus HyperPod clusters existentes com a HyperPod DLAMI mais recente. Para obter mais instruções, consulte Atualizar o software da SageMaker HyperPod plataforma de um cluster.

 aws sagemaker update-cluster-software --cluster-name your-cluster-name

Corrigido um bug com o parâmetro ThreadsPerCore na API ClusterInstanceGroupSpecification. Com a correção, pegue CreateClustere aplique UpdateCluster APIs adequadamente a entrada do usuárioThreadsPerCore. Essa correção é efetiva em HyperPod clusters criados após 24 de abril de 2024. Se você teve problemas com esse bug e deseja que essa correção seja aplicada ao seu cluster, precisará criar um novo cluster. Faça backup e restaure seu trabalho ao migrar para um novo cluster, seguindo as instruções em Use o script de backup fornecido pelo SageMaker HyperPod.

Nesta versão do HyperPod DLAMI, o Slurm foi criado com REST service slurmestd () com suporte a JSON, YAML e JWT.

Slurm atualizado para v23.11.3

Aumento do tempo limite do serviço de retomada automática para 60 minutos.

Processo aprimorado de substituição de instâncias para não reiniciar o controlador Slurm.

Mensagens de erro aprimoradas da execução de scripts de ciclo de vida, como erros de download e erros de verificação de integridade da instância na inicialização da instância.

Corrigido um bug com o serviço chrony que causava um problema com a sincronização de horário.

Corrigido um bug com a análise slurm.conf.

Corrigido um problema com a biblioteca NVIDIA go-dcgm.

HyperPod agora suporta adequadamente a passagem de nomes de partição fornecidos provisioning_parameters.json e cria partições apropriadamente com base nas entradas fornecidas. Para obter mais informações sobre a provisioning_parameters.json, consulte SageMaker HyperPod formulários e Personalização de SageMaker HyperPod clusters usando scripts de ciclo de vida.

SageMaker HyperPod Lançamentos da AMI para o Slurm: 14 de março de 2024

Foi adicionada uma nova UpdateClusterSoftware API para patches SageMaker HyperPod de segurança. Quando os patches de segurança estiverem disponíveis, recomendamos que você atualize os SageMaker HyperPod clusters existentes em sua conta executandoaws sagemaker update-cluster-software --cluster-name your-cluster-name. Para acompanhar futuros patches de segurança, continue acompanhando esta página de notas de SageMaker HyperPod lançamento da Amazon. Para saber como a API UpdateClusterSoftware funciona, consulte Atualizar o software da SageMaker HyperPod plataforma de um cluster.

Lançou a Amazon SageMaker HyperPod no AWS re:Invent 2023.

SageMaker HyperPod Lançamento da AMI para Slurm: 29 de novembro de 2023