Définitions de tâche Amazon ECS pour les instances de deep learning - Amazon Elastic Container Service

Définitions de tâche Amazon ECS pour les instances de deep learning

Pour utiliser des charges de travail Deep Learning sur Amazon ECS, enregistrez des instances Amazon EC2 DL1 dans vos clusters. Les instances Amazon EC2 DL1 sont alimentées par des accélérateurs Gaudi de Habana Labs (une société Intel). Utilisez le SDK Habana SynapseAI pour vous connecter aux accélérateurs Habana Gaudi. Le SDK prend en charge les cadres de machine learning populaires, TensorFlow et PyTorch.

Considérations

Avant de commencer à déployer DL1 sur Amazon ECS, prenez en compte ce qui suit :

  • Vos clusters peuvent contenir une combinaison d'instances DL1 et non DL1.

  • Lorsque vous exécutez une tâche autonome ou créez un service, vous pouvez utiliser des attributs de type d'instance lors de la configuration des contraintes de placement des tâches afin de garantir sur quelles instances de conteneur la tâche, que vous spécifiez, est lancée. Cela garantit que vos ressources sont utilisées efficacement et que vos tâches pour les charges de travail de deep learning se trouvent sur vos instances DL1. Pour de plus amples informations, consultez How Amazon ECS places tasks on container instances.

    L'exemple suivant exécute une tâche sur une instance dl1.24xlarge de votre cluster default.

    aws ecs run-task \ --cluster default \ --task-definition ecs-dl1-task-def \ --placement-constraints type=memberOf,expression="attribute:ecs.instance-type == dl1.24xlarge"

Utilisation d'une AMI DL1

Vous avez 3 options pour exécuter une AMI sur des instances Amazon EC2 DL1 pour Amazon ECS :

  • AMI AWS Marketplace fournies par Habana ici.

  • Il s'agit des AMI de deep learning Habana fournies par Amazon Web Services. Comme il n'est pas inclus, vous devez installer l'agent de conteneur Amazon ECS séparément.

  • Utilisez Packer pour créer une AMI personnalisée fournie par le répertoire GitHub. Pour plus d'informations, consultez la section documentation Packer.