Considérations - Amazon SageMaker AI

Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

Considérations

Lorsque vous utilisez une SageMaker HyperPod recette Amazon, certains facteurs peuvent avoir un impact sur le processus de formation des modèles.

  • La transformers version doit être 4.45.2 ou supérieure pour Llama 3.2. Si vous utilisez un flux de travail Slurm ou K8s, la version est automatiquement mise à jour.

  • Mixtral ne prend pas en charge la précision à virgule flottante de 8 bits () FP8

  • L'instance Amazon EC2 p4 ne prend pas en charge FP8