Accélérez le développement de l'IA générative à l'aide de l' SageMaker IA gérée MLflow sur Amazon

La MLflow version 3.0 entièrement gérée sur Amazon SageMaker AI vous permet d'accélérer l'IA générative en facilitant le suivi des expériences et en surveillant les performances des modèles et des applications d'IA à l'aide d'un seul outil.

Développement de l'IA générative avec MLflow 3.0

Alors que les clients de tous les secteurs accélèrent le développement de l'IA générative, ils ont besoin de capacités pour suivre les expériences, observer le comportement et évaluer les performances des modèles et des applications d'IA. Les data scientists et les développeurs ne disposent pas d'outils pour analyser les performances des modèles et des applications d'intelligence artificielle, de l'expérimentation à la production, ce qui complique la recherche des causes et la résolution des problèmes. Les équipes passent plus de temps à intégrer des outils qu'à améliorer leurs modèles ou leurs applications génératives d'IA.

La formation ou le réglage précis de l'IA générative et de l'apprentissage automatique est un processus itératif qui nécessite d'expérimenter différentes combinaisons de données, d'algorithmes et de paramètres, tout en observant leur impact sur la précision du modèle. La nature itérative de l'expérimentation se traduit par de nombreuses exécutions et versions d'entraînement des modèles, ce qui complique le suivi des modèles les plus performants et de leurs configurations. La complexité de la gestion et de la comparaison des cycles d'entraînement itératifs augmente avec GenAI, où l'expérimentation implique non seulement de peaufiner les modèles, mais également d'explorer des résultats créatifs et variés. Les chercheurs doivent ajuster les hyperparamètres, sélectionner des architectures de modèles adaptées et organiser divers ensembles de données afin d'optimiser à la fois la qualité et la créativité du contenu généré. L'évaluation des modèles d'IA générative nécessite des mesures à la fois quantitatives et qualitatives, ce qui ajoute une couche de complexité supplémentaire au processus d'expérimentation. Les fonctionnalités de suivi des expérimentations de la MLflow version 3.0 sur Amazon SageMaker AI vous permettent de suivre, d'organiser, de visualiser, d'analyser et de comparer des expériences de machine learning itératives afin d'obtenir des informations comparatives et d'enregistrer et de déployer vos modèles les plus performants.

Les fonctionnalités de suivi de la MLflow version 3.0 entièrement gérée vous permettent d'enregistrer les entrées, les sorties et les métadonnées à chaque étape d'une application d'IA générative, ce qui vous permet d'identifier rapidement la source de bogues ou de comportements inattendus. En conservant des enregistrements de chaque modèle et version d'application, Fully Managed MLflow 3.0 offre une traçabilité permettant de relier les réponses de l'IA à leurs composants sources, ce qui vous permet de retracer rapidement un problème directement jusqu'au code, aux données ou aux paramètres spécifiques qui l'ont généré. Cela réduit considérablement le temps de dépannage et permet aux équipes de se concentrer davantage sur l'innovation.

MLflow intégrations

À utiliser MLflow lors de la formation et de l'évaluation des modèles afin de trouver les meilleurs candidats pour votre cas d'utilisation. Vous pouvez comparer les performances, les paramètres et les mesures des modèles entre les expériences dans l' MLflow interface utilisateur, suivre vos meilleurs modèles dans le MLflow registre des modèles, les enregistrer automatiquement en tant que modèle d' SageMaker IA et déployer des modèles enregistrés sur des points de terminaison d' SageMaker IA.

Amazon SageMaker AI avec MLflow

Utilisez-le MLflow pour suivre et gérer la phase d'expérimentation du cycle de vie du machine learning (ML) avec AWS des intégrations pour le développement, la gestion, le déploiement et le suivi des modèles.

Amazon SageMaker Studio

Créez et gérez des serveurs de suivi, exécutez des blocs-notes pour créer des expériences et accédez à l' MLflow interface utilisateur pour visualiser et comparer les séries d'expériences dans Studio.

SageMaker Registre des modèles

Gérez les versions des modèles et les modèles de catalogue destinés à la production en enregistrant automatiquement les modèles du MLflow Model Registry au SageMaker Model Registry. Pour de plus amples informations, veuillez consulter Enregistrez automatiquement les modèles d' SageMaker IA avec SageMaker Model Registry.

SageMaker Inférence basée sur l'IA

Préparez vos meilleurs modèles pour le déploiement sur un point de terminaison d' SageMaker IA à l'aide deModelBuilder. Pour de plus amples informations, veuillez consulter Déployez MLflow des modèles avec ModelBuilder.

AWS Identity and Access Management

Configurez l'accès à MLflow l'aide du contrôle d'accès basé sur les rôles (RBAC) avec IAM. Rédigez des politiques d'identité IAM pour autoriser MLflow APIs ce qui peut être appelé par un client d'un serveur de MLflow suivi. Toutes les actions MLflow REST APIs sont représentées sous forme d'actions IAM sous le préfixe sagemaker-mlflow de service. Pour de plus amples informations, veuillez consulter Configurer les autorisations IAM pour MLflow.

AWS CloudTrail

Consultez les connexions pour vous aider AWS CloudTrail à activer l'audit des opérations et des risques, la gouvernance et la conformité de votre AWS compte. Pour de plus amples informations, veuillez consulter AWS CloudTrail journaux.

Amazon EventBridge

Automatisez la révision des modèles et le cycle de vie du déploiement à l'aide d' MLflow événements capturés par Amazon EventBridge. Pour de plus amples informations, veuillez consulter EventBridge Événements Amazon.

Soutenu Régions AWS

Amazon SageMaker AI with MLflow est généralement disponible dans toutes les régions AWS commerciales où Amazon SageMaker Studio est disponible, à l'exception des régions et AWS GovCloud (US) régions de Chine. SageMaker AI with MLflow est disponible uniquement AWS CLI en Europe (Zurich), en Asie-Pacifique (Hyderabad), en Asie-Pacifique (Melbourne) et dans l'ouest du Canada (Calgary). Régions AWS

Les serveurs de suivi sont lancés dans une zone de disponibilité unique au sein de la région spécifiée.

Comment ça marche

Un serveur MLflow de suivi comporte trois composants principaux : le calcul, le stockage des métadonnées principales et le stockage des artefacts. Le calcul qui héberge le serveur de suivi et le stockage des métadonnées du backend sont hébergés de manière sécurisée dans le compte de service SageMaker AI. Le stockage des artefacts se trouve dans un compartiment Amazon S3 de votre propre AWS compte.

Un serveur de suivi possède un ARN. Vous pouvez utiliser cet ARN pour connecter le MLflow SDK à votre serveur de suivi et commencer à y enregistrer vos sessions d' MLflowentraînement.

Poursuivez votre lecture pour plus d'informations sur les concepts clés suivants :

Stockage des métadonnées du backend

Lorsque vous créez un serveur de MLflow suivi, un magasin principal, qui conserve diverses métadonnées pour chaque exécution, telles que l'ID d'exécution, les heures de début et de fin, les paramètres et les mesures, est automatiquement configuré dans le compte de service SageMaker AI et entièrement géré pour vous.

Stockage d'artifacts

Pour MLflow fournir un stockage permanent des métadonnées pour chaque exécution, telles que les poids des modèles, les images, les fichiers modèles et les fichiers de données pour vos essais, vous devez créer un magasin d'artefacts à l'aide d'Amazon S3. Le magasin d'artefacts doit être configuré dans votre AWS compte et vous devez explicitement donner MLflow accès à Amazon S3 pour accéder à votre magasin d'artefacts. Pour plus d'informations, consultez Artifact Stores dans la MLflow documentation.

MLflow Tailles des serveurs de suivi

Vous pouvez éventuellement spécifier la taille de votre serveur de suivi dans l'interface utilisateur de Studio ou à l'aide du AWS CLI paramètre--tracking-server-size. Vous pouvez choisir entre "Small""Medium", et"Large". La taille de configuration du serveur de MLflow suivi par défaut est"Small". Vous pouvez choisir une taille en fonction de l'utilisation prévue du serveur de suivi, telle que le volume de données enregistrées, le nombre d'utilisateurs et la fréquence d'utilisation.

Nous recommandons d'utiliser un petit serveur de suivi pour les équipes de 25 utilisateurs maximum, un serveur de suivi de taille moyenne pour les équipes de 50 utilisateurs maximum et un grand serveur de suivi pour les équipes de 100 utilisateurs maximum. Nous partons du principe que tous les utilisateurs adresseront des demandes simultanées à votre serveur de MLflow suivi pour faire ces recommandations. Vous devez sélectionner la taille du serveur de suivi en fonction de votre modèle d'utilisation attendu et du TPS (transactions par seconde) pris en charge par chaque serveur de suivi.

Versions du serveur de suivi

Les MLflow versions suivantes peuvent être utilisées avec l' SageMaker IA :

La dernière version du serveur de suivi possède les dernières fonctionnalités, correctifs de sécurité et corrections de bogues. Lorsque vous créez un nouveau serveur de suivi, nous vous recommandons d'utiliser la dernière version. Pour plus d'informations sur la création d'un serveur de suivi, consultezMLflow Serveurs de suivi.

MLflow les serveurs de suivi utilisent le versionnement sémantique. Les versions sont au format suivant :major-version.minor-version.patch-version.

Les dernières fonctionnalités, telles que les nouveaux éléments de l'interface utilisateur et les fonctionnalités de l'API, se trouvent dans la version mineure.

AWS CloudTrail journaux

AWS CloudTrail enregistre automatiquement les activités liées à votre serveur MLflow de suivi. Les appels d'API du plan de contrôle suivants sont enregistrés CloudTrail :

AWS CloudTrail enregistre également automatiquement les activités liées à votre plan MLflow de données. Les appels d'API du plan de données suivants sont enregistrés CloudTrail. Pour les noms d'événements, ajoutez le préfixe Mlflow (par exemple,MlflowCreateExperiment).

Pour plus d'informations CloudTrail, consultez le guide de AWS CloudTrail l'utilisateur.

EventBridge Événements Amazon

EventBridge À utiliser pour acheminer les événements de l'utilisation MLflow avec l' SageMaker IA vers les applications grand public au sein de votre organisation. Les événements suivants sont émis vers EventBridge :

Pour plus d'informations à ce sujet EventBridge, consultez le guide de EventBridge l'utilisateur Amazon.