View a markdown version of this page

Couche 1 : Création d'une infrastructure de données et de calcul fiable pour l'IA générative - AWS Conseils prescriptifs

Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

Couche 1 : Création d'une infrastructure de données et de calcul fiable pour l'IA générative

Pour développer des applications d'IA générative, en particulier s'il est nécessaire de former ou de peaufiner un modèle de base, il est essentiel de disposer d'une base de données et d'une infrastructure de calcul robustes. Alors que les entreprises se lancent dans la transition vers l'IA générative, elles ont besoin d'une infrastructure capable de prendre en charge l'intégralité du cycle de vie de l'apprentissage automatique. Ils doivent également trouver le juste équilibre entre performance, coût et efficacité opérationnelle.

Une infrastructure d'IA générative fiable doit offrir les trois éléments clés suivants : l'infrastructure de base, l'infrastructure de stockage et de récupération vectoriels et l'infrastructure de calcul. Ensemble, ces composants offrent la flexibilité nécessaire pour répondre aux besoins de n'importe quel projet, quels que soient son échelle, ses exigences ou son environnement.

Infrastructure de base pour les implémentations basées sur des API

La plupart des entreprises commencent leur parcours vers l'IA générative en utilisant des modèles de base préformés. APIs Amazon Bedrock fournit un accès sans serveur aux principaux modèles de base via une API unifiée. Cela vous permet d'expérimenter et de déployer des applications d'IA générative sans gérer d'infrastructure complexe. Pour ces implémentations, vous avez besoin des éléments suivants :

Infrastructure de stockage et de récupération de vecteurs

Au fur et à mesure que vos applications d'IA générative arriveront à maturité, vous devrez probablement les améliorer avec des connaissances et un contexte spécifiques au domaine. Avec Retrieval Augmented Generation (RAG), le modèle de base référence une source de données faisant autorité qui se trouve en dehors de ses sources de données de formation, telles que les données ou les documents de votre organisation, avant de générer une réponse. Pour plus d'informations, voir Options et architectures de génération augmentée de récupération sur AWS.

Les bases de connaissances Amazon Bedrock fournissent une solution entièrement gérée pour créer des applications RAG. Il vous aide à connecter en toute sécurité les données de votre entreprise aux modèles de base. Pour plus de flexibilité, vous pouvez utiliser Amazon OpenSearch Service avec des fonctionnalités de recherche vectorielle, ou vous pouvez utiliser Amazon Relational Database Service (Amazon RDS) pour PostgreSQL avec l'extension pgvector pour stocker les intégrations vectorielles.

Pour des opérations vectorielles efficaces, pensez à utiliser des instances optimisées pour le calcul Amazon EC2 pour intégrer la génération. Pensez également à mettre en cache les intégrations fréquemment consultées en utilisant Amazon ElastiCache pour optimiser les performances et réduire les coûts.

Pour plus d'informations sur les bases de données vectorielles et la mise en cache, voir Qu'est-ce qu'une base de données vectorielle ? et Choix d'une base de données AWS vectorielle pour les cas d'utilisation de RAG.

Infrastructure de calcul haute performance pour la formation et le réglage précis des modèles

Pour les entreprises prêtes à personnaliser les modèles de base, AWS propose une infrastructure complète pour la formation et le réglage des modèles. Vous pouvez utiliser Amazon Simple Storage Service (Amazon S3) comme solution de stockage d'objets peu coûteuse, évolutive et extrêmement durable pour créer des plateformes de données et pour stocker des données de formation et des modèles entraînés. En outre, AWS Glueil s'agit d'un service d'intégration de données sans serveur qui peut vous aider à préparer les données pour l'entraînement des modèles.

Pour l'infrastructure de formation, Amazon SageMaker AI propose un environnement d'apprentissage automatique entièrement géré avec les outils et les flux de travail dont vous avez besoin pour créer, former et déployer des modèles. L'utilisation de l' SageMaker IA peut réduire considérablement vos frais opérationnels. Envisagez d'utiliser des instances de calcul accéléré, telles que les familles d'instances G et P. Ces familles d'instances permettent d'accéder aux dernières nouveautés GPUs de NVIDIA en matière de formation et d'inférence liées à l'apprentissage automatique. Vous pouvez également utiliser AWS Trainiumun accélérateur d'apprentissage automatique spécialement conçu pour accélérer les temps de formation jusqu'à 50 %, tout en réduisant les coûts.

Pour les projets vraiment importants, vous pouvez utiliser Amazon EC2 UltraClusters. UltraClusters se composent de milliers d'instances Amazon EC2 accélérées qui sont colocalisées dans une zone de AWS disponibilité donnée et interconnectées. UltraClusters peut s'adapter à des milliers GPUs d'accélérateurs d'apprentissage automatique. Ils fournissent des opérations en virgule flottante par seconde (exaflops) de capacité de calcul agrégée, ce qui réduit le temps de formation et peut passer time-to-solution de quelques semaines à quelques jours.

Recommandations de mise en œuvre

Tenez compte des recommandations suivantes pour mettre en place une infrastructure évolutive et rentable pour vos projets d'IA générative :

  • Pour une expérimentation rapide et des déploiements initiaux, commencez par Amazon Bedrock et utilisez des instances de calcul polyvalentes pour vos applications.

  • À mesure que vos besoins évoluent, implémentez des solutions de stockage vectoriel en utilisant les bases de connaissances Amazon Bedrock ou Amazon OpenSearch Service. Adaptez votre infrastructure en conséquence.

  • Pour une personnalisation avancée, standardisez et automatisez le provisionnement d'environnements d'apprentissage automatique sécurisés et gouvernés afin de répondre aux exigences des équipes distribuées. Pour plus d'informations, consultez la section Configuration d'environnements d'apprentissage automatique sécurisés et bien gouvernés sur AWS (article de AWS blog).

  • Adoptez des opérations d'apprentissage automatique (MLOps) pour automatiser et standardiser les processus tout au long du cycle de vie du machine learning. Ces processus incluent le développement de modèles, les tests, l'intégration, la publication et la gestion de l'infrastructure. Pour plus d’informations, consultez Qu’est-ce qu’ MLOps ?

  • Pour les expériences à petite échelle ou les preuves de concepts, commencez par Amazon SageMaker AI et les instances de calcul à usage général. Lorsque vous passez à des déploiements de production à grande échelle, pensez aux instances de calcul accéléré Amazon EC2 pour des performances optimales.

  • Utilisez la formation ponctuelle gérée dans le cadre de l' SageMaker IA pour optimiser le coût des modèles de formation jusqu'à 90 % par rapport aux instances à la demande. SageMaker L'IA gère les interruptions ponctuelles en votre nom.