View a markdown version of this page

GPU-acceleration pour l'indexation vectorielle - OpenSearch Service Amazon
Conditions préalablesComment ça marcheTarification de l'accélération GPUGPU-acceleration et opérations d'écritureConfigurations d'index compatiblesPris en charge Régions AWSBonnes pratiques

Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

GPU-acceleration pour l'indexation vectorielle

GPU-acceleration vous permet de créer des bases de données vectorielles à grande échelle plus rapidement et plus efficacement. Vous pouvez activer cette fonctionnalité sur des OpenSearch domaines nouveaux ou existants et des collections OpenSearch Serverless. Cette fonctionnalité permet GPU-acceleration de réduire le temps nécessaire pour indexer les données dans des index vectoriels.

Avec GPU-acceleration, vous pouvez augmenter la vitesse d'indexation vectorielle jusqu'à 10 fois pour un quart du coût d'indexation.

Conditions préalables

GPU-acceleration est pris en charge sur OpenSearch les domaines exécutant une OpenSearch version 3.1 ou une version ultérieure, et sur les collections OpenSearch sans serveur. Pour plus d'informations, consultez Mise à niveau des domaines Amazon OpenSearch Service les UpdateDomainConfig sections, et UpdateCollection API.

Comment ça marche

Les index vectoriels nécessitent d'importantes ressources de calcul pour créer des structures de données telles que les graphes hiérarchiques de petits mondes navigables (HNSW). Lorsque vous l'activez GPU-acceleration sur votre domaine ou votre collection, il détecte OpenSearch automatiquement les opportunités permettant d'accélérer la création de vos index et les décharge vers les instances GPU. OpenSearch Le service gère les instances GPU en votre nom, en les attribuant à votre domaine ou à votre collection si nécessaire. Cela signifie que vous ne gérez pas l'utilisation et que vous ne payez pas pour les temps d'inactivité.

Vous ne payez que pour un traitement utile via Compute Units (OCU) - Vector Acceleration. Chaque OCU à accélération vectorielle est une combinaison d'environ 8 Go de mémoire CPU, 2 vCPU et 6 GiB de mémoire GPU. Pour de plus amples informations, veuillez consulter Tarification de l'accélération GPU.

Pour activer l'accélération GPU pour votre domaine ou votre collection, consultezPermettant GPU-acceleration.

Tarification de l'accélération GPU

AWS vous facture lorsque des opportunités sont OpenSearch détectées pour accélérer les charges de travail de création d'index de votre domaine ou de votre collection. Chaque OCU à accélération vectorielle est une combinaison d'environ 8 Go de mémoire CPU, 2 vCPU et 6 GiB de mémoire GPU.

AWS facture OCU avec une granularité de second niveau. Sur votre relevé de compte, vous verrez une entrée pour le calcul OCU-hours.

Par exemple, lorsque vous utilisez GPU-acceleration pendant une heure pour créer un index en utilisant 2 processeurs virtuels et 1 Go de mémoire GPU, 1 OCU vous est facturé. Si vous utilisez 9 Gio de mémoire CPU pendant l'utilisation GPU-acceleration, 2 OCU vous sont facturés.

OpenSearch Serverless ajoute des OCU supplémentaires par incréments d'une OCU en fonction de la puissance de calcul et du stockage nécessaires pour prendre en charge vos collections. Vous pouvez configurer un nombre maximal d'OCU pour votre compte afin de contrôler les coûts.

Note

Le nombre d'OCU provisionnés à tout moment peut varier et n'est pas exact. Au fil du temps, l'algorithme utilisé par OpenSearch et OpenSearch Serverless continuera de s'améliorer afin de minimiser l'utilisation du système.

Pour plus de détails sur les tarifs, consultez la page Amazon OpenSearch Service Pricing.

GPU-acceleration et opérations d'écriture

GPU-acceleration est activé lorsque OpenSearch le taux d'ingestion de vecteurs (MB/sec) se situe dans une plage. Sur OpenSearch les domaines, vous avez la possibilité de configurer cette plage via index.knn.remote_index_build.size.min etindex.knn.remote_index_build.size.max. Par exemple, avec la plage inférieure par défaut de 50 Mo, l'écriture de 15 000 vecteurs en pleine précision avec 768 dimensions entre les intervalles de rafraîchissement sera GPU-acceleration déclenchée par défaut.

Les données sont écrites à l'aide des opérations d'API suivantes :

GPU-acceleration est activé par des fusions de segments automatiques et manuelles.

Configurations d'index compatibles

Le moteur Faiss prend en charge GPU-acceleration.

Les configurations suivantes ne sont pas prises en charge GPU-acceleration :

Pris en charge Régions AWS

GPU-acceleration est disponible dans les versions suivantes Régions AWS :

  • USA Est (Virginie du Nord)

  • USA Est (Ohio)

  • USA Ouest (Oregon)

  • Asie-Pacifique (Sydney)

  • Asia Pacific (Tokyo)

  • Asie-Pacifique (Mumbai)

  • Europe (Irlande)

  • Europe (Francfort)

  • Europe (Stockholm)

  • Europe (Espagne)

Bonnes pratiques

Suivez ces bonnes pratiques pour optimiser les avantages de vos charges GPU-acceleration de travail de recherche vectorielle :

  • Augmenter le nombre de clients d'index  : pour tirer pleinement parti des GPU lors de la création de l'index, augmentez le nombre de clients d'index dans lesquels des données sont ingérées. OpenSearch Cela permet une meilleure parallélisation et une meilleure utilisation des ressources du GPU.

  • Ajuster le seuil approximatif - Modifiez le index.knn.advanced.approximate_threshold paramètre pour éviter de créer des index de segments plus petits, ce qui améliore la vitesse globale d'ingestion. Une valeur de 10 000 est un bon point de départ. Pour les collections, vous devez spécifier explicitement une valeur pour ce paramètre.

  • Optimisez la taille des partitions  : essayez de créer des partitions contenant au moins 1 million de documents. Les fragments contenant moins de ce nombre de documents peuvent ne pas présenter d' GPU-accelerationavantages globaux.