View a markdown version of this page

Utilisation CloudFormation pour configurer l'inférence à distance pour la recherche sémantique - OpenSearch Service Amazon

Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

Utilisation CloudFormation pour configurer l'inférence à distance pour la recherche sémantique

À partir de OpenSearch la version 2.9, vous pouvez utiliser l'inférence à distance avec la recherche sémantique pour héberger vos propres modèles d'apprentissage automatique (ML). L'inférence à distance utilise le plugin https://opensearch.org/docs/latest/ml-commons-plugin/index/ ML Commons.

Grâce à l'inférence à distance, vous pouvez héberger vos inférences de modèle à distance sur des services de machine learning, tels qu'Amazon SageMaker AI et Amazon Bedrock, et les connecter à Amazon OpenSearch Service à l'aide de connecteurs ML.

Pour faciliter la configuration de l'inférence à distance, Amazon OpenSearch Service fournit un AWS CloudFormation modèle dans la console. CloudFormation est un Service AWS endroit où vous pouvez provisionner AWS et gérer des ressources tierces en traitant l'infrastructure comme du code.

Le OpenSearch CloudFormation modèle automatise le processus de provisionnement du modèle pour vous, afin que vous puissiez facilement créer un modèle dans votre domaine de OpenSearch service, puis utiliser l'ID du modèle pour ingérer des données et exécuter des requêtes de recherche neuronale.

Lorsque vous utilisez des encodeurs neuronaux épars avec la version 2.12 de OpenSearch Service et les versions ultérieures, nous vous recommandons d'utiliser le modèle de tokenizer localement au lieu de le déployer à distance. Pour plus d'informations, consultez la section Modèles de codage épars dans la OpenSearch documentation.

Available CloudFormation modèles

Les modèles d'apprentissage AWS CloudFormation automatique (ML) suivants peuvent être utilisés :

Modèles Amazon Bedrock
Intégration de textes intégrés à Amazon Titan

Se connecte aux modèles de machine learning hébergés d'Amazon Bedrock, élimine le besoin de déployer des modèles séparés et utilise des points de terminaison Amazon Bedrock prédéterminés. Pour plus d'informations, consultez Amazon Titan Text Embeddings dans le guide de l'utilisateur d'Amazon Bedrock.

Intégration Cohere Embed

Permet d'accéder aux modèles Cohere Embed et est optimisé pour des flux de travail de traitement de texte spécifiques. Pour plus d'informations, voir Intégrer sur le site Web de Cohere docs.

Intégrations multimodales Amazon Titan

Supporte les intégrations de texte et d'images et permet des fonctionnalités de recherche multimodales. Pour plus d'informations, consultez Amazon Titan Multimodal Embeddings dans le guide de l'utilisateur d'Amazon Bedrock.

Modèles d'intégration de serveurs MCP
Intégration du serveur MCP

Déploie un environnement d' AgentCore exécution Amazon Bedrock, fournit un point de terminaison d'agent, gère l'authentification entrante et sortante et prend en charge OAuth pour l'authentification d'entreprise.

SageMaker Modèles Amazon
Intégration avec les modèles d'intégration de texte via Amazon SageMaker

Déploie des modèles d'intégration de texte dans Amazon SageMaker Runtime, crée des rôles IAM pour l'accès aux artefacts du modèle et établit des connecteurs ML pour la recherche sémantique.

Intégration avec Sparse Encoders via SageMaker

Configure des modèles de codage épars pour la recherche neuronale, crée des AWS Lambda fonctions pour la gestion des connecteurs et renvoie des identifiants de modèle pour une utilisation immédiate.

Conditions préalables

Pour utiliser un CloudFormation modèle avec OpenSearch Service, remplissez les conditions préalables suivantes.

Configurer un domaine OpenSearch de service

Avant de pouvoir utiliser un CloudFormation modèle, vous devez configurer un domaine Amazon OpenSearch Service avec la version 2.9 ou ultérieure et activer un contrôle d'accès précis. Créez un rôle OpenSearch de backend de service pour autoriser le plugin ML Commons à créer votre connecteur pour vous.

Le CloudFormation modèle crée pour vous un rôle Lambda IAM avec le nom par défautLambdaInvokeOpenSearchMLCommonsRole, que vous pouvez remplacer si vous souhaitez choisir un autre nom. Une fois que le modèle a créé ce rôle IAM, vous devez autoriser la fonction Lambda à appeler votre domaine de OpenSearch service. Pour ce faire, associez le rôle nommé ml_full_access à votre rôle de backend de OpenSearch service en suivant les étapes suivantes :

  1. Accédez au plug-in OpenSearch Dashboards pour votre domaine OpenSearch de service. Le point de terminaison Dashboards se trouve sur le tableau de bord de votre domaine sur la console OpenSearch de service.

  2. Dans le menu principal, choisissez Sécurité, Rôles, puis sélectionnez le rôle ml_full_access.

  3. Choisissez Mapped users (Utilisateurs mappés), Manage mapping (Gérer le mappage).

  4. Sous Rôles backend, ajoutez l'ARN du rôle Lambda qui a besoin d'une autorisation pour appeler votre domaine.

    arn:aws:iam::account-id:role/role-name
  5. Sélectionnez Mapper et vérifiez que l'utilisateur ou le rôle s'affiche sous Utilisateurs mappés.

Après avoir mappé le rôle, accédez à la configuration de sécurité de votre domaine et ajoutez le rôle Lambda IAM à votre politique d'accès aux OpenSearch services.

Activez les autorisations sur votre Compte AWS

Vous Compte AWS devez être autorisé à accéder CloudFormation à Lambda, ainsi qu'à celui que Service AWS vous choisissez pour votre modèle, qu'il s'agisse de SageMaker Runtime ou d'Amazon Bedrock.

Si vous utilisez Amazon Bedrock, vous devez également enregistrer votre modèle. Consultez la section Accès aux modèles dans le guide de l'utilisateur d'Amazon Bedrock pour enregistrer votre modèle.

Si vous utilisez votre propre compartiment Amazon S3 pour fournir des artefacts de modèle, vous devez ajouter le rôle CloudFormation IAM à votre politique d'accès S3. Pour plus d’informations, consultez Ajout et suppression d’autorisations basées sur l’identité IAM dans le Guide de l’utilisateur IAM.

Inférence à distance pour les modèles de surbrillance sémantique

La mise en évidence sémantique est une fonction de recherche avancée qui améliore la pertinence des résultats en analysant la signification et le contexte des requêtes plutôt que de se fier uniquement à des correspondances exactes de mots clés. Cette fonctionnalité utilise des modèles d'apprentissage automatique pour évaluer la similitude sémantique entre les requêtes de recherche et le contenu des documents, en identifiant et en mettant en évidence les phrases ou les passages les plus pertinents du point de vue contextuel dans les documents. Contrairement aux méthodes de surlignage traditionnelles qui se concentrent sur les correspondances exactes des termes, la mise en évidence sémantique s'appuie sur des modèles d'IA pour évaluer chaque phrase à l'aide des informations contextuelles issues de la requête et du texte environnant, ce qui lui permet de faire apparaître des informations pertinentes même lorsque les termes de recherche exacts ne sont pas présents dans les passages surlignés. Cette approche est particulièrement utile pour les implémentations de AI-driven recherche où les utilisateurs donnent la priorité à la signification sémantique plutôt qu'à la correspondance littérale des mots, ce qui permet aux administrateurs de recherche de proposer des expériences de recherche plus intelligentes et contextuelles qui mettent en évidence des étendues de contenu significatives plutôt que de simples occurrences de mots clés. Pour plus d'informations, consultez la section Utilisation de la surbrillance sémantique.

Utilisez la procédure suivante pour ouvrir et exécuter un CloudFormation modèle qui configure automatiquement les SageMaker modèles Amazon pour la mise en évidence sémantique.

Pour utiliser le modèle de surlignage CloudFormation sémantique
  1. Ouvrez la console Amazon OpenSearch Service à l'adresse https://console.aws.amazon.com/aos/home.

  2. Dans la barre de navigation de gauche, choisissez Intégrations.

  3. Sous Activer la mise en évidence sémantique via SageMaker l'intégration Amazon, choisissez Configurer le domaine, Configurer le domaine public.

  4. Suivez les instructions pour configurer votre modèle.

Note

OpenSearch Le service fournit également un modèle distinct pour configurer le domaine VPC. Si vous utilisez ce modèle, vous devez fournir l'ID VPC pour la fonction Lambda.