Envoi d’une tâche d’importation de modèles - Amazon Bedrock

Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

Envoi d’une tâche d’importation de modèles

Vous importez un modèle dans Amazon Bedrock en soumettant une tâche d'importation de modèle dans la console Amazon Bedrock, en utilisant l'API, en utilisant le SDK AWS CLI ou en utilisant le SDK. AWS Dans la tâche, vous pouvez spécifier l’URI Amazon S3 pour la source des fichiers du modèle. Si vous avez créé le modèle dans Amazon SageMaker AI, vous pouvez également le SageMaker spécifier. Lors de l’importation du modèle, la tâche d’importation détecte automatiquement l’architecture de votre modèle. La tâche d’importation du modèle peut prendre plusieurs minutes. Pendant la tâche, Amazon Bedrock vérifie que le modèle importé utilise une architecture de modèle compatible.

La procédure suivante vous montre comment créer un modèle personnalisé en important un modèle que vous avez déjà personnalisé. Sélectionnez l’onglet correspondant à la méthode de votre choix et suivez les étapes.

Console

Pour envoyer une tâche d’importation de modèles dans la console, procédez comme suit.

  1. Si vous importez vos fichiers de modèle depuis Amazon S3, convertissez le modèle au format Hugging Face.

    1. Si votre modèle est un modèle Mistral AI, utilisez convert_mistral_weights_to_hf.py.

    2. Si votre modèle est un modèle Llama, utilisez convert_llama_weights_to_hf.py.

    3. Chargez les fichiers de modèle dans un compartiment Amazon S3 de votre compte AWS. Pour plus d’informations, consultez Charger un objet dans votre compartiment.

    4. Si vous utilisez des clés Amazon S3 ou KMS entre comptes pour importer votre modèle personnalisé, autorisez Amazon Bedrock à accéder à votre Compte AWS clé Amazon S3 ou KMS. Pour de plus amples informations, veuillez consulter Accès intercompte au compartiment Amazon S3 pour les tâches d’importation de modèles personnalisés.

  2. Dans la console Amazon Bedrock, choisissez Modèles importés sous Modèles de fondation dans le volet de navigation de gauche.

  3. Choisissez l’onglet Modèles.

  4. Choisissez Import model (Importer un modèle).

  5. Dans l’onglet Importé, choisissez Importer un modèle pour ouvrir la page Importer un modèle.

  6. Dans la section Détails du modèle, procédez comme suit :

    1. Dans Nom du modèle, entrez un nom pour le modèle.

    2. (Facultatif) Pour associer des balises au modèle, développez la section Balises et sélectionnez Ajouter une nouvelle balise.

  7. Dans la section Nom de la tâche d’importation, procédez comme suit :

    1. Dans Nom de la tâche, entrez un nom pour la tâche d’importation de modèles.

    2. (Facultatif) Pour associer des balises au modèle personnalisé, développez la section Balises et sélectionnez Ajouter une nouvelle balise.

  8. Dans Paramètres d’importation de modèles, sélectionnez les options d’importation que vous souhaitez utiliser.

    • Sélectionnez le compartiment Amazon S3 ou le modèle Amazon SageMaker AI pour spécifier la source d'importation.

    • Si vous importez vos fichiers de modèle depuis un compartiment Amazon S3, entrez l’emplacement Amazon S3 dans Emplacement S3. Vous pouvez choisir Parcourir S3 pour choisir l’emplacement du fichier.

    • Si vous importez votre modèle depuis Amazon SageMaker AI, choisissez le modèle Amazon SageMaker AI, puis choisissez le modèle d' SageMaker IA que vous souhaitez importer dans les modèles d'SageMaker IA.

  9. Entrez les Paramètres VPC (facultatif) pour choisir une configuration VPC afin d’accéder à votre source de données Amazon S3 située dans votre VPC. Vous pouvez créer et gérer un VPC, des sous-réseaux et des groupes de sécurité dans Amazon VPC. Pour en savoir plus sur Amazon VPC, consultez (Facultatif) Protection des tâches d’importation de modèles personnalisés à l’aide d’un VPC.

  10. Sélectionnez Chiffrement pour chiffrer vos données par défaut à l'aide d'une AWS clé que vous détenez et gérez. Vous pouvez également choisir une autre clé si vous sélectionnez Personnaliser les paramètres de chiffrement (avancé).

  11. Dans la section Accès au service, sélectionnez l’une des options suivantes :

    • Créer et utiliser une nouvelle fonction du service : entrez un nom pour la fonction du service.

    • Utiliser une fonction du service existante : sélectionnez une fonction du service dans la liste déroulante. Pour voir les autorisations dont votre rôle de service existant a besoin, choisissez Afficher les détails des autorisations.

      Pour plus d’informations sur la configuration d’un rôle de service avec les autorisations appropriées, consultez Création d’un rôle de service pour l’importation de modèles pré-entraînés.

      Note

      si vous utilisez des clés Amazon S3 ou KMS entre comptes, modifiez la politique de rôle de service et remplacez l'identifiant de compte spécifié aws:ResourceAccount par l'identifiant de AWS compte du propriétaire du compartiment.

  12. Choisissez Importer.

  13. Sur la page Modèles personnalisés, choisissez Importé.

  14. Dans la section Tâches, vérifiez le statut de la tâche d’importation. Le nom du modèle que vous avez choisi identifie la tâche d’importation de modèles. La tâche est terminée si la valeur État pour le modèle est Terminé.

  15. Obtenez l’ID de votre modèle en procédant comme suit.

    1. Sur la page Modèles importés, choisissez l’onglet Modèles.

    2. Copiez l’ARN du modèle que vous souhaitez utiliser à partir de la colonne ARN.

  16. Utilisez votre modèle pour les appels d’inférence. Pour de plus amples informations, veuillez consulter Soumettez une seule invite avec InvokeModel. Vous pouvez utiliser le modèle avec un débit à la demande.

    Vous pouvez également utiliser votre modèle dans le terrain de jeu de texte Amazon Bedrock.

API

Demande

Envoyez une demande CreateModelImportJob(voir le lien pour le format de la demande et de la réponse et les détails du champ) avec un point de terminaison du plan de contrôle Amazon Bedrock pour soumettre une tâche d'importation de modèle personnalisée. Au minimum, vous devez renseigner les champs suivants.

Pour éviter que la demande ne soit traitée plusieurs fois, incluez un clientRequestToken.

Vous pouvez inclure les champs facultatifs suivants pour des configurations supplémentaires.

Réponse

La réponse renvoie un jobArn pour la tâche d’importation que vous utilisez pour identifier la tâche d’importation dans d’autres opérations.

La tâche d’importation prendra un certain temps. Vous pouvez vérifier l'état actuel en appelant l'GetModelImportJobopération et en vérifiant le Status champ dans la réponse. Vous pouvez répertorier les tâches d'importation en cours avec le ListModelImportJobs.

Pour obtenir la liste des modèles que vous avez importés, appelez ListImportedModels. Pour obtenir des informations sur un modèle importé spécifique, appelez GetImportedModel.

Pour supprimer un modèle importé, appelez DeleteImportedModel.