Déploiement de modèles de fondation propriétaires avec la classe ModelPackage

Les modèles propriétaires doivent être déployés à l'aide des informations du package de modèle après s'être abonné au modèle dans AWS Marketplace. Pour plus d’informations sur SageMaker AI et AWS Marketplace, consultez Achat et vente d’algorithmes et de modèles Amazon SageMaker AI dans AWS Marketplace. Pour trouver les liens AWS Marketplace vers les derniers modèles propriétaires, consultez Démarrer avec Amazon SageMaker JumpStart.

Une fois abonné au modèle de votre choix dans AWS Marketplace, vous pouvez déployer le modèle de fondation à l’aide du kit SageMaker Python SDK et du kit SDK associé au fournisseur de modèles. Par exemple, AI21 Labs, Cohere et LightOn utilisent respectivement les packages "ai21[SM]", cohere-sagemaker et lightonsage.

Par exemple, pour définir un modèle JumpStart à l’aide de Jurassic-2 Jumbo Instruct d’AI21 Labs, utilisez le code suivant :

import sagemaker
import ai21

role = get_execution_role()
sagemaker_session = sagemaker.Session()
model_package_arn = "arn:aws:sagemaker:us-east-1:865070037744:model-package/j2-jumbo-instruct-v1-1-43-4e47c49e61743066b9d95efed6882f35"

my_model = ModelPackage(
    role=role, model_package_arn=model_package_arn, sagemaker_session=sagemaker_session
)

Pour obtenir des exemples détaillés, recherchez et exécutez le bloc-notes associé au modèle de fondation propriétaire de votre choix dans SageMaker Studio Classic. Pour plus d’informations, consultez Utilisation de modèles de fondation dans Amazon SageMaker Studio Classic. Pour plus d’informations sur le kit SageMaker Python SDK, consultez ModelPackage.