Déploiement de modèles de fondation propriétaires avec la classe ModelPackage

Les modèles propriétaires doivent être déployés à l'aide des informations du package de modèle après s'être abonné au modèle dans AWS Marketplace. Pour plus d'informations sur SageMaker l'IA et AWS Marketplace, consultez la section Acheter et vendre des algorithmes et des modèles Amazon SageMaker AI dans AWS Marketplace. Pour trouver AWS Marketplace des liens vers les derniers modèles propriétaires, consultez la section Premiers pas avec Amazon SageMaker JumpStart.

Après vous être abonné au modèle de votre choix AWS Marketplace, vous pouvez déployer le modèle de base à l'aide du SageMaker Python SDK et du SDK associé au fournisseur du modèle. Par exemple, AI21 Labs, Cohere et LightOn utilisez les lightonsage packages"ai21[SM]", etcohere-sagemaker, respectivement.

Par exemple, pour définir un JumpStart modèle à l'aide de Jurassic-2 Jumbo Instrut d'AI21 Labs, utilisez le code suivant :

import sagemaker
import ai21

role = get_execution_role()
sagemaker_session = sagemaker.Session()
model_package_arn = "arn:aws:sagemaker:us-east-1:865070037744:model-package/j2-jumbo-instruct-v1-1-43-4e47c49e61743066b9d95efed6882f35"

my_model = ModelPackage(
    role=role, model_package_arn=model_package_arn, sagemaker_session=sagemaker_session
)

Pour obtenir des exemples étape par étape, recherchez et exécutez le bloc-notes associé au modèle de base propriétaire de votre choix dans SageMaker Studio Classic. Pour plus d’informations, consultez Utiliser des modèles de base dans Amazon SageMaker Studio Classic. Pour plus d'informations sur le SageMaker Python SDK, consultez ModelPackage.