Implementazione di modelli di fondazione proprietari con la classe ModelPackage

I modelli proprietari devono essere distribuiti utilizzando le informazioni del pacchetto del modello dopo la sottoscrizione al modello in Marketplace AWS. Per ulteriori informazioni su SageMaker AI e Marketplace AWS, consulta Acquisto e vendita di algoritmi e modelli di Amazon SageMaker AI in Marketplace AWS. Per esplorare i collegamenti Marketplace AWS per i più recenti modelli di fondazione proprietari per una varietà di casi d'uso, consulta Getting started with Amazon SageMaker JumpStart.

Una volta effettuato l’abbonamento al modello di tua scelta in Marketplace AWS, puoi implementare il modello di fondazione utilizzando SageMaker Python SDK e l’SDK associato al provider del modello. Ad esempio, AI21 Labs, Cohere e LightOn utilizzano rispettivamente i pacchetti "ai21[SM]", cohere-sagemaker e lightonsage.

Ad esempio, per definire un modello JumpStart tramite Jurassic-2 Jumbo Instruct di AI21 Labs, utilizza il codice seguente:

import sagemaker
import ai21

role = get_execution_role()
sagemaker_session = sagemaker.Session()
model_package_arn = "arn:aws:sagemaker:us-east-1:865070037744:model-package/j2-jumbo-instruct-v1-1-43-4e47c49e61743066b9d95efed6882f35"

my_model = ModelPackage(
    role=role, model_package_arn=model_package_arn, sagemaker_session=sagemaker_session
)

Per esempi dettagliati, trova ed esegui il notebook associato al modello di fondazione proprietario di tua scelta in SageMaker Studio Classic. Per ulteriori informazioni, consulta Utilizzo dei modelli di fondazione in Amazon SageMaker Studio Classic. Per ulteriori informazioni su SageMaker Python SDK, consulta ModelPackage.