Implementazione di modelli di fondazione proprietari con la classe ModelPackage

I modelli proprietari devono essere distribuiti utilizzando le informazioni del pacchetto del modello dopo la sottoscrizione al modello in Marketplace AWS. Per ulteriori informazioni sull' SageMaker intelligenza artificiale e Marketplace AWS, consulta Acquista e vendi algoritmi e modelli di SageMaker intelligenza artificiale di Amazon in. Marketplace AWS Per trovare Marketplace AWS i link ai modelli proprietari più recenti, consulta Guida introduttiva ad Amazon. SageMaker JumpStart

Dopo esserti abbonato al modello di tua scelta in Marketplace AWS, puoi implementare il modello di base utilizzando l' SageMaker PythonSDK e l'SDK associato al fornitore del modello. Ad esempio, AI21 Labs, Cohere e LightOn use the, rispettivamente, e i "ai21[SM]" pacchetti. cohere-sagemaker lightonsage

Ad esempio, per definire un JumpStart modello utilizzando Jurassic-2 Jumbo Instruct di AI21 Labs, utilizzate il codice seguente:

import sagemaker
import ai21

role = get_execution_role()
sagemaker_session = sagemaker.Session()
model_package_arn = "arn:aws:sagemaker:us-east-1:865070037744:model-package/j2-jumbo-instruct-v1-1-43-4e47c49e61743066b9d95efed6882f35"

my_model = ModelPackage(
    role=role, model_package_arn=model_package_arn, sagemaker_session=sagemaker_session
)

Per esempi dettagliati, trova ed esegui il notebook associato al modello di base proprietario di tua scelta in Studio Classic. SageMaker Per ulteriori informazioni, consulta Usa i modelli base in Amazon Studio Classic SageMaker. Per ulteriori informazioni sull'SDK, consulta. SageMaker Python ModelPackage