Implementación de modelos fundacionales patentados con la clase ModelPackage

Los modelos patentados deben implementarse utilizando la información del paquete del modelo después de suscribirse al modelo en AWS Marketplace. Para obtener más información sobre SageMaker AI y AWS Marketplace, consulte Compra y venta de algoritmos y modelos de Amazon SageMaker AI en AWS Marketplace. Para encontrar enlaces AWS Marketplace a los modelos patentados más recientes, consulte Introducción a Amazon SageMaker JumpStart.

Tras suscribirse al modelo que elija en AWS Marketplace, puede implementar el modelo fundacional mediante el SageMaker Python SDK y el SDK asociado al proveedor del modelo. Por ejemplo, AI21 Labs, Cohere y LightOn utilizan los paquetes "ai21[SM]", cohere-sagemaker y lightonsage respectivamente.

Por ejemplo, para definir un modelo de JumpStart con Jurassic-2 Jumbo Instruct de AI21 Labs, utilice el siguiente código:

import sagemaker
import ai21

role = get_execution_role()
sagemaker_session = sagemaker.Session()
model_package_arn = "arn:aws:sagemaker:us-east-1:865070037744:model-package/j2-jumbo-instruct-v1-1-43-4e47c49e61743066b9d95efed6882f35"

my_model = ModelPackage(
    role=role, model_package_arn=model_package_arn, sagemaker_session=sagemaker_session
)

Para ver ejemplos paso a paso, busque y ejecute el cuaderno asociado al modelo fundacional patentado de su elección en SageMaker Studio Classic. Para obtener más información, consulte Uso de los modelos fundacionales en Amazon SageMaker Studio. Para obtener más información sobre el SageMaker Python SDK, consulte ModelPackage.