Bereitstellen proprietärer Basismodelle mit der ModelPackage-Klasse

Proprietäre Modelle müssen nach dem Abonnieren des Modells in AWS Marketplace unter Verwendung der Modellpaketinformationen bereitgestellt werden. Weitere Informationen zu SageMaker KI und AWS Marketplace finden Sie unter Kaufen und Verkaufen von SageMaker Amazon-KI-Algorithmen und -Modellen in AWS Marketplace. AWS Marketplace Links zu den neuesten proprietären Modellen finden Sie unter Erste Schritte mit Amazon SageMaker JumpStart.

Nachdem Sie das Modell Ihrer Wahl unter abonniert haben AWS Marketplace, können Sie das Foundation-Modell mithilfe des SageMaker Python SDK und des mit dem Modellanbieter verknüpften SDK bereitstellen. Zum Beispiel AI21 Labs, Cohere und LightOn use the "ai21[SM]"cohere-sagemaker, lightonsage bzw.

Verwenden Sie beispielsweise den folgenden Code, um ein JumpStart Modell mit Jurassic-2 Jumbo Instruct von AI21 Labs zu definieren:

import sagemaker
import ai21

role = get_execution_role()
sagemaker_session = sagemaker.Session()
model_package_arn = "arn:aws:sagemaker:us-east-1:865070037744:model-package/j2-jumbo-instruct-v1-1-43-4e47c49e61743066b9d95efed6882f35"

my_model = ModelPackage(
    role=role, model_package_arn=model_package_arn, sagemaker_session=sagemaker_session
)

Beispiele für Schritt finden Sie, wenn Sie in Studio Classic nach dem Notebook suchen, das dem proprietären Basismodell Ihrer Wahl zugeordnet ist, und führen Sie es aus. SageMaker Weitere Informationen finden Sie unter Verwenden Sie Basismodelle in Amazon SageMaker Studio Classic. Weitere Informationen zum SageMaker Python SDK finden Sie unter ModelPackage.