使用 ModelPackage 類別部署專屬基礎模型
訂閱 AWS Marketplace 中的模型後,必須使用模型套件資訊部署專屬模型。如需有關 SageMaker AI 和 AWS Marketplace 的詳細資訊,請參閱在 AWS Marketplace 中購買和銷售 Amazon SageMaker AI 演算法和模型。若要尋找最新專利模型的 AWS Marketplace 連結,請參閱開始使用 Amazon SageMaker JumpStart
在 AWS Marketplace 中訂閱您選擇的模型之後,您可以使用 SageMaker Python SDK 以及與模型提供者相關聯的 SDK 部署基礎模型。例如,AI21 Labs、Cohere 和 LightOn 分別使用"ai21[SM]"、cohere-sagemaker、和 lightonsage 套件。
例如,若要使用 AI21 Labs 的 Jurassic-2 Jumbo Instruct 定義 JumpStart 模型,請使用下列程式碼:
import sagemaker import ai21 role = get_execution_role() sagemaker_session = sagemaker.Session() model_package_arn ="arn:aws:sagemaker:us-east-1:865070037744:model-package/j2-jumbo-instruct-v1-1-43-4e47c49e61743066b9d95efed6882f35"my_model = ModelPackage( role=role, model_package_arn=model_package_arn, sagemaker_session=sagemaker_session )
如需逐步範例,請在 SageMaker Studio Classic 中尋找並執行與您選擇的專屬基礎模型相關聯的筆記本。如需詳細資訊,請參閱在 Amazon SageMaker Studio Classic 中使用基礎模型。如需 SageMaker Python SDK 的詳細資訊,請參閱 ModelPackage