本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。
建立模型套件資源
若要建立模型套件資源,您可以使用此資源在 Amazon SageMaker AI 中建立可部署模型,並在 上發佈,請 AWS Marketplace 指定下列資訊:
-
包含推論程式碼的 Docker 容器,或是用來訓練模型的演算法資源。
-
模型成品的位置。模型成品可以封裝在與推論程式碼相同的 Docker 容器中,或是存放在 Amazon S3 內。
-
您的模型套件針對即時推論和批次轉換工作所支援的執行個體類型。
-
驗證設定檔,即 SageMaker AI 執行以用來測試您的模型套件推論程式碼的批次轉換工作。
在 上列出模型套件之前 AWS Marketplace,您必須驗證它們。這可確保買方和賣方都能安心,相信產品能夠在 Amazon SageMaker AI 上正常運作。 AWS Marketplace 只有在驗證成功時,您才能在 上列出產品。
驗證程序會使用您的驗證設定檔及範例資料,來執行下列驗證任務:
-
使用模型套件的推論映像及存放在 Amazon S3 中的選用模型成品,在您的帳戶中建立模型。
注意
模型套件是專屬於您建立它們的區域。儲存模型成品的 S3 儲存貯體必須位在您建立模型套件的相同區域。
-
使用模型在您的帳戶中建立轉換工作,來驗證您的推論映像能夠搭配 SageMaker AI 運作。
-
建立驗證設定檔。
注意
在您的驗證設定檔中,請只提供您要公開的資料。
驗證可能需要耗費數小時。若要在您的帳戶中查看工作狀態,請在 SageMaker AI 主控台中,參閱轉換工作頁面。若驗證失敗,您可以從 SageMaker AI 主控台存取掃描和驗證報告。在修復問題之後,請重新建立演算法。演算法狀態為
COMPLETED時,請在 SageMaker AI 主控台中尋找它,然後啟動列出程序注意
若要在 上發佈模型套件 AWS Marketplace,至少需要一個驗證設定檔。
-
您可以使用 SageMaker AI 主控台或使用 SageMaker API 來建立模型套件。
建立模型套件資源 (主控台)
在 SageMaker AI 主控台建立模型套件:
-
開啟位在 https://console.aws.amazon.com/sagemaker/
的 SageMaker AI 主控台。 -
從左側選單中選擇推論。
-
選擇市集模型套件,然後選擇建立市集模型套件。
-
在推論規格頁面上,提供以下資訊:
-
針對模型套件名稱,輸入您的模型套件的名稱。模型套件名稱在您的帳戶和 AWS 區域中必須是唯一的。名稱長度必須介於 1 至 64 個字元。有效字元為 a-z、A-Z、0-9 和 - (連字號)。
-
輸入您的模型套件的描述。此描述會出現在 SageMaker AI 主控台和 AWS Marketplace中。
-
針對推論規格選項,請選擇提供推論映像和模型成品的位置,使用推論容器和模型成品來建立模型套件。選擇提供用來訓練的演算法及其模型成品,從您建立或從 AWS Marketplace訂閱的演算法資源建立模型套件。
-
如果您針對推論規格選項選擇提供推論映像和模型成品的位置,請為容器定義和支援的資源提供下列資訊:
-
針對推論映像位置,輸入包含您的推論程式碼的映像路徑。請務必將該映像做為 Docker 容器存放在 Amazon ECR 中。
-
針對模型資料成品位置,輸入您存放模型成品的 S3 位置。
-
針對容器 DNS 主機名稱,輸入您針對容器所使用的 DNS 主機名稱。
-
針對即時推論支援的執行個體類型,請選擇您的模型套件針對 SageMaker AI 託管端點的即時推論所支援的執行個體類型。
-
針對批次轉換任工作支援的執行個體類型,請選擇您模型套件針對批次轉換工作所支援的執行個體類型。
-
針對支援的內容類型,請輸入您模型套件針對推論請求所預期的內容類型。
-
針對支援的回應 MIME 類型,請輸入您的模型套件用來提供推論的 MIME 類型。
-
-
如果您針對推論規格選項選擇提供用於訓練的演算法及其模型成品,請提供下列資訊:
-
針對演算法 ARN,請輸入用來建立模型套件的演算法資源 Amazon Resource Name (ARN)。
-
針對模型資料成品位置),輸入您存放模型成品的 S3 位置。
-
-
選擇下一步。
-
-
在驗證與掃描頁面上,提供以下資訊:
-
對於在 上發佈此模型套件 AWS Marketplace,選擇是以在 上發佈模型套件 AWS Marketplace。
-
對於驗證此資源,如果您希望 SageMaker AI 執行您指定來測試模型套件推論程式碼的批次轉換工作,請選擇是。
注意
若要在 上發佈模型套件 AWS Marketplace,您的模型套件必須經過驗證。
-
針對 IAM 角色,請選擇擁有必要許可能在 SageMaker AI 執行批次轉換工作的 IAM 角色,或是選擇建立新角色來允許 SageMaker AI 建立已連接
AmazonSageMakerFullAccess受管政策的角色。如需相關資訊,請參閱如何使用 SageMaker AI 執行角色。 -
針對驗證設定檔,請指定下列項目:
-
驗證設定檔的名稱。
-
轉換工作定義。此為描述批次轉換工作的 JSON 區塊。此處的格式與
CreateAlgorithmAPI 的TransformJobDefinition輸入參數相同。
-
-
-
選擇建立市集模型套件。
建立模型套件資源 (API)
若要使用 SageMaker API 建立模型套件,請呼叫 CreateModelPackage API。