

本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

# 部署模型
<a name="neo-deployment-hosting-services"></a>

若要將使用 Amazon SageMaker Neo 編譯的模型部署到 HTTPS 端點，您必須使用 Amazon SageMaker AI 託管服務設定並建立模型的端點。開發人員目前可以使用 Amazon SageMaker API，將模組部署至 ml.c5、ml.c4、ml.m5、ml.m4、ml.p3、ml.p2 和 ml.inf1 執行個體。

如果是 [Inferentia](https://aws.amazon.com/machine-learning/inferentia/) 和 [Trainium](https://aws.amazon.com/machine-learning/trainium/) 執行個體，則需要特別針對那些執行個體編譯模型。針對其他執行個體類型編譯的模型，不保證適用於 Inferentia 或 Trainium 執行個體。

當您部署已編譯的模型時，目標使用的執行個體需要和編譯使用的執行個體相同。這會建立可用來執行推論的 SageMaker AI 端點。您可以使用下列任何一種方式部署 Neo 編譯的模型：[Amazon SageMaker AI 適用於 Python 的 SDK](https://sagemaker.readthedocs.io/en/stable/)、[適用於 Python 的 SDK (Boto3)](https://boto3.amazonaws.com/v1/documentation/api/latest/index.html)、[AWS Command Line Interface](https://docs.aws.amazon.com/cli/latest/reference/)，以及 [SageMaker AI 主控台](https://console.aws.amazon.com/sagemaker)。

**注意**  
如需使用 AWS CLI、 主控台或 Boto3 部署模型，請參閱 [Neo 推論容器映像](https://docs.aws.amazon.com/sagemaker/latest/dg/neo-deployment-hosting-services-container-images.html)，以選取主要容器的推論映像 URI。

**Topics**
+ [先決條件](neo-deployment-hosting-services-prerequisites.md)
+ [使用 SageMaker SDK 部署已編譯的模型](neo-deployment-hosting-services-sdk.md)
+ [使用 Boto3 部署編譯的模型](neo-deployment-hosting-services-boto3.md)
+ [使用 部署編譯的模型 AWS CLI](neo-deployment-hosting-services-cli.md)
+ [使用主控台部署編譯的模型](neo-deployment-hosting-services-console.md)