View a markdown version of this page

推論容器映像 - Amazon SageMaker AI

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

推論容器映像

SageMaker Neo 現在可提供 ml_* 目標的推論影像 URI 資訊。如需詳細資訊,請參閱 DescribeCompilationJob。

根據您的使用案例,使用適當的值取代下方所提供之推論影像 URI 範本中重點標示的部分。

aws_account_id.dkr.ecr.aws_region.amazonaws.com/xgboost-neo:latest

根據您使用的 aws_region,取代本頁結尾資料表的 aws_account_id。

aws_account_id.dkr.ecr.aws_region.amazonaws.com/sagemaker-neo-keras:fx_version-instance_type-py3

根據您使用的 aws_region,取代本頁結尾資料表的 aws_account_id。

使用 2.2.4 取代 fx_version。

使用 cpu 或 gpu 取代 instance_type。

CPU or GPU instance types
aws_account_id.dkr.ecr.aws_region.amazonaws.com/sagemaker-inference-mxnet:fx_version-instance_type-py3

根據您使用的 aws_region,取代本頁結尾資料表的 aws_account_id。

使用 1.8.0 取代 fx_version。

使用 cpu 或 gpu 取代 instance_type。

Inferentia1
aws_account_id.dkr.ecr.aws_region.amazonaws.com/sagemaker-neo-mxnet:fx_version-instance_type-py3

使用 us-east-1 或 us-west-2 取代 aws_region。

根據您使用的 aws_region,取代本頁結尾資料表的 aws_account_id。

使用 1.5.1 取代 fx_version。

使用 inf 取代 instance_type。

aws_account_id.dkr.ecr.aws_region.amazonaws.com/sagemaker-neo-onnx:fx_version-instance_type-py3

根據您使用的 aws_region,取代本頁結尾資料表的 aws_account_id。

使用 1.5.0 取代 fx_version。

使用 cpu 或 gpu 取代 instance_type。

CPU or GPU instance types
aws_account_id.dkr.ecr.aws_region.amazonaws.com/sagemaker-inference-pytorch:fx_version-instance_type-py3

根據您使用的 aws_region,取代本頁結尾資料表的 aws_account_id。

使用 1.4、1.5、1.6、1.7、1.8、1.12、1.13 或 2.0 取代 fx_version。

使用 cpu 或 gpu 取代 instance_type。

Inferentia1
aws_account_id.dkr.ecr.aws_region.amazonaws.com/sagemaker-neo-pytorch:fx_version-instance_type-py3

使用 us-east-1 或 us-west-2 取代 aws_region。

根據您使用的 aws_region,取代本頁結尾資料表的 aws_account_id。

使用 1.5.1 取代 fx_version。

使用 inf 取代 instance_type。

Inferentia2 and Trainium1
763104351884.dkr.ecr.aws_region.amazonaws.com/pytorch-inference-neuronx:1.13.1-neuronx-py38-sdk2.10.0-ubuntu20.04

使用適用於 Inferentia2 的 us-east-2 和適用於 Trainium1 的 us-east-1 取代 aws_region。

CPU or GPU instance types
aws_account_id.dkr.ecr.aws_region.amazonaws.com/sagemaker-inference-tensorflow:fx_version-instance_type-py3

根據您使用的 aws_region,取代本頁結尾資料表的 aws_account_id。

使用 1.15.3 或 2.9 取代 fx_version。

使用 cpu 或 gpu 取代 instance_type。

Inferentia1
aws_account_id.dkr.ecr.aws_region.amazonaws.com/sagemaker-neo-tensorflow:fx_version-instance_type-py3

根據您使用的 aws_region,取代本頁結尾資料表的 aws_account_id。請注意,針對執行個體類型 inf,只支援 us-east-1 和 us-west-2。

使用 1.15.0 取代 fx_version

使用 inf 取代 instance_type。

Inferentia2 and Trainium1
763104351884.dkr.ecr.aws_region.amazonaws.com/tensorflow-inference-neuronx:2.10.1-neuronx-py38-sdk2.10.0-ubuntu20.04

使用適用於 Inferentia2 的 us-east-2 和適用於 Trainium1 的 us-east-1 取代 aws_region。

以下資料表對應 aws_account_id 和 aws_region。請使用此表,尋找您的應用程式所需的正確推論影像 URI。

aws_account_id aws_region
785573368785 us-east-1
007439368137 us-east-2
710691900526 us-west-1
301217895009 us-west-2
802834080501 eu-west-1
205493899709 eu-west-2
254080097072 eu-west-3
601324751636 eu-north-1
966458181534 eu-south-1
746233611703 eu-central-1
110948597952 ap-east-1
763008648453 ap-south-1
941853720454 ap-northeast-1
151534178276 ap-northeast-2
925152966179 ap-northeast-3
324986816169 ap-southeast-1
355873309152 ap-southeast-2
474822919863 cn-northwest-1
472730292857 cn-north-1
756306329178 sa-east-1
464438896020 ca-central-1
836785723513 me-south-1
774647643957 af-south-1
275950707576 il-central-1