本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。
推理容器映像
SageMaker Neo 现在为ml_*目标提供推理图像 URI 信息。有关更多信息,请参阅DescribeCompilationJob。
根据您的应用场景,将下面提供的推理映像 URI 模板中突出显示的部分替换为相应的值。
aws_account_id.dkr.ecr.aws_region.amazonaws.com/xgboost-neo:latest
根据aws_region您使用的替换aws_account_id本页末尾的表格。
aws_account_id.dkr.ecr.aws_region.amazonaws.com/sagemaker-neo-keras:fx_version-instance_type-py3
根据aws_region您使用的替换aws_account_id本页末尾的表格。
将 fx_version替换为 2.2.4。
instance_type替换为cpu或gpu。
                    - CPU or GPU instance types
- 
                            aws_account_id.dkr.ecr.aws_region.amazonaws.com/sagemaker-inference-mxnet:fx_version-instance_type-py3
 根据aws_region您使用的替换aws_account_id本页末尾的表格。
 将 fx_version替换为1.8.0。
 instance_type替换为cpu或gpu。
 
- Inferentia1
- 
                            aws_account_id.dkr.ecr.aws_region.amazonaws.com/sagemaker-neo-mxnet:fx_version-instance_type-py3
 aws_region替换为us-east-1或us-west-2。
 根据aws_region您使用的替换aws_account_id本页末尾的表格。
 将 fx_version替换为1.5.1。
 将 instance_type
inf。
 
aws_account_id.dkr.ecr.aws_region.amazonaws.com/sagemaker-neo-onnx:fx_version-instance_type-py3
根据aws_region您使用的替换aws_account_id本页末尾的表格。
将 fx_version替换为 1.5.0。
instance_type替换为cpu或gpu。
                    - CPU or GPU instance types
- 
                            aws_account_id.dkr.ecr.aws_region.amazonaws.com/sagemaker-inference-pytorch:fx_version-instance_type-py3
 根据aws_region您使用的替换aws_account_id本页末尾的表格。
 fx_version替换为1.41.5、1.6、1.7、、1.8、1.12、1.13、或2.0。
 instance_type替换为cpu或gpu。
 
- Inferentia1
- 
                            aws_account_id.dkr.ecr.aws_region.amazonaws.com/sagemaker-neo-pytorch:fx_version-instance_type-py3
 aws_region替换为us-east-1或us-west-2。
 根据aws_region您使用的替换aws_account_id本页末尾的表格。
 将 fx_version替换为1.5.1。
 将 instance_type
inf。
 
- Inferentia2 and Trainium1
- 
                            763104351884.dkr.ecr.aws_region.amazonaws.com/pytorch-inference-neuronx:1.13.1-neuronx-py38-sdk2.10.0-ubuntu20.04
 将 Inferentia2 aws_region替us-east-2换为,将 Trainium1 替换为。us-east-1
 
                    - CPU or GPU instance types
- 
                            aws_account_id.dkr.ecr.aws_region.amazonaws.com/sagemaker-inference-tensorflow:fx_version-instance_type-py3
 根据aws_region您使用的替换aws_account_id本页末尾的表格。
 将 fx_version替换为1.15.3或2.9。
 instance_type替换为cpu或gpu。
 
- Inferentia1
- 
                            aws_account_id.dkr.ecr.aws_region.amazonaws.com/sagemaker-neo-tensorflow:fx_version-instance_type-py3
 根据aws_region您使用的替换aws_account_id本页末尾的表格。请注意,对于实例类型inf,仅支持us-east-1和us-west-2。
 将 fx_version替换为1.15.0
 将 instance_type替换为inf。
 
- Inferentia2 and Trainium1
- 
                            763104351884.dkr.ecr.aws_region.amazonaws.com/tensorflow-inference-neuronx:2.10.1-neuronx-py38-sdk2.10.0-ubuntu20.04
 将 Inferentia2 aws_region替us-east-2换为,将 Trainium1 替换为。us-east-1
 
下表aws_account_id与aws_region. 使用此表查找应用程序所需的正确推理映像 URI。
                    
                        | aws_account_id | aws_region | 
                
                    
                        | 785573368785 | us-east-1 | 
                    
                        | 007439368137 | us-east-2 | 
                    
                        | 710691900526 | us-west-1 | 
                    
                        | 301217895009 | us-west-2 | 
                    
                        | 802834080501 | eu-west-1 | 
                    
                        | 205493899709 | eu-west-2 | 
                    
                        | 254080097072 | eu-west-3 | 
                    
                        | 601324751636 | eu-north-1 | 
                    
                        | 966458181534 | eu-south-1 | 
                    
                        | 746233611703 | eu-central-1 | 
                    
                        | 11094859797952 | ap-east-1 | 
                    
                        | 763008648453 | ap-south-1 | 
                    
                        | 941853720454 | ap-northeast-1 | 
                    
                        | 151534178276 | ap-northeast-2 | 
                    
                        | 925152966179 | ap-northeast-3 | 
                    
                        | 324986816169 | ap-southeast-1 | 
                    
                        | 355873309152 | ap-southeast-2 | 
                    
                    
                        | 474822919863 | cn-northwest-1 | 
                    
                        | 472730292857 | cn-north-1 | 
                    
                        | 756306329178 | sa-east-1 | 
                    
                        | 464438896020 | ca-central-1 | 
                    
                        | 836785723513 | me-south-1 | 
                    
                        | 774647643957 | af-south-1 | 
                
                    | 275950707576 | il-central-1 |