支援的裝置、晶片架構和系統 - Amazon SageMaker AI

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

支援的裝置、晶片架構和系統

Amazon SageMaker Neo 支援下列裝置、晶片架構和作業系統。

裝置

您可以使用 Amazon SageMaker AI 主控台中的下拉式清單,或在 CreateCompilationJob API 的輸出組態TargetDevice中指定 來選取裝置。

您可以選擇下列其中一個 Edge 裝置:

裝置清單 單晶片系統 (SoC) 作業系統 架構 加速器 編譯器選項範例
aisage Linux ARM64 馬利
amba_cv2 CV2 Arch Linux ARM64 cvflow
amba_cv22 CV22 Arch Linux ARM64 cvflow
amba_cv25 CV25 Arch Linux ARM64 cvflow
coreml iOS、macOS {"class_labels": "imagenet_labels_1000.txt"}
imx8qm NXP imx8 Linux ARM64
imx8mplus i.MX 8M Plus Linux ARM64 NPU
jacinto_tda4vm TDA4VM Linux ARM TDA4VM
jetson_nano Linux ARM64 NVIDIA {'gpu-code': 'sm_53', 'trt-ver': '5.0.6', 'cuda-ver': '10.0'}

對於 TensorFlow2{'JETPACK_VERSION': '4.6', 'gpu_code': 'sm_72'}

jetson_tx1 Linux ARM64 NVIDIA {'gpu-code': 'sm_53', 'trt-ver': '6.0.1', 'cuda-ver': '10.0'}
jetson_tx2 Linux ARM64 NVIDIA {'gpu-code': 'sm_62', 'trt-ver': '6.0.1', 'cuda-ver': '10.0'}
jetson_xavier Linux ARM64 NVIDIA {'gpu-code': 'sm_72', 'trt-ver': '5.1.6', 'cuda-ver': '10.0'}
qcs605 Android ARM64 馬利 {'ANDROID_PLATFORM': 27}
qcs603 Android ARM64 馬利 {'ANDROID_PLATFORM': 27}
rasp3b ARM A56 Linux ARM_EABIHF {'mattr': ['+neon']}
rasp4b ARM A72
rk3288 Linux ARM_EABIHF 馬利
rk3399 Linux ARM64 馬利
sbe_c Linux x86_64 {'mcpu': 'core-avx2'}
sitara_am57x AM57X Linux ARM64 EVE 和/或 C66x DSP
x86_win32 Windows 10 X86_32
x86_win64 Windows 10 X86_32

如需每個目標裝置的 JSON 鍵值編譯器選項的詳細資訊,請參閱 OutputConfig API 資料類型中的 CompilerOptions 欄位。

系統與晶片架構

下列查詢資料表提供有關 Neo 模型編譯任務之可用作業系統和架構的資訊。

Linux
加速器 X86_64 X86 ARM64 ARM_EABIHF ARM_EABI
無加速器 (CPU)
Nvidia GPU
Intel_Graphics
ARM Mali
Android
加速器 X86_64 X86 ARM64 ARM_EABIHF ARM_EABI
無加速器 (CPU)
Nvidia GPU
Intel_Graphics
ARM Mali
Windows
加速器 X86_64 X86 ARM64 ARM_EABIHF ARM_EABI
無加速器 (CPU)