View a markdown version of this page

支援的裝置、晶片架構和系統 - Amazon SageMaker AI

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

支援的裝置、晶片架構和系統

Amazon SageMaker Neo 支援下列裝置、晶片架構和作業系統。

Devices

您可以使用 Amazon SageMaker AI 主控台中的下拉式清單選取裝置,或透過指定 CreateCompilationJob API 輸出組態中的 TargetDevice 選取裝置。

您可以選擇下列其中一個 Edge 裝置:

裝置清單 單晶片系統 (SoC) 作業系統 Architecture 加速器 編譯器選項範例
aisage 無 Linux ARM64 馬利 無
amba_cv2 CV2 Arch Linux ARM64 cvflow 無
amba_cv22 CV22 Arch Linux ARM64 cvflow 無
amba_cv25 CV25 Arch Linux ARM64 cvflow 無
coreml 無 iOS、macOS 無 無 {"class_labels": "imagenet_labels_1000.txt"}
imx8qm NXP imx8 Linux ARM64 無 無
imx8mplus i.MX 8M Plus Linux ARM64 NPU 無
jacinto_tda4vm TDA4VM Linux ARM TDA4VM 無
jetson_nano 無 Linux ARM64 NVIDIA {'gpu-code': 'sm_53', 'trt-ver': '5.0.6', 'cuda-ver': '10.0'}

對於 TensorFlow2,{'JETPACK_VERSION': '4.6', 'gpu_code': 'sm_72'}

jetson_tx1 無 Linux ARM64 NVIDIA {'gpu-code': 'sm_53', 'trt-ver': '6.0.1', 'cuda-ver': '10.0'}
jetson_tx2 無 Linux ARM64 NVIDIA {'gpu-code': 'sm_62', 'trt-ver': '6.0.1', 'cuda-ver': '10.0'}
jetson_xavier 無 Linux ARM64 NVIDIA {'gpu-code': 'sm_72', 'trt-ver': '5.1.6', 'cuda-ver': '10.0'}
qcs605 無 Android ARM64 馬利 {'ANDROID_PLATFORM': 27}
qcs603 無 Android ARM64 馬利 {'ANDROID_PLATFORM': 27}
rasp3b ARM A56 Linux ARM_EABIHF 無 {'mattr': ['+neon']}
rasp4b ARM A72 無 無 無 無
rk3288 無 Linux ARM_EABIHF 馬利 無
rk3399 無 Linux ARM64 馬利 無
sbe_c 無 Linux x86_64 無 {'mcpu': 'core-avx2'}
sitara_am57x AM57X Linux ARM64 EVE 和/或 C66x DSP 無
x86_win32 無 Windows 10 X86_32 無 無
x86_win64 無 Windows 10 X86_32 無 無

如需每個目標裝置的 JSON 鍵值編譯器選項的詳細資訊,請參閱 OutputConfig API 資料類型中的 CompilerOptions 欄位。

系統與晶片架構

下列查詢資料表提供有關 Neo 模型編譯任務之可用作業系統和架構的資訊。

Linux
加速器 X86_64 X86 ARM64 ARM_EABIHF ARM_EABI
無加速器 (CPU) 是 否 是 是 是
Nvidia GPU 是 否 是 否 否
Intel_Graphics 是 否 否 否 否
ARM Mali 否 否 是 是 是
Android
加速器 X86_64 X86 ARM64 ARM_EABIHF ARM_EABI
無加速器 (CPU) 是 是 是 否 是
Nvidia GPU 否 否 否 否 否
Intel_Graphics 是 是 否 否 否
ARM Mali 否 否 是 否 是
Windows
加速器 X86_64 X86 ARM64 ARM_EABIHF ARM_EABI
無加速器 (CPU) 是 是 否 否 否