SageMaker KI-Edge-Manager

Der Name der SageMaker AI Edge Manager-Geräteflotte, die Ihr Greengrass-Core-Gerät enthält.

Sie müssen im Konfigurationsupdate einen Wert für diesen Parameter angeben, wenn Sie diese Komponente bereitstellen.

Der Name des S3-Buckets, in den Sie erfasste Inferenzdaten hochladen. Der Bucket-Name muss die Zeichenfolge sagemaker enthalten.

Wenn Sie CaptureDataDestination auf oder auf festlegen CloudCaptureDataPeriodicUpload, müssen Sie im Konfigurationsupdate einen Wert für diesen Parameter angeben, wenn Sie diese Komponente bereitstellen. true

(Optional) Die Größe eines Stapels von Erfassungsdatenanforderungen, die der Agent bearbeitet. Dieser Wert muss kleiner als die Puffergröße sein, die Sie in angebenCaptureDataBufferSize. Es wird empfohlen, die halbe Puffergröße nicht zu überschreiten.

Der Agent verarbeitet einen Anforderungsstapel, wenn die Anzahl der Anforderungen im Puffer der CaptureDataBatchSize Anzahl entspricht oder wenn das CaptureDataPushPeriodSeconds Intervall abgelaufen ist, je nachdem, was zuerst eintritt.

Standard: 10

(Optional) Die maximale Anzahl von Erfassungsdatenanforderungen, die im Puffer gespeichert sind.

Standard: 30

(Optional) Das Ziel, an dem Sie die erfassten Daten speichern. Folgende Parameterwerte sind möglich:

Wenn Sie dies angebenDisk, können Sie die erfassten Daten auch regelmäßig in Ihren S3-Bucket hochladen, indem Sie die Einstellung CaptureDataPeriodicUpload auf true setzen.

Standard: Cloud

(Optional) Zeichenfolgenwert, der angibt, ob die erfassten Daten regelmäßig hochgeladen werden sollen. Unterstützte Werte sind true und false.

Setzen Sie diesen Parameter auf, true wenn Sie ihn CaptureDataDestination auf setzen und Sie außerdem möchtenDisk, dass der Agent die erfassten Daten regelmäßig in Ihren S3-Bucket hochlädt.

Standard: false

(Optional) Das Intervall in Sekunden, in dem der SageMaker AI Edge Manager-Agent erfasste Daten in den S3-Bucket hochlädt. Verwenden Sie diesen Parameter, wenn Sie CaptureDataPeriodicUpload auf true festlegen.

Standard: 8

(Optional) Das Intervall in Sekunden, in dem der SageMaker AI Edge Manager-Agent einen Stapel von Erfassungsdatenanforderungen aus dem Puffer verarbeitet.

Der Agent verarbeitet einen Anforderungsstapel, wenn die Anzahl der Anfragen im Puffer der CaptureDataBatchSize Anzahl entspricht oder wenn das CaptureDataPushPeriodSeconds Intervall abgelaufen ist, je nachdem, was zuerst eintritt.

Standard: 4

(Optional) Die maximale Größe der erfassten Daten in Byte, die der SageMaker AI Edge Manager-Agent hochlädt.

Standard: 3072

(Optional) Der Name des Ordners, in den der Agent die erfassten Daten schreibt. Wenn Sie CaptureDataDestination diese Option festlegenDisk, erstellt der Agent den Ordner in dem Verzeichnis, das von angegeben istCaptureDataDiskPath. Wenn Sie dies festlegen CaptureDataDestination oder wenn Sie dies festlegen CaptureDataPeriodicUploadtrue, erstellt der Agent den Ordner in Ihrem S3-Bucket. Cloud

Standard: sme-capture

Diese Funktion ist in v1.1.0 und späteren Versionen der SageMaker AI Edge Manager-Komponente verfügbar.

(Optional) Der Pfad zu dem Ordner, in dem der Agent den Ordner mit den erfassten Daten erstellt. Wenn Sie diese Option festlegen CaptureDataDestinationDisk, erstellt der Agent den Ordner mit den erfassten Daten in diesem Verzeichnis. Wenn Sie diesen Wert nicht angeben, erstellt der Agent den Ordner mit den erfassten Daten im Arbeitsverzeichnis der Komponente. Verwenden Sie den FolderPrefix Parameter, um den Namen des Ordners mit den erfassten Daten anzugeben.

Standard: /greengrass/v2/work/aws.greengrass.SageMakerEdgeManager/capture

Diese Funktion ist in v1.2.0 und späteren Versionen der SageMaker AI Edge Manager-Komponente verfügbar.

(Optional) Der Pfad, in dem diese Komponente die folgenden Daten auf dem Kerngerät speichert:

Standard: /greengrass/v2/work/aws.greengrass.SageMakerEdgeManager

(Optional) Sie können diese Komponente so einrichten, dass sie Laufzeitdaten in einer lokalen Datenbank speichert, um die Daten für den Fall zu erhalten, dass die Komponente ausfällt oder das Gerät die Stromversorgung verliert.

Diese Datenbank benötigt 5 MB Speicherplatz im Dateisystem des Kerngeräts.

Standard: false

Diese Funktion ist in Version 1.2.0 und späteren Versionen der SageMaker AI Edge Manager-Komponente verfügbar.

(Optional) Sie können diese Komponente aktivieren, um automatisch SageMaker Neo-compiled KI-Modelle abzurufen, die Sie auf Amazon S3 hochladen. Nachdem Sie ein neues Modell auf Amazon S3 hochgeladen haben, verwenden Sie SageMaker AI Studio oder die SageMaker AI-API, um das neue Modell auf diesem Kerngerät bereitzustellen. Wenn Sie diese Funktion aktivieren, können Sie neue Modelle auf Kerngeräten bereitstellen, ohne eine AWS IoT Greengrass Bereitstellung erstellen zu müssen.

Standard: false

Diese Funktion ist in Version 1.2.0 und späteren Versionen der SageMaker AI Edge Manager-Komponente verfügbar.

(Optional) Der Zeitraum (in Minuten), zwischen dem diese Komponente nach neuen Modellen sucht, die heruntergeladen werden sollen. Diese Option gilt, wenn Sie DeploymentEnable auf einstellentrue.

Standard: 1440 (1 Tag)

Diese Funktion ist in Version 1.2.0 und späteren Versionen der SageMaker AI Edge Manager-Komponente verfügbar.

(Optional) Die DLR-Laufzeit-Flags, die in der DLR-Laufzeit gesetzt werden müssen, die diese Komponente verwendet. Sie können das folgende Flag setzen:

Sie können diesen Parameter beispielsweise auf den folgenden Wert setzen, um das TensorRT-Modell-Caching zu aktivieren und die Cachegröße auf 800 MB zu begrenzen.

TVM_TENSORRT_CACHE_DIR=/data/secured_folder/trt/cache; TVM_TENSORRT_CACHE_DISK_SIZE_MB=800

(Optional) Zeichenfolgenwert, der angibt, ob die Debug-Protokollierung aktiviert werden soll. Unterstützte Werte sind true und false.

Standard: false

(Optional) Der Speicherort des SageMaker AI Edge Manager-Socket-Dateideskriptors auf dem Kerngerät.

Standard: /tmp/aws.greengrass.SageMakerEdgeManager.sock