Mises à jour des statistiques de surveillance Surveillance au niveau de l'application Surveillance au niveau des tâches Surveillance au niveau du Job Worker

Surveillance des applications et des tâches EMR sans serveur

Avec Amazon CloudWatch Metrics for EMR Serverless, vous pouvez recevoir des CloudWatch métriques en une minute et accéder à des CloudWatch tableaux de bord pour accéder aux near-real-time opérations et aux performances de vos applications EMR Serverless.

EMR Serverless envoie des métriques à chaque minute. CloudWatch EMR Serverless émet ces métriques au niveau de l'application ainsi qu'au niveau de la tâche, du type de travailleur et au niveau de l'application. capacity-allocation-type

Pour commencer, utilisez le modèle de tableau de CloudWatch bord EMR Serverless fourni dans le référentiel EMR GitHub Serverless et déployez-le.

Note

Les charges de travail interactives EMR sans serveur sont uniquement activées pour la surveillance au niveau de l'application et ont une nouvelle dimension de type de travailleur. Spark_Kernel Pour surveiller et déboguer vos charges de travail interactives, accédez aux journaux et à l'interface utilisateur d'Apache Spark depuis votre espace de travail EMR Studio.

Métriques de surveillance

Important

Nous restructurons notre affichage des métriques pour ajouter ApplicationName et JobName en tant que dimensions. Pour les versions 7.10 et ultérieures, les anciennes métriques ne seront plus mises à jour. Pour les versions EMR inférieures à 7.10, les anciennes métriques sont toujours disponibles.

Dimensions actuelles

Le tableau ci-dessous décrit les dimensions EMR Serverless disponibles dans l'espace de noms. AWS/EMR Serverless

Dimensions des métriques EMR sans serveur
Dimension	Description
`ApplicationId`	Filtre toutes les métriques d'une application EMR sans serveur à l'aide de l'ID de l'application.
`ApplicationName`	Filtre toutes les métriques d'une application EMR sans serveur utilisant le nom. Si le nom n'est pas fourni ou contient des caractères non ASCII, il est publié sous le nom [Non spécifié].
`JobId`	Filtre toutes les métriques d'un EMR Serverless, l'ID d'exécution de la tâche.
`JobName`	Filtres pour toutes les métriques d'une tâche EMR sans serveur exécutée en utilisant le nom. Si le nom n'est pas fourni ou contient des caractères non ASCII, il est publié sous le nom [Non spécifié].
`WorkerType`	Filtres pour tous les indicateurs d'un type de travailleur donné. Par exemple, vous pouvez filtrer pour `SPARK_DRIVER` et `SPARK_EXECUTORS` pour les tâches Spark.
`CapacityAllocationType`	Filtres pour tous les indicateurs d'un type d'allocation de capacité donné. Par exemple, vous pouvez filtrer `PreInitCapacity` pour la capacité pré-initialisée et `OnDemandCapacity` pour tout le reste.

Surveillance au niveau de l'application

Vous pouvez surveiller l'utilisation de la capacité au niveau de l'application EMR Serverless à l'aide des métriques Amazon. CloudWatch Vous pouvez également configurer un écran unique pour surveiller l'utilisation de la capacité des applications dans un CloudWatch tableau de bord.

Métriques relatives aux applications EMR sans serveur
Métrique	Description	Unité	Dimension
`MaxCPUAllowed`	Processeur maximal autorisé pour l'application.	vCPU	`ApplicationId`, `ApplicationName`
`MaxMemoryAllowed`	Mémoire maximale autorisée pour l'application, exprimée en Go.	Gigaoctets (Go)	`ApplicationId`, `ApplicationName`
`MaxStorageAllowed`	Stockage maximal en Go autorisé pour l'application.	Gigaoctets (Go)	`ApplicationId`, `ApplicationName`
`CPUAllocated`	Le nombre total de v CPUs alloués.	vCPU	`ApplicationId`, `ApplicationName`, `WorkerType`, `CapacityAllocationType`
`IdleWorkerCount`	Nombre total de travailleurs inactifs.	Nombre	`ApplicationId`, `ApplicationName`, `WorkerType`, `CapacityAllocationType`
`MemoryAllocated`	Mémoire totale allouée en Go.	Gigaoctets (Go)	`ApplicationId`, `ApplicationName`, `WorkerType`, `CapacityAllocationType`
`PendingCreationWorkerCount`	Nombre total de travailleurs en attente de création.	Nombre	`ApplicationId`, `ApplicationName`, `WorkerType`, `CapacityAllocationType`
`RunningWorkerCount`	Nombre total de travailleurs utilisés par l'application.	Nombre	`ApplicationId`, `ApplicationName`, `WorkerType`, `CapacityAllocationType`
`StorageAllocated`	Stockage sur disque total en Go alloué.	Gigaoctets (Go)	`ApplicationId`, `ApplicationName`, `WorkerType`, `CapacityAllocationType`
`TotalWorkerCount`	Le nombre total de travailleurs disponibles.	Nombre	`ApplicationId`, `ApplicationName`, `WorkerType`, `CapacityAllocationType`

Surveillance au niveau des tâches

Amazon EMR Serverless envoie les métriques suivantes au niveau des tâches toutes les minutes. Amazon CloudWatch Vous pouvez accéder aux valeurs métriques pour les exécutions de tâches agrégées par état d'exécution des tâches. L'unité de chacune des métriques est le nombre.

Mesures EMR Serverless au niveau des tâches
Métrique	Description	Dimension
`SubmittedJobs`	Le nombre de tâches dans un état Soumis.	`ApplicationId`, `ApplicationName`
`PendingJobs`	Le nombre de tâches en attente.	`ApplicationId`, `ApplicationName`
`ScheduledJobs`	Le nombre de tâches dans un état planifié.	`ApplicationId`, `ApplicationName`
`RunningJobs`	Le nombre de tâches en cours d'exécution.	`ApplicationId`, `ApplicationName`
`SuccessJobs`	Le nombre d'emplois dont l'état est « Success ».	`ApplicationId`, `ApplicationName`
`FailedJobs`	Le nombre de tâches en état d'échec.	`ApplicationId`, `ApplicationName`
`CancellingJobs`	Le nombre d'emplois dans un État annulable.	`ApplicationId`, `ApplicationName`
`CancelledJobs`	Le nombre de tâches dont l'état est annulé.	`ApplicationId`, `ApplicationName`

Vous pouvez surveiller les métriques spécifiques au moteur pour les tâches EMR sans serveur exécutées et terminées avec une application spécifique au moteur. UIs Lorsque vous accédez à l'interface utilisateur pour une tâche en cours d'exécution, l'interface utilisateur de l'application en direct s'affiche avec des mises à jour en temps réel. Lorsque vous accédez à l'interface utilisateur pour une tâche terminée, l'interface utilisateur permanente de l'application s'affiche.

Exécution de tâches

Pour vos tâches EMR sans serveur en cours d'exécution, accédez à une interface en temps réel qui fournit des métriques spécifiques au moteur. Vous pouvez utiliser l'interface utilisateur Apache Spark ou l'interface utilisateur Hive Tez pour surveiller et déboguer vos tâches. Pour y accéder UIs, utilisez la console EMR Studio ou demandez un point de terminaison URL sécurisé avec le. AWS Command Line Interface

Tâches terminées

Pour les tâches EMR sans serveur terminées, utilisez le serveur d'historique Spark ou l'interface utilisateur de Persistent Hive Tez pour accéder aux détails, aux étapes, aux tâches et aux indicateurs des tâches Spark ou Hive exécutées. Pour y accéder UIs, utilisez la console EMR Studio ou demandez un point de terminaison URL sécurisé avec le. AWS Command Line Interface

Surveillance au niveau du Job Worker

Amazon EMR Serverless envoie à Amazon les métriques suivantes au niveau du travailleur, disponibles dans l'espace de AWS/EMRServerless noms et le Job Worker Metrics groupe de métriques. CloudWatch EMR Serverless collecte des points de données auprès de travailleurs individuels lors de l'exécution des tâches au niveau de la tâche, du type de travailleur et du niveau. capacity-allocation-type Vous pouvez l'utiliser ApplicationId comme dimension pour surveiller plusieurs tâches appartenant à la même application.

Mesures EMR Serverless au niveau des travailleurs
Métrique	Description	Unité	Dimension
`WorkerCpuAllocated`	Nombre total de cœurs de vCPU alloués aux travailleurs dans le cadre d'une exécution de tâche.	vCPU	`JobId`, `JobName`, `ApplicationId`, `ApplicationName`, `WorkerType`, et `CapacityAllocationType`
`WorkerCpuUsed`	Nombre total de cœurs de vCPU utilisés par les travailleurs dans le cadre d'une exécution de tâche.	vCPU	`JobId`, `JobName`, `ApplicationId`, `ApplicationName`, `WorkerType`, et `CapacityAllocationType`
`WorkerMemoryAllocated`	Mémoire totale en Go allouée aux travailleurs dans le cadre d'une exécution de tâche.	Gigaoctets (Go)	`JobId`, `JobName`, `ApplicationId`, `ApplicationName`, `WorkerType`, et `CapacityAllocationType`
`WorkerMemoryUsed`	Mémoire totale en Go utilisée par les travailleurs lors de l'exécution d'une tâche.	Gigaoctets (Go)	`JobId`, `JobName`, `ApplicationId`, `ApplicationName`, `WorkerType`, et `CapacityAllocationType`
`WorkerEphemeralStorageAllocated`	Nombre d'octets de stockage éphémère alloués aux travailleurs dans le cadre d'une exécution de tâche.	Gigaoctets (Go)	`JobId`, `JobName`, `ApplicationId`, `ApplicationName`, `WorkerType`, et `CapacityAllocationType`
`WorkerEphemeralStorageUsed`	Le nombre d'octets de stockage éphémère utilisés par les travailleurs dans le cadre d'une exécution de tâche.	Gigaoctets (Go)	`JobId`, `JobName`, `ApplicationId`, `ApplicationName`, `WorkerType`, et `CapacityAllocationType`
`WorkerStorageReadBytes`	Nombre d'octets lus depuis le stockage par les travailleurs lors d'une exécution de tâche.	Octets	`JobId`, `JobName`, `ApplicationId`, `ApplicationName`, `WorkerType`, et `CapacityAllocationType`
`WorkerStorageWriteBytes`	Nombre d'octets écrits dans le stockage par les travailleurs lors d'une exécution de tâche.	Octets	`JobId`, `JobName`, `ApplicationId`, `ApplicationName`, `WorkerType`, et `CapacityAllocationType`

Les étapes ci-dessous décrivent comment accéder aux différents types de métriques.

Console

Pour accéder à l'interface utilisateur de votre application via la console

Accédez à votre application EMR Serverless dans le studio EMR en suivant les instructions de la section Mise en route depuis la console.
Pour accéder à une application UIs et à des journaux spécifiques au moteur pour une tâche en cours d'exécution :
1. Choisissez un poste doté d'un RUNNING statut.
2. Sélectionnez le poste sur la page des détails de la candidature ou accédez à la page des détails du poste correspondant à votre poste.
3. Dans le menu déroulant Display UI, choisissez Spark UI ou Hive Tez UI pour accéder à l'interface utilisateur de l'application correspondant à votre type de tâche.
4. Pour accéder aux journaux du moteur Spark, accédez à l'onglet Executors de l'interface utilisateur de Spark et choisissez le lien Logs pour le pilote. Pour accéder aux journaux du moteur Hive, cliquez sur le lien Logs du DAG approprié dans l'interface utilisateur Hive Tez.
Pour accéder à une application UIs et à des journaux spécifiques au moteur pour une tâche terminée :
1. Choisissez un poste doté d'un SUCCESS statut.
2. Sélectionnez le poste sur la page des détails de candidature de votre candidature ou accédez à la page des détails du poste.
3. Dans le menu déroulant de l'interface utilisateur d'affichage, choisissez Spark History Server ou Persistent Hive Tez UI pour accéder à l'interface utilisateur de l'application correspondant à votre type de tâche.
4. Pour accéder aux journaux du moteur Spark, accédez à l'onglet Executors de l'interface utilisateur de Spark et choisissez le lien Logs pour le pilote. Pour accéder aux journaux du moteur Hive, cliquez sur le lien Logs du DAG approprié dans l'interface utilisateur Hive Tez.

AWS CLI

Pour accéder à l'interface utilisateur de votre application à l'aide du AWS CLI

Pour générer une URL permettant d'accéder à l'interface utilisateur de votre application pour les tâches en cours et terminées, appelez l'GetDashboardForJobRunAPI.
```
aws emr-serverless get-dashboard-for-job-run /
--application-id <application-id> /
--job-run-id <job-id> 
```
L'URL que vous générez est valide pendant une heure.

Avertissement JavaScript est désactivé ou n'est pas disponible dans votre navigateur.

Pour que vous puissiez utiliser la documentation AWS, Javascript doit être activé. Vous trouverez des instructions sur les pages d'aide de votre navigateur.

Conventions de rédaction

Contrôle

Métriques du moteur Spark