Apache Oozie - Amazon EMR

Apache Oozie

nota

Descontinuação do Oozie: como o OSS Oozie entrou em modo de desativação, ele será removido de uma das próximas versões do EMR. Recomendamos que os clientes usem o MWAA como alternativa ao Oozie. Você pode consultar o utilitário oozie-to-airflow-emr no GitHub para migrar fluxos de trabalho existentes do Oozie para o MWAA.

Use o programador de fluxo de trabalho do Apache Oozie para gerenciar e coordenar trabalhos do Hadoop. Para obter mais informações, consulte https://attic.apache.org/projects/oozie.html.

A interface nativa da Web do Oozie não é compatível com o Amazon EMR. Para usar uma interface de front-end para o Oozie, tente o aplicativo Hue do Oozie. Para obter mais informações, consulte Hue. O Oozie é incluído com as versões 5.0.0 e posteriores do Amazon EMR. Oozie é incluído como um aplicativo em sandbox em versões anteriores. Para obter mais informações, consulte Versões de lançamento 4.x do Amazon EMR.

Se você usar uma AMI do Amazon Linux personalizada com base em uma AMI do Amazon Linux com data de criação 11/8/2018, o servidor Oozie falhará ao iniciar. Se você usar o Oozie, crie uma AMI personalizada com base em um ID de AMI do Amazon Linux com uma data de criação diferente. Use o comando da AWS CLI a seguir para retornar uma lista de IDs de imagem de todas as AMIs de HVM do Amazon Linux com a versão 2018.03, com a data de lançamento, para poder escolher uma AMI do Amazon Linux apropriada como base. Substitua MyRegion pelo identificador de sua região, como us-west-2.

aws ec2 --region MyRegion describe-images --owner amazon --query 'Images[?Name!=`null`]|[?starts_with(Name, `amzn-ami-hvm-2018.03`) == `true`].[CreationDate,ImageId,Name]' --output text | sort -rk1

A tabela a seguir lista a versão do Oozie incluída na versão mais recente da série 7.x do Amazon EMR, além dos componentes que o Amazon EMR instala com o Oozie.

Para obter a versão dos componentes instalados com o Oozie nessa versão, consulte Release 7.10.0 Component Versions.

Informações de versão do Oozie para o emr-7.10.0
Rótulo de versão do Amazon EMR Versão do Oozie Componentes instalados com o Oozie

emr-7.10.0

Oozie 5.2.1

emrfs, emr-ddb, emr-goodies, emr-kinesis, emr-s3-dist-cp, hadoop-client, hadoop-mapred, hadoop-hdfs-datanode, hadoop-hdfs-library, hadoop-hdfs-namenode, hadoop-httpfs-server, hadoop-kms-server, hadoop-yarn-nodemanager, hadoop-yarn-resourcemanager, hadoop-yarn-timeline-server, oozie-client, oozie-server, tez-on-yarn, tez-on-worker

A tabela a seguir lista a versão do Oozie incluída na versão mais recente da série 6.x do Amazon EMR, além dos componentes que o Amazon EMR instala com o Oozie.

Para obter a versão dos componentes instalados com o Oozie nessa versão, consulte Release 6.15.0 Component Versions.

Informações de versão do Oozie para o emr-6.15.0
Rótulo de versão do Amazon EMR Versão do Oozie Componentes instalados com o Oozie

emr-6.15.0

Oozie 5.2.1

emrfs, emr-ddb, emr-goodies, emr-kinesis, emr-s3-dist-cp, hadoop-client, hadoop-mapred, hadoop-hdfs-datanode, hadoop-hdfs-library, hadoop-hdfs-namenode, hadoop-httpfs-server, hadoop-kms-server, hadoop-yarn-nodemanager, hadoop-yarn-resourcemanager, hadoop-yarn-timeline-server, oozie-client, oozie-server, tez-on-yarn, tez-on-worker

A tabela a seguir lista a versão do Oozie incluída na versão mais recente da série 5.x do Amazon EMR, além dos componentes que o Amazon EMR instala com o Oozie.

Para obter a versão dos componentes instalados com o Oozie nesse lançamento, consulte Release 5.36.2 Component Versions.

Informações de versão do Oozie para o emr-5.36.2
Rótulo de versão do Amazon EMR Versão do Oozie Componentes instalados com o Oozie

emr-5.36.2

Oozie 5.2.1

emrfs, emr-ddb, emr-goodies, emr-kinesis, emr-s3-dist-cp, hadoop-client, hadoop-mapred, hadoop-hdfs-datanode, hadoop-hdfs-library, hadoop-hdfs-namenode, hadoop-httpfs-server, hadoop-kms-server, hadoop-yarn-nodemanager, hadoop-yarn-resourcemanager, hadoop-yarn-timeline-server, oozie-client, oozie-server, tez-on-yarn