Erros de controle de utilização com um cluster do Amazon EMR - Amazon EMR

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Erros de controle de utilização com um cluster do Amazon EMR

Os erros “Limitado Amazon EC2 ao iniciar o cluster” e “Falha ao provisionar instâncias devido à limitação de” Amazon EC2 ocorrem quando o Amazon EMR não consegue concluir uma solicitação porque outro serviço limitou a atividade. O Amazon EC2 é a origem mais comum de erros de controle de utilização, mas outros serviços podem ocasionar esses erros. Os limites de serviço da AWS se aplicam por região para melhorar a performance, e um erro de controle de utilização indica que você excedeu o limite de serviço da conta naquela região.

Possíveis causas

A origem mais comum de erros de controle de utilização do Amazon EC2 é um grande número de instâncias do cluster sendo iniciadas, de modo que o limite de serviço para instâncias do EC2 é excedido. As instâncias do cluster podem ser executadas pelos seguintes motivos:

Também é possível que a frequência ou tipo de solicitação de API sendo feita ao Amazon EC2 cause erros de controle de utilização. Para obter mais informações sobre como o Amazon EC2 limita solicitações de API, consulte Query API request rate na Amazon EC2 API Reference.

Soluções

Considere as seguintes soluções:

  • Siga as instruções descritas em AWS service quotas no Referência geral da Amazon Web Services para solicitar um aumento do limite de serviço. Para alguns APIs, organizar um CloudWatch evento pode ser uma opção melhor do que aumentar os limites. Consulte mais detalhes em Quando configurar eventos do EMR em CloudWatch.

  • Se você tiver clusters são executados no mesmo agendamento (por exemplo, no começo da hora) considere intercalar os horários de início.

  • Se tiver clusters que são dimensionados para picos de demanda, e você periodicamente tiver capacidade de instância, considere especificar a escalabilidade automática para adicionar e remover instâncias sob demanda. Dessa forma, as instâncias serão usadas de forma mais eficiente e, dependendo do perfil de demanda, menos instâncias poderão ser solicitadas em um determinado momento em uma conta. Para obter mais informações, consulte Uso do ajuste de escala automático com uma política personalizada para grupos de instâncias no Amazon EMR.