Agentes Express do Amazon MSK - Amazon Managed Streaming for Apache Kafka

Agentes Express do Amazon MSK

Os agentes Express do MSK Provisioned tornam o Apache Kafka mais simples de gerenciar, mais econômico para executar em grande escala e mais elástico graças à baixa latência que você espera. Os agentes incluem armazenamento com pagamento conforme o uso, que se expande automaticamente e não requer dimensionamento, provisionamento ou monitoramento proativo. Dependendo do tamanho da instância selecionada, cada nó do agente pode fornecer até 3 vezes mais throughput por agente, escalar até 20 vezes mais rápido e se recuperar 90% mais rápido em comparação com os agentes Standard do Apache Kafka. Os agentes Express são pré-configurados com os padrões de melhores práticas do Amazon MSK e impõem cotas de throughput do cliente para minimizar a contenção de recursos entre os clientes e as operações em segundo plano do Kafka.

Aqui estão alguns dos principais fatores e recursos a serem considerados ao usar agentes Express.

  • Sem gerenciamento de armazenamento: os agentes Express eliminam a necessidade de provisionar ou gerenciar recursos de armazenamento. Você obtém armazenamento elástico, praticamente ilimitado e totalmente gerenciado com pagamento conforme o uso. Para casos de uso de throughput alto, você não precisa considerar as interações entre instâncias de computação, volumes de armazenamento nem sobre os gargalos de throughput associados. Esses recursos simplificam o gerenciamento de clusters e eliminam a sobrecarga operacional do gerenciamento de armazenamento.

  • Escalonamento mais rápido: os agentes Express permitem escalar clusters e mova partições até 20 vezes mais rápido do que os agentes Standard. Esse recurso é crucial quando você precisa aumentar a escala horizontalmente de seu cluster para lidar com picos de carga futuros ou reduzir a escala de seu cluster para diminuir os custos. Consulte as seções sobre como expandir seu cluster, remover agentes, reatribuir partições e configurar o Cruise Control do LinkedIn para rebalanceamento para obter mais detalhes sobre como escalar seu cluster.

  • Maior throughput: os agentes Express oferecem até 3 vezes mais throughput por agente do que os agentes Standard. Por exemplo, você pode gravar dados com segurança em até 500 MBps com cada agente Express de tamanho m7g.16xlarge em comparação com 153,8 MBps no agente Standard equivalente (ambos os números pressupõem alocação de largura de banda suficiente para operações em segundo plano, como replicação e rebalanceamento).

  • Configurado para alta resiliência: os agentes Express oferecem automaticamente várias melhores práticas para melhorar a resiliência do seu cluster. Isso inclui barreiras em configurações críticas do Apache Kafka, cotas de throughput e reservas de capacidade para operações em segundo plano e manutenção não planejada. Esses recursos tornam mais seguro e fácil executar aplicações do Apache Kafka em grande escala. Confira mais detalhes nas seções Configurações do agente Express e Cota de agentes Express do Amazon MSK.

  • Sem janelas de manutenção: agentes Express não precisam de janelas de manutenção. O Amazon MSK atualiza contínua e automaticamente o hardware do seu cluster. Consulte Aplicação de patches para agentes Express para obter mais detalhes.

Informações adicionais sobre agentes Express

  • Os agentes Express trabalham com as APIs do Apache Kafka, mas ainda não oferecem suporte total à API KStreams.

  • Os agentes Express só estão disponíveis em uma configuração 3AZs.

  • Os agentes Express só estão disponíveis em determinados tamanhos de instância. Consulte os preços do Amazon MSK para ver a lista atualizada.

  • Os agentes Express são compatíveis com as versões 3.6 e 3.8 do Apache Kafka.

Confira esses blogs

Para obter mais informações sobre os agentes MSK Express e ver um exemplo real de agentes Express em uso, leia os seguintes blogs: