Trabalhar com as consultas diretas do Amazon OpenSearch Service - Amazon OpenSearch Service

Trabalhar com as consultas diretas do Amazon OpenSearch Service

Use a consulta direta do Amazon OpenSearch Service para analisar dados no Amazon CloudWatch Logs, no Amazon S3 e no Amazon Security Lake sem criar pipelines de ingestão. Essa Integração ETL zero permite que você consulte dados no local usando o OpenSearch SQL ou PPL e explore-os no Discover.

Para começar, configure a fonte de dados no console do OpenSearch Service. No Amazon S3, use conexões de domínio e crie tabelas com SQL no Query Workbench. O CloudWatch Logs e o Security Lake usam fontes e tabelas do AWS Glue Data Catalog pré-configuradas.

Cotas de consultas diretas

Sua conta tem as seguintes cotas relativas às consultas diretas do OpenSearch Service.

Cotas para o Amazon S3

Toda vez que você inicia uma consulta a uma fonte de dados do Amazon S3, o OpenSearch Service abre uma sessão e a mantém ativa por, pelo menos, três minutos. Isso reduz a latência da consulta, eliminando o tempo gasto para iniciar a sessão nas consultas subsequentes.

Descrição Máximo Pode substituir
Conexões por domínio 10 Sim
Fontes de dados por domínio 20 Sim
Índices por domínio 5 Sim
Sessões simultâneas por fonte de dados 10 Sim
Máximo de OCU por consulta 60 Sim
Tempo máximo de execução da consulta (minutos) 30 Sim
Máximo de OCUs por aceleração 20 Sim
Armazenamento temporário máximo 20 Sim

Cotas para o CloudWatch Logs

nota

Se você pretender realizar consultas diretas usando o CloudWatch Logs Insights, certifique-se de consultar Informações adicionais para usuários do CloudWatch Logs Insights usando o OpenSearch SQL.

Descrição Valor Limite flexível? Observações
Limite de TPS no nível da conta em APIs de consulta direta 3 TPS Sim
Número máximo de fontes de dados 20 Sim O limite é por Conta da AWS.
Máximo de índices ou visões materializadas com atualização automática 30 Sim O limite é por fonte de dados.
Máximo de consultas simultâneas 15 Sim

O limite se aplica a consultas em estado pendente ou em execução.

Inclui consultas interativas (por exemplo, comandos de recuperação de dados como SELECT) e consultas de índice (por exemplo, operações como CREATE/ALTER/DROP).

Máximo de OCUs simultâneas por consulta 512 Sim

Unidades de computação do OpenSearch (OCU). Limite baseado em 15 executores e 1 driver, cada um com 16 vCPU e 32 GB de memória. Representa o poder de processamento simultâneo.

Tempo máximo de execução de consulta em minutos 60 Não O limite se aplica a consultas PPL/SQL do OpenSearch no CloudWatch Logs Insights.
Período de limpeza de IDs de consulta obsoletos 90 dias Sim Esse é o período após o qual o OpenSearch Service limpa os metadados de consultas nas entradas mais antigas. Por exemplo, chamar GetDirectQuery ou GetDirectQueryResult não funciona para consultas com mais de 90 dias.

Cotas para o Security Lake

Descrição Valor Limite flexível? Observações
Limite de TPS no nível da conta em APIs de consulta direta 3 TPS Sim
Número máximo de fontes de dados 20 Sim O limite é por Conta da AWS.
Máximo de índices ou visões materializadas com atualização automática 30 Sim

O limite se aplica por fonte de dados.

Inclui somente índices e visões materializadas (MVs) com atualização automática definida como verdadeiro.

Máximo de consultas simultâneas 30 Sim

O limite se aplica a consultas em estado pendente ou em execução.

Inclui consultas interativas (por exemplo, comandos de recuperação de dados como SELECT) e consultas de índice (por exemplo, operações como CREATE/ALTER/DROP).

Máximo de OCUs simultâneas por consulta 512 Sim

Unidades de computação do OpenSearch (OCU). Limite baseado em 15 executores e 1 driver, cada um com 16 vCPU e 32 GB de memória. Representa o poder de processamento simultâneo.

Tempo máximo de execução de consulta em minutos 30 Não Aplica-se somente a consultas interativas (por exemplo, comandos de recuperação de dados como SELECT). Para consultas REFRESH, o limite são 6 horas.
Período de limpeza de IDs de consulta obsoletos 90 dias Sim

Esse é o período após o qual o OpenSearch Service limpa os metadados de consultas nas entradas mais antigas. Por exemplo, chamar GetDirectQuery ou GetDirectQueryResult não funciona para consultas com mais de 90 dias.

Compatível com Regiões da AWS

As seguintes Regiões da AWS são compatíveis com consultas diretas do OpenSearch Service no Amazon S3, no CloudWatch Logs e no Security Lake:

Regiões da AWS disponíveis para o Amazon S3

  • Ásia-Pacífico (Hong Kong)

  • Ásia-Pacífico (Mumbai)

  • Ásia-Pacífico (Seul)

  • Ásia-Pacífico (Singapura)

  • Ásia-Pacífico (Sydney)

  • Ásia-Pacífico (Tóquio)

  • Canadá (Central)

  • Europa (Frankfurt)

  • Europa (Irlanda)

  • Europa (Estocolmo)

  • Leste dos EUA (Norte da Virgínia)

  • Leste dos EUA (Ohio)

  • Oeste dos EUA (Oregon)

Regiões da AWS disponíveis para o CloudWatch Logs

  • Ásia-Pacífico (Mumbai)

  • Ásia-Pacífico (Hong Kong)

  • Ásia-Pacífico (Singapura)

  • Ásia-Pacífico (Sydney)

  • Ásia-Pacífico (Tóquio)

  • Canadá (Central)

  • Europa (Frankfurt)

  • Europa (Irlanda)

  • Europa (Estocolmo)

  • Leste dos EUA (Norte da Virgínia)

  • Leste dos EUA (Ohio)

  • Oeste dos EUA (Oregon)

  • Europa (Paris)

  • Europa (Londres)

  • América do Sul (São Paulo)

Regiões da AWS disponíveis para o Security Lake

  • Ásia-Pacífico (Mumbai)

  • Ásia-Pacífico (Singapura)

  • Ásia-Pacífico (Sydney)

  • Ásia-Pacífico (Tóquio)

  • Canadá (Central)

  • Europa (Frankfurt)

  • Europa (Irlanda)

  • Europa (Estocolmo)

  • Leste dos EUA (Norte da Virgínia)

  • Leste dos EUA (Ohio)

  • Oeste dos EUA (Oregon)

  • Europa (Paris)

  • Europa (Londres)

  • América do Sul (São Paulo)