Prérequis Limitations Conditions Paramètres Prise en charge du type de données Partitions et déversements Performances Requêtes de transmission Informations de licence Ressources supplémentaires

Connecteur Amazon Athena pour Cloudera Impala

Le connecteur Amazon Athena pour Cloudera Impala permet à Athena d’exécuter des requêtes SQL sur la distribution Cloudera Impala. Le connecteur transforme vos requêtes Athena SQL en syntaxe Impala équivalente.

Ce connecteur n’utilise pas les connexions Glue pour centraliser les propriétés de configuration dans Glue. La configuration de la connexion s’effectue via Lambda.

Prérequis

Déployez le connecteur sur votre Compte AWS à l’aide de la console Athena ou du AWS Serverless Application Repository. Pour plus d’informations, consultez Création d’une connexion à une source de données ou Utilisation d’AWS Serverless Application Repository pour déployer un connecteur de source de données.
Avant d’utiliser ce connecteur, configurez un VPC et un groupe de sécurité. Pour plus d’informations, consultez Création d’un VPC pour un connecteur de source de données ou une connexion AWS Glue.

Limitations

Les opérations DDL d’écriture ne sont pas prises en charge.
Dans une configuration de multiplexeur, le compartiment de déversement et le préfixe sont partagés entre toutes les instances de base de données.
Toutes les limites Lambda pertinentes. Pour plus d'informations, consultez la section Quotas Lambda du Guide du développeur AWS Lambda.

Conditions

Les termes suivants se rapportent au connecteur Cloudera Impala.

Base de données – Toute instance de base de données déployée sur site, sur Amazon EC2 ou sur Amazon RDS.
Gestionnaire – Un gestionnaire Lambda qui accède à votre instance de base de données. Un gestionnaire peut être destiné aux métadonnées ou aux enregistrements de données.
Gestionnaire de métadonnées – Un gestionnaire Lambda qui extrait les métadonnées de votre instance de base de données.
Gestionnaire d’enregistrements – Un gestionnaire Lambda qui extrait les enregistrements de données de votre instance de base de données.
Gestionnaire de composites – Un gestionnaire Lambda qui extrait les métadonnées et les enregistrements de données de votre instance de base de données.
Propriété ou paramètre – Propriété de base de données utilisée par les gestionnaires pour extraire des informations de base de données. Vous configurez ces propriétés en tant que variables d’environnement Lambda.
Chaîne de connexion – Chaîne de texte utilisée pour établir une connexion à une instance de base de données.
Catalogue – Un catalogue non-AWS Glue enregistré auprès d’Athena qui est un préfixe obligatoire pour la propriété connection_string.
Gestionnaire de multiplexage – Un gestionnaire Lambda qui peut accepter et utiliser plusieurs connexions de base de données.

Paramètres

Utilisez les paramètres de cette section pour configurer le connecteur Cloudera Impala.

Nous vous recommandons de configurer un connecteur Cloudera Impala en utilisant un objet des connexions Glue. Pour ce faire, définissez la variable d’environnement glue_connection du connecteur Cloudera Impala Lambda sur le nom de la connexion Glue à utiliser.

Propriétés des connexions Glue

Utilisez la commande suivante afin d’obtenir le schéma d’un objet de connexion Glue. Ce schéma contient tous les paramètres que vous pouvez utiliser pour contrôler votre connexion.


aws glue describe-connection-type --connection-type CLOUDERAIMPALA

Propriétés d’environnement Lambda

glue_connection – Spécifie le nom de la connexion Glue associée au connecteur fédéré.
casing_mode – (Facultatif) Spécifie comment gérer la casse des noms de schéma et de table. Le paramètre casing_mode utilise les valeurs suivantes pour spécifier le comportement de la casse :
- none – Aucune modification de la casse dans les noms de schéma et de table indiqués. Il s’agit de la valeur par défaut pour les connecteurs auxquels une connexion Glue est associée.
- upper – Mise en majuscules de tous les noms de schéma et de table indiqués.
- lower – Mise en minuscules de tous les noms de schéma et de table indiqués.

Note

Tous les connecteurs qui utilisent des connexions Glue doivent utiliser AWS Secrets Manager pour stocker les informations d’identification.
Le connecteur Cloudera Impala créé à l’aide des connexions Glue ne prend pas en charge l’utilisation d’un gestionnaire de multiplexage.
Le connecteur Cloudera Impala créé à l’aide des connexions Glue prend uniquement en charge ConnectionSchemaVersion 2.

Chaîne de connexion

Utilisez une chaîne de connexion JDBC au format suivant pour vous connecter à un cluster Impala.


impala://${jdbc_connection_string}

Utilisation d'un gestionnaire de multiplexage

Vous pouvez utiliser un multiplexeur pour vous connecter à plusieurs instances de base de données à l’aide d’une seule fonction Lambda. Les demandes sont acheminées par nom de catalogue. Utilisez les classes suivantes dans Lambda.

Handler (Gestionnaire)	Classe
Gestionnaire de composites	`ImpalaMuxCompositeHandler`
Gestionnaire de métadonnées	`ImpalaMuxMetadataHandler`
Gestionnaire d’enregistrements	`ImpalaMuxRecordHandler`

Paramètres du gestionnaire de multiplexage

Paramètre	Description
`$catalog_connection_string`	Obligatoire. Chaîne de connexion à un cluster Impala pour un catalogue Athena. Préfixez la variable d'environnement avec le nom du catalogue utilisé dans Athena. Par exemple, si le catalogue enregistré auprès d’Athena est `myimpalacatalog`, le nom de la variable d’environnement est alors `myimpalacatalog_connection_string`.
`default`	Obligatoire. Chaîne de connexion par défaut. Cette chaîne est utilisée lorsque le catalogue est `lambda:${AWS_LAMBDA_FUNCTION_NAME}`.

Les exemples de propriétés suivants concernent une fonction Impala MUX Lambda qui prend en charge deux instances de base de données :impala1 (par défaut) et impala2.

Propriété	Valeur
`default`	`impala://jdbc:impala://some.impala.host.name:21050/?${Test/impala1}`
`impala_catalog1_connection_string`	`impala://jdbc:impala://someother.impala.host.name:21050/?${Test/impala1}`
`impala_catalog2_connection_string`	`impala://jdbc:impala://another.impala.host.name:21050/?UID=sample&PWD=sample`

Fourniture des informations d’identification

Pour fournir un nom d’utilisateur et un mot de passe pour votre base de données dans votre chaîne de connexion JDBC, vous pouvez utiliser les propriétés de la chaîne de connexion ou AWS Secrets Manager.

Chaîne de connexion – Un nom d'utilisateur et un mot de passe peuvent être spécifiés en tant que propriétés dans la chaîne de connexion JDBC.

Important
Afin de vous aider à optimiser la sécurité, n’utilisez pas d’informations d’identification codées en dur dans vos variables d’environnement ou vos chaînes de connexion. Pour plus d'informations sur le déplacement de vos secrets codés en dur vers AWS Secrets Manager, consultez Déplacer les secrets codés en dur vers AWS Secrets Manager dans le Guide de l'utilisateur AWS Secrets Manager.
AWS Secrets Manager – Pour utiliser la fonctionnalité de requête fédérée d'Athena avec AWS Secrets Manager, le VPC connecté à votre fonction Lambda doit avoir un accès internet ou un point de terminaison de VPC pour vous connecter à Secrets Manager.

Vous pouvez mettre le nom d’un secret dans AWS Secrets Manager dans votre chaîne de connexion JDBC. Le connecteur remplace le nom secret par les valeurs username et password de Secrets Manager.

Pour les instances de base de données Amazon RDS, cette prise en charge est étroitement intégrée. Si vous utilisez Amazon RDS, nous recommandons vivement d’utiliser AWS Secrets Manager et la rotation des informations d’identification. Si votre base de données n’utilise pas Amazon RDS, stockez les informations d’identification au format JSON au format suivant :
```
{"username": "${username}", "password": "${password}"}
```

Exemple de chaîne de connexion avec un nom secret

La chaîne suivante porte le nom secret ${Test/impala1host}.


impala://jdbc:impala://Impala1host:21050/?...&${Test/impala1host}&...

Le connecteur utilise le nom secret pour récupérer les secrets et fournir le nom d’utilisateur et le mot de passe, comme dans l’exemple suivant.


impala://jdbc:impala://Impala1host:21050/?...&UID=sample2&PWD=sample2&...

Actuellement, Cloudera Impala reconnaît les propriétés JDBC UID et PWD.

Utilisation d’un gestionnaire de connexion unique

Vous pouvez utiliser les métadonnées de connexion unique et les gestionnaires d’enregistrements suivants pour vous connecter à une seule instance Cloudera Impala.

Type de gestionnaire	Classe
Gestionnaire de composites	`ImpalaCompositeHandler`
Gestionnaire de métadonnées	`ImpalaMetadataHandler`
Gestionnaire d’enregistrements	`ImpalaRecordHandler`

Paramètres du gestionnaire de connexion unique

Paramètre	Description
`default`	Obligatoire. Chaîne de connexion par défaut.

Les gestionnaires de connexion unique prennent en charge une instance de base de données et doivent fournir un paramètre de connexion default. Toutes les autres chaînes de connexion sont ignorées.

L’exemple de propriété suivant concerne une instance Cloudera Impala unique prise en charge par une fonction Lambda.

Propriété	Valeur
`default`	`impala://jdbc:impala://Impala1host:21050/?secret=${Test/impala1host}`

Paramètres de déversement

Le kit SDK Lambda peut déverser des données vers Amazon S3. Toutes les instances de base de données accessibles par la même fonction Lambda déversent au même emplacement.

Paramètre	Description
`spill_bucket`	Obligatoire. Nom du compartiment de déversement.
`spill_prefix`	Obligatoire. Préfixe de la clé du compartiment de déversement.
`spill_put_request_headers`	(Facultatif) Une carte codée au format JSON des en-têtes et des valeurs des demandes pour la demande `putObject` Amazon S3 utilisée pour le déversement (par exemple, `{"x-amz-server-side-encryption" : "AES256"}`). Pour les autres en-têtes possibles, consultez PutObject dans la Référence d'API Amazon Simple Storage Service.

Prise en charge du type de données

Le tableau suivant indique les types de données correspondants pour JDBC, Cloudera Impala et Arrow.

JDBC	Cloudera Impala	Flèche
Booléen	Booléen	Bit
Entier	TINYINT	Tiny
Court	SMALLINT	Smallint
Entier	INT	Int
Long	BIGINT	Bigint
float	float4	Float4
Double	float8	Float8
Date	date	DateDay
Horodatage	timestamp	DateMilli
Chaîne	VARCHAR	Varchar
Octets	octets	Varbinary
BigDecimal	Décimal	Décimal
ARRAY	N/A (voir la remarque)	Liste

Note

Actuellement, Cloudera Impala ne prend pas en charge les types d’agrégats ARRAY, MAP, STRUCT ou UNIONTYPE. Les colonnes de types d'agrégats sont traitées comme des colonnes VARCHAR dans SQL.

Partitions et déversements

Les partitions sont utilisées pour déterminer comment générer des divisions pour le connecteur. Athena construit une colonne synthétique de type varchar qui représente le schéma de partitionnement de la table afin d’aider le connecteur à générer des divisions. Le connecteur ne modifie pas la définition réelle de la table.

Performances

Cloudera Impala prend en charge les partitions statiques. Le connecteur Athena Cloudera Impala peut récupérer les données de ces partitions en parallèle. Si vous souhaitez interroger des jeux de données très volumineux avec une distribution de partition uniforme, le partitionnement statique est fortement recommandé. Le connecteur Cloudera Impala résiste à la limitation due à la simultanéité.

Le connecteur Athena Cloudera Impala effectue une poussée vers le bas des prédicats pour réduire les données analysées par la requête. Les clauses LIMIT, les prédicats simples et les expressions complexes sont poussés vers le connecteur afin de réduire la quantité de données analysées et le délai d'exécution des requêtes.

Clauses LIMIT

Une instruction LIMIT N réduit les données analysées par la requête. Grâce à la poussée vers le bas LIMIT N, le connecteur renvoie uniquement des lignes N à Athena.

Prédicats

Un prédicat est une expression contenue dans la clause WHERE d'une requête SQL qui prend une valeur booléenne et filtre les lignes en fonction de plusieurs conditions. Le connecteur Athena Cloudera Impala peut combiner ces expressions et les pousser directement vers Cloudera Impala pour améliorer la fonctionnalité et réduire la quantité de données analysées.

Les opérateurs du connecteur Athena Cloudera Impala suivants prennent en charge la poussée vers le bas de prédicats :

Booléen : AND, OR, NOT
Égalité : EQUAL, NOT_EQUAL, LESS_THAN, LESS_THAN_OR_EQUAL, GREATER_THAN, GREATER_THAN_OR_EQUAL, IS_DISTINCT_FROM, NULL_IF, IS_NULL
Arithmétique : ADD, SUBTRACT, MULTIPLY, DIVIDE, MODULUS, NEGATE
Autres : LIKE_PATTERN, IN

Exemple de poussée combinée vers le bas

Pour améliorer les capacités de requête, combinez les types de poussée vers le bas, comme dans l'exemple suivant :


SELECT * 
FROM my_table 
WHERE col_a > 10 
    AND ((col_a + col_b) > (col_c % col_d))
    AND (col_e IN ('val1', 'val2', 'val3') OR col_f LIKE '%pattern%') 
LIMIT 10;

Requêtes de transmission

Le connecteur Cloudera Impala prend en charge les requêtes de transmission. Les requêtes de transmission utilisent une fonction de table pour transmettre votre requête complète à la source de données à des fins d’exécution.

Pour utiliser les requêtes de transmission avec Cloudera Impala, vous pouvez utiliser la syntaxe suivante :


SELECT * FROM TABLE(
        system.query(
            query => 'query string'
        ))

L’exemple de requête suivant transmet une requête à une source de données dans Cloudera Impala. La requête sélectionne toutes les colonnes dans la table customer, en limitant les résultats à 10.


SELECT * FROM TABLE(
        system.query(
            query => 'SELECT * FROM customer LIMIT 10'
        ))

Informations de licence

En utilisant ce connecteur, vous reconnaissez l'inclusion de composants tiers, dont la liste se trouve dans le fichier pom.xml pour ce connecteur, et vous acceptez les conditions des licences tierces respectives fournis dans le fichier LICENSE.txt sur GitHub.com.

Ressources supplémentaires

Pour obtenir les dernières informations sur la version du pilote JDBC, veuillez consulter le fichier pom.xml pour le connecteur Cloudera Impala sur GitHub.com.

Pour de plus amples informations sur ce connecteur, veuillez consulter le site correspondant sur GitHub.com.

Avertissement JavaScript est désactivé ou n'est pas disponible dans votre navigateur.

Pour que vous puissiez utiliser la documentation AWS, Javascript doit être activé. Vous trouverez des instructions sur les pages d'aide de votre navigateur.

Conventions de rédaction

Cloudera Hive

CloudWatch

Connecteur Amazon Athena pour Cloudera Impala

Prérequis

Limitations

Conditions

Paramètres

Note

Chaîne de connexion

Utilisation d'un gestionnaire de multiplexage

Paramètres du gestionnaire de multiplexage

Fourniture des informations d’identification

Important

Exemple de chaîne de connexion avec un nom secret

Utilisation d’un gestionnaire de connexion unique

Paramètres du gestionnaire de connexion unique

Paramètres de déversement

Prise en charge du type de données

Note

Partitions et déversements

Performances

Clauses LIMIT

Prédicats

Exemple de poussée combinée vers le bas

Requêtes de transmission

Informations de licence

Ressources supplémentaires