Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.
OpenX JSON SerDe
Wie Hive JSON können Sie OpenX JSON verwenden SerDe, um JSON-Daten zu verarbeiten. Die Daten werden auch als einzeilige Zeichenfolgen aus JSON-codiertem Text dargestellt, die durch eine neue Zeile getrennt sind. Wie der Hive-JSON SerDe erlaubt der OpenX-JSON SerDe keine doppelten Schlüssel map oder struct Schlüsselnamen.
Überlegungen und Einschränkungen
-
Bei Verwendung von OpenX JSON SerDe können die Anzahl der Ergebnisse und ihre Werte nicht deterministisch sein. Die Ergebnisse können mehr Zeilen als erwartet, weniger Zeilen als erwartet oder unerwartete Nullwerte enthalten, wenn in den zugrunde liegenden Daten keine vorhanden sind. Um dieses Problem zu umgehen, verwenden Sie den Bienenstock JSON SerDe oder schreiben Sie die Daten in ein anderes Dateiformat um.
-
Das SerDe erwartet, dass sich jedes JSON-Dokument in einer einzigen Textzeile befindet, ohne dass die Felder im Datensatz durch Zeilenabschlusszeichen voneinander getrennt werden. Wenn der JSON-Text ein hübsches Druckformat hat, erhalten Sie möglicherweise eine Fehlermeldung wie
HIVE_CURSOR_ERROR: Row is not a valid JSON Object oder HIVE_CURSOR_ERROR:: Unerwartet JsonParseException end-of-input: erwarteter Schließpunkt für OBJECT, wenn Sie versuchen, die Tabelle nach ihrer Erstellung abzufragen.Weitere Informationen finden Sie unter JSON-Datendateien
in der SerDe OpenX-Dokumentation unter GitHub.
Optionale Eigenschaften
Im Gegensatz zum Hive-JSON SerDe verfügt das OpenX-JSON SerDe auch über die folgenden optionalen SerDe Eigenschaften, die nützlich sein können, um Inkonsistenzen in Daten zu beheben.
- Verwenden Sie.null.for.invalid.data
-
Optional. Der Standardwert ist
FALSE. Wenn auf gesetzt, werden Spaltenwerte SerDe verwendetTRUENULL, deren Deserialisierung in den im Tabellenschema definierten Spaltentyp fehlgeschlagen ist.Wichtig
Die Einstellung
use.null.for.invalid.dataaufTRUEkann zu falschen oder unerwarteten Ergebnissen führen, daNULLWerte ungültige Daten in Spalten durch Schemakonflikte ersetzen. Wir empfehlen, dass Sie die Daten in Ihren Dateien oder Ihrem Tabellenschema korrigieren, anstatt diese Eigenschaft zu aktivieren. Wenn Sie diese Eigenschaft aktivieren, schlagen Abfragen bei ungültigen Daten nicht fehl, sodass Sie möglicherweise Probleme mit der Datenqualität nicht entdecken können. - ignore.malformed.json
-
Optional. Bei Festlegung auf
TRUEkönnen Sie eine fehlerhafte JSON-Syntax überspringen. Der Standardwert istFALSE. - dots.in.keys
-
Optional. Der Standardwert ist
FALSE. Wenn diese Option auf gesetzt istTRUE, können SerDe die Punkte in Schlüsselnamen durch Unterstriche ersetzt werden. Wenn der JSON-Datensatz beispielsweise einen Schlüssel mit dem Namen"a.b"enthält, können Sie diese Eigenschaft verwenden, um den Spaltennamen als"a_b"in Athena zu definieren. Standardmäßig (ohne dies SerDe) erlaubt Athena keine Punkte in Spaltennamen. - case.insensitive
-
Optional. Der Standardwert ist
TRUE. Wenn diese Option auf gesetzt istTRUE, werden alle großgeschriebenen Spalten in Kleinbuchstaben SerDe umgewandelt.Verwenden Sie zur Nutzung von Schlüsselnamen unter Beachtung der Groß-/Kleinschreibung in Ihren Daten
WITH SERDEPROPERTIES ("case.insensitive"= FALSE;). Geben Sie dann für jeden Schlüssel, der nicht bereits vollständig aus Kleinbuchstaben besteht, ein Mapping vom Spaltennamen zum Eigenschaftsnamen mit der folgenden Syntax an:ROW FORMAT SERDE 'org.openx.data.jsonserde.JsonSerDe' WITH SERDEPROPERTIES ("case.insensitive" = "FALSE", "mapping.userid" = "userId")Wenn Sie zwei Schlüssel wie
URLundUrlhaben die gleich sind, wenn sie aus Kleinbuchstaben bestehen, kann ein Fehler wie der folgende auftreten:HIVE_CURSOR_ERROR: Zeile ist kein gültiges JSON-Objekt -: Doppelter Schlüssel „url“ JSONExceptionUm dies zu beheben, setzen Sie die
case.insensitive-Eigenschaft aufFALSEund ordnen Sie die Schlüssel verschiedenen Namen zu, wie im folgenden Beispiel gezeigt:ROW FORMAT SERDE 'org.openx.data.jsonserde.JsonSerDe' WITH SERDEPROPERTIES ("case.insensitive" = "FALSE", "mapping.url1" = "URL", "mapping.url2" = "Url") - Mapping
-
Optional. Ordnet Spaltennamen zu JSON-Schlüsseln zu, die nicht mit den Spaltennamen identisch sind. Der
mapping-Parameter ist nützlich, wenn die JSON-Daten Schlüssel enthalten, die Schlüsselwörter sind. Wenn Sie beispielsweise einen JSON-Schlüssel mit dem Namentimestamphaben, verwenden Sie die folgende Syntax, um den Schlüssel einer Spalte mit dem Namentszuzuordnen:ROW FORMAT SERDE 'org.openx.data.jsonserde.JsonSerDe' WITH SERDEPROPERTIES ("mapping.ts" = "timestamp")Zuordnung verschachtelter Feldnamen mit Doppelpunkten zu Hive-kompatiblen Namen
Wenn Sie über einen Feldnamen mit Doppelpunkten innerhalb eines
structverfügen, können Sie diemapping-Eigenschaft verwenden, um das Feld einem Hive-kompatiblen Namen zuzuordnen. Wenn Ihre Spaltentypdefinitionen beispielsweisemy:struct:field:stringenthalten, können Sie die Definitionmy_struct_field:stringzuordnen, indem Sie den folgenden Eintrag inWITH SERDEPROPERTIESeinfügen:("mapping.my_struct_field" = "my:struct:field")Im folgenden Beispiel wird die zugehörige
CREATE TABLE-Anweisung gezeigt.CREATE EXTERNAL TABLE colon_nested_field ( item struct<my_struct_field:string>) ROW FORMAT SERDE 'org.openx.data.jsonserde.JsonSerDe' WITH SERDEPROPERTIES ("mapping.my_struct_field" = "my:struct:field")
Beispiel: Werbedaten
In der folgenden DDL-Beispielanweisung wird OpenX JSON verwendet SerDe , um eine Tabelle zu erstellen, die auf denselben Beispieldaten für Online-Werbung basiert, die im Beispiel für Hive JSON verwendet wurden. SerDe Ersetzen Sie in der LOCATION Klausel myregion durch die Regionskennung, in der Sie Athena ausführen.
CREATE EXTERNAL TABLE impressions ( requestbegintime string, adid string, impressionId string, referrer string, useragent string, usercookie string, ip string, number string, processid string, browsercokie string, requestendtime string, timers struct< modellookup:string, requesttime:string>, threadid string, hostname string, sessionid string ) PARTITIONED BY (dt string) ROW FORMAT SERDE 'org.openx.data.jsonserde.JsonSerDe' LOCATION 's3://amzn-s3-demo-bucket.elasticmapreduce/samples/hive-ads/tables/impressions';
Beispiel: Deserialisierung von verschachteltem JSON
Sie können das JSON verwenden, SerDes um komplexere JSON-kodierte Daten zu analysieren. Dies erfordert die Verwendung von CREATE TABLE-Anweisungen, die struct- und array- Elemente verwenden, um verschachtelte Strukturen darzustellen.
Im folgenden Beispiel wird eine Athena-Tabelle aus JSON-Daten mit verschachtelten Strukturen erstellt. Das Beispiel hat die folgende Struktur:
{
"DocId": "AWS",
"User": {
"Id": 1234,
"Username": "carlos_salazar",
"Name": "Carlos",
"ShippingAddress": {
"Address1": "123 Main St.",
"Address2": null,
"City": "Anytown",
"State": "CA"
},
"Orders": [
{
"ItemId": 6789,
"OrderDate": "11/11/2022"
},
{
"ItemId": 4352,
"OrderDate": "12/12/2022"
}
]
}
}
Denken Sie daran, dass OpenX SerDe erwartet, dass sich jeder JSON-Datensatz in einer einzigen Textzeile befindet. Wenn sie in Amazon S3 gespeichert sind, sollten sich alle Daten im vorherigen Beispiel in einer einzigen Zeile befinden, etwa so:
{"DocId":"AWS","User":{"Id":1234,"Username":"carlos_salazar","Name":"Carlos","ShippingAddress" ...
In der folgenden CREATE TABLE Anweisung werden die Datentypen Openx- JsonSerDestruct und array collection verwendet, um Objektgruppen für die Beispieldaten zu erstellen.
CREATE external TABLE complex_json ( docid string, `user` struct< id:INT, username:string, name:string, shippingaddress:struct< address1:string, address2:string, city:string, state:string >, orders:array< struct< itemid:INT, orderdate:string > > > ) ROW FORMAT SERDE 'org.openx.data.jsonserde.JsonSerDe' LOCATION 's3://amzn-s3-demo-bucket/myjsondata/';
Verwenden Sie eine SELECT Anweisung wie die folgende, um die Tabelle abzufragen.
SELECT user.name as Name, user.shippingaddress.address1 as Address, user.shippingaddress.city as City, o.itemid as Item_ID, o.orderdate as Order_date FROM complex_json, UNNEST(user.orders) as temp_table (o)
Um auf die Datenfelder innerhalb von Strukturen zuzugreifen, verwendet die Beispielabfrage die Punktnotation (z. B.user.name). Um auf Daten innerhalb eines Arrays von Strukturen zuzugreifen (wie beim orders Feld), können Sie die UNNEST Funktion verwenden. Die UNNEST Funktion reduziert das Array in eine temporäre Tabelle (in diesem Fall aufgerufen). o Auf diese Weise können Sie die Punktnotation wie bei Strukturen verwenden, um auf die nicht verschachtelten Array-Elemente zuzugreifen (z. B.). o.itemid Der Nametemp_table, der im Beispiel zur Veranschaulichung verwendet wird, wird häufig als abgekürzt. t
Die folgende Tabelle zeigt die Abfrageergebnisse.
| # | Name | Adresse | Ort | Item_ID | Datum der Bestellung |
|---|---|---|---|---|---|
| 1 | Carlos | 123 Hauptstr. | Anytown | 6789 | 11.11.2022 |
| 2 | Carlos | 123 Hauptstr. | Anytown | 4352 | 12.12.2022 |