Konektor Amazon Athena Microsoft SQL Server - Amazon Athena

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Konektor Amazon Athena Microsoft SQL Server

Konektor Amazon Athena untuk Microsoft SQL Server memungkinkan Amazon Athena menjalankan kueri SQL pada data Anda yang disimpan di Microsoft SQL Server menggunakan JDBC.

Konektor ini dapat didaftarkan dengan Glue Data Catalog sebagai katalog federasi. Ini mendukung kontrol akses data yang didefinisikan dalam Lake Formation di katalog, database, tabel, kolom, baris, dan tingkat tag. Konektor ini menggunakan Glue Connections untuk memusatkan properti konfigurasi di Glue.

Prasyarat

Batasan

  • Menulis operasi DDL tidak didukung.

  • Dalam pengaturan multiplexer, bucket tumpahan dan awalan dibagikan di semua instance database.

  • Batas Lambda yang relevan. Untuk informasi selengkapnya, lihat Kuota Lambda dalam Panduan Pengembang AWS Lambda .

  • Dalam kondisi filter, Anda harus mentransmisikan tipe Date dan Timestamp data ke tipe data yang sesuai.

  • Untuk mencari nilai negatif dari jenis Real danFloat, gunakan >= operator <= atau.

  • Tipe rowversion data binary varbinaryimage,, dan tidak didukung.

Ketentuan

Istilah berikut berhubungan dengan konektor SQL Server.

  • Instance Database — Instance apa pun dari database yang digunakan di tempat, di Amazon EC2, atau di Amazon RDS.

  • Handler - Handler Lambda yang mengakses instance database Anda. Handler bisa untuk metadata atau untuk catatan data.

  • Metadata handler — Penangan Lambda yang mengambil metadata dari instance database Anda.

  • Record handler - Handler Lambda yang mengambil catatan data dari instance database Anda.

  • Composite handler — Handler Lambda yang mengambil data metadata dan data dari instance database Anda.

  • Properti atau parameter - Properti database yang digunakan oleh penangan untuk mengekstrak informasi database. Anda mengonfigurasi properti ini sebagai variabel lingkungan Lambda.

  • Connection String — Sebuah string teks yang digunakan untuk membuat koneksi ke instance database.

  • Katalog —AWS Glue Non-katalog yang terdaftar di Athena yang merupakan awalan yang diperlukan untuk properti. connection_string

  • Multiplexing handler - Handler Lambda yang dapat menerima dan menggunakan beberapa koneksi database.

Parameter

Gunakan parameter di bagian ini untuk mengkonfigurasi konektor SQL Server.

catatan

Konektor sumber data Athena dibuat pada 3 Desember 2024 dan kemudian menggunakan koneksi. AWS Glue

Nama parameter dan definisi yang tercantum di bawah ini adalah untuk konektor sumber data Athena yang dibuat sebelum 3 Desember 2024. Ini dapat berbeda dari properti AWS Glue koneksi yang sesuai. Mulai 3 Desember 2024, gunakan parameter di bawah ini hanya jika Anda menggunakan konektor sumber data Athena versi sebelumnya secara manual.

Kami menyarankan Anda mengkonfigurasi konektor SQL Server dengan menggunakan objek koneksi Glue. Untuk melakukan ini, atur variabel glue_connection lingkungan dari konektor SQL Server Lambda ke nama koneksi Glue yang akan digunakan.

Properti koneksi lem

Gunakan perintah berikut untuk mendapatkan skema untuk objek koneksi Glue. Skema ini berisi semua parameter yang dapat Anda gunakan untuk mengontrol koneksi Anda.

aws glue describe-connection-type --connection-type SQLSERVER

Properti lingkungan Lambda

  • glue_connection - Menentukan nama koneksi Glue yang terkait dengan konektor federasi.

  • casing_mode - (Opsional) Menentukan bagaimana menangani casing untuk skema dan nama tabel. casing_modeParameter menggunakan nilai-nilai berikut untuk menentukan perilaku casing:

    • none — Jangan mengubah kasus skema dan nama tabel yang diberikan. Ini adalah default untuk konektor yang memiliki koneksi lem terkait.

    • atas — huruf besar semua skema yang diberikan dan nama tabel.

    • lower — huruf kecil semua skema dan nama tabel yang diberikan.

catatan
  • Semua konektor yang menggunakan koneksi Glue harus digunakan AWS Secrets Manager untuk menyimpan kredensil.

  • Konektor SQL Server yang dibuat menggunakan koneksi Glue tidak mendukung penggunaan handler multiplexing.

  • Konektor SQL Server yang dibuat menggunakan koneksi Glue hanya mendukung ConnectionSchemaVersion 2.

String koneksi

Gunakan string koneksi JDBC dalam format berikut untuk terhubung ke instance database.

sqlserver://${jdbc_connection_string}

Menggunakan handler multiplexing

Anda dapat menggunakan multiplexer untuk terhubung ke beberapa instance database dengan satu fungsi Lambda. Permintaan dirutekan dengan nama katalog. Gunakan kelas berikut di Lambda.

Handler Kelas
Handler komposit SqlServerMuxCompositeHandler
Penangan metadata SqlServerMuxMetadataHandler
Rekam handler SqlServerMuxRecordHandler
Parameter handler multiplexing
Parameter Deskripsi
$catalog_connection_string Wajib. Sebuah string koneksi instance database. Awalan variabel lingkungan dengan nama katalog yang digunakan di Athena. Misalnya, jika katalog terdaftar di Athena adalahmysqlservercatalog, maka nama variabel lingkungan adalah. mysqlservercatalog_connection_string
default Wajib. String koneksi default. String ini digunakan saat katalognya lambda:${ AWS_LAMBDA_FUNCTION_NAME}.

Contoh properti berikut adalah untuk fungsi SqlServer MUX Lambda yang mendukung dua instance databasesqlserver1: (default), dan. sqlserver2

Properti Nilai
default sqlserver://jdbc:sqlserver://sqlserver1.hostname:port;databaseName=<database_name>;${secret1_name}
sqlserver_catalog1_connection_string sqlserver://jdbc:sqlserver://sqlserver1.hostname:port;databaseName=<database_name>;${secret1_name}
sqlserver_catalog2_connection_string sqlserver://jdbc:sqlserver://sqlserver2.hostname:port;databaseName=<database_name>;${secret2_name}
Memberikan kredensi

Untuk memberikan nama pengguna dan kata sandi untuk database Anda dalam string koneksi JDBC Anda, Anda dapat menggunakan properti string koneksi atau. AWS Secrets Manager

  • Connection String - Nama pengguna dan kata sandi dapat ditentukan sebagai properti dalam string koneksi JDBC.

    penting

    Sebagai praktik keamanan terbaik, jangan gunakan kredensi hardcode dalam variabel lingkungan atau string koneksi Anda. Untuk informasi tentang memindahkan rahasia hardcode Anda AWS Secrets Manager, lihat Memindahkan rahasia hardcode ke AWS Secrets Manager dalam Panduan Pengguna.AWS Secrets Manager

  • AWS Secrets Manager— Untuk menggunakan fitur Query Federasi Athena dengan, VPC AWS Secrets Manager yang terhubung ke fungsi Lambda Anda harus memiliki akses internet atau titik akhir VPC untuk terhubung ke Secrets Manager.

    Anda dapat memasukkan nama rahasia ke AWS Secrets Manager dalam string koneksi JDBC Anda. Konektor menggantikan nama rahasia dengan password nilai username dan dari Secrets Manager.

    Untuk instans database Amazon RDS, dukungan ini terintegrasi erat. Jika Anda menggunakan Amazon RDS, kami sangat menyarankan penggunaan AWS Secrets Manager dan rotasi kredenal. Jika database Anda tidak menggunakan Amazon RDS, simpan kredensialnya sebagai JSON dalam format berikut:

    {"username": "${username}", "password": "${password}"}
Contoh string koneksi dengan nama rahasia

String berikut memiliki nama rahasia${secret_name}.

sqlserver://jdbc:sqlserver://hostname:port;databaseName=<database_name>;${secret_name}

Konektor menggunakan nama rahasia untuk mengambil rahasia dan memberikan nama pengguna dan kata sandi, seperti pada contoh berikut.

sqlserver://jdbc:sqlserver://hostname:port;databaseName=<database_name>;user=<user>;password=<password>

Menggunakan handler koneksi tunggal

Anda dapat menggunakan metadata koneksi tunggal berikut dan penangan rekaman untuk terhubung ke satu instance SQL Server.

Jenis handler Kelas
Handler komposit SqlServerCompositeHandler
Penangan metadata SqlServerMetadataHandler
Rekam handler SqlServerRecordHandler
Parameter handler koneksi tunggal
Parameter Deskripsi
default Wajib. String koneksi default.

Penangan koneksi tunggal mendukung satu instance database dan harus menyediakan parameter string default koneksi. Semua string koneksi lainnya diabaikan.

Properti contoh berikut adalah untuk contoh SQL Server tunggal didukung oleh fungsi Lambda.

Properti Nilai
default sqlserver://jdbc:sqlserver://hostname:port;databaseName=<database_name>;${secret_name}

Parameter tumpahan

Lambda SDK dapat menumpahkan data ke Amazon S3. Semua instance database yang diakses oleh fungsi Lambda yang sama tumpah ke lokasi yang sama.

Parameter Deskripsi
spill_bucket Wajib. Nama ember tumpahan.
spill_prefix Wajib. Tumpahkan key prefix bucket.
spill_put_request_headers (Opsional) Peta header permintaan dan nilai yang disandikan JSON untuk permintaan Amazon S3 yang digunakan untuk menumpahkan (misalnya,). putObject {"x-amz-server-side-encryption" : "AES256"} Untuk kemungkinan header lainnya, lihat PutObjectdi Referensi API Amazon Simple Storage Service.

Dukungan tipe data

Tabel berikut menunjukkan tipe data yang sesuai untuk SQL Server dan Apache Arrow.

SQL Server Panah
bit TINYINT
tinyint SMALLINT
smallint SMALLINT
int INT
bigint BIGINT
desimal DECIMAL
numerik FLOAT8
uang kecil FLOAT8
money DECIMAL
mengapung [24] FLOAT4
mengapung [53] FLOAT8
real FLOAT4
datetime Tanggal (MILLISECOND)
tanggal2 Tanggal (MILLISECOND)
smalldatetime Tanggal (MILLISECOND)
date Tanggal (HARI)
Waktu VARCHAR
datetimeoffset Tanggal (MILLISECOND)
arang [n] VARCHAR
varchar [n/maks] VARCHAR
nchar [n] VARCHAR
nvarchar [n/max] VARCHAR
text VARCHAR
nteks VARCHAR

Partisi dan split

Partisi diwakili oleh kolom partisi tunggal tipevarchar. Dalam kasus konektor SQL Server, fungsi partisi menentukan bagaimana partisi diterapkan di atas meja. Fungsi partisi dan informasi nama kolom diambil dari tabel metadata SQL Server. Kueri kustom kemudian mendapatkan partisi. Pemisahan dibuat berdasarkan jumlah partisi berbeda yang diterima.

Performa

Memilih subset kolom secara signifikan mempercepat runtime kueri dan mengurangi data yang dipindai. Konektor SQL Server tahan terhadap throttling karena konkurensi.

Konektor Athena SQL Server melakukan pushdown predikat untuk mengurangi data yang dipindai oleh kueri. Predikat sederhana dan ekspresi kompleks didorong ke konektor untuk mengurangi jumlah data yang dipindai dan mengurangi waktu eksekusi kueri.

Predikat

Predikat adalah ekspresi dalam WHERE klausa query SQL yang mengevaluasi nilai Boolean dan menyaring baris berdasarkan beberapa kondisi. Konektor Athena SQL Server dapat menggabungkan ekspresi ini dan mendorongnya langsung ke SQL Server untuk fungsionalitas yang ditingkatkan dan untuk mengurangi jumlah data yang dipindai.

Operator konektor Athena SQL Server berikut mendukung pushdown predikat:

  • Boolean: DAN, ATAU, TIDAK

  • KESETARAAN: SAMA, NOT_EQUAL, LESS_THAN, LESS_THAN_OR_EQUAL, GREATER_THAN, GREATER_THAN_OR_EQUAL, IS_DISTINCT_FROM, NULL_IF, IS_NULL

  • Aritmatika: TAMBAHKAN, KURANGI, KALIKAN, BAGI, MODULUS, MENIADAKAN

  • Lainnya: LIKE_PATTERN, IN

Contoh pushdown gabungan

Untuk kemampuan kueri yang ditingkatkan, gabungkan jenis pushdown, seperti pada contoh berikut:

SELECT * FROM my_table WHERE col_a > 10 AND ((col_a + col_b) > (col_c % col_d)) AND (col_e IN ('val1', 'val2', 'val3') OR col_f LIKE '%pattern%');

Kueri passthrough

Konektor SQL Server mendukung kueri passthrough. Kueri passthrough menggunakan fungsi tabel untuk mendorong kueri lengkap Anda ke sumber data untuk dieksekusi.

Untuk menggunakan kueri passthrough dengan SQL Server, Anda dapat menggunakan sintaks berikut:

SELECT * FROM TABLE( system.query( query => 'query string' ))

Contoh query berikut mendorong ke bawah query ke sumber data di SQL Server. Kueri memilih semua kolom dalam customer tabel, membatasi hasilnya menjadi 10.

SELECT * FROM TABLE( system.query( query => 'SELECT * FROM customer LIMIT 10' ))

Informasi lisensi

Dengan menggunakan konektor ini, Anda mengakui penyertaan komponen pihak ketiga, daftar yang dapat ditemukan dalam file pom.xml untuk konektor ini, dan menyetujui persyaratan dalam masing-masing lisensi pihak ketiga yang disediakan dalam file LICENSE.txt di .com. GitHub

Sumber daya tambahan

Untuk informasi versi driver JDBC terbaru, lihat file pom.xml untuk konektor SQL Server di.com. GitHub

Untuk informasi tambahan tentang konektor ini, kunjungi situs terkait GitHub di.com.