Migrasi Tumpukan ELK ke Elastic Cloud di AWS - AWS Prescriptive Guidance

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Migrasi Tumpukan ELK ke Elastic Cloud di AWS

Battulga Purevragchaa dan Antony Prasad Thevaraj, Amazon Web Services

uday reddy, Tidak ada

Ringkasan

Elastic telah menyediakan layanan selama bertahun-tahun, dengan pengguna dan pelanggan mereka biasanya mengelola Elastic sendiri di tempat. Elastic Cloud, layanan Elasticsearch yang dikelola, menyediakan cara untuk menggunakan Elastic Stack (ELK Stack) dan solusi untuk pencarian perusahaan, observabilitas, dan keamanan. Anda dapat mengakses solusi Elastic dengan aplikasi seperti Log, Metrik, APM (pemantauan kinerja aplikasi), dan SIEM (informasi keamanan dan manajemen acara). Anda dapat menggunakan fitur terintegrasi seperti pembelajaran mesin, manajemen siklus hidup indeks, Kibana Lens (untuk visualisasi seret dan lepas).

Saat Anda beralih dari Elasticsearch yang dikelola sendiri ke Elastic Cloud, layanan Elasticsearch menangani hal-hal berikut:

  • Menyediakan dan mengelola infrastruktur yang mendasarinya

  • Membuat dan mengelola cluster Elasticsearch

  • Menskalakan cluster ke atas dan ke bawah

  • Upgrade, menambal, dan mengambil snapshot

Ini memberi Anda lebih banyak waktu untuk fokus pada pemecahan tantangan lain.

Pola ini menentukan cara memigrasikan Elasticsearch 7.13 lokal ke Elasticsearch di Elasticsearch di Elastic Cloud di Amazon Web Services (AWS). Versi lain mungkin memerlukan sedikit modifikasi pada proses yang dijelaskan dalam pola ini. Untuk informasi lebih lanjut, hubungi perwakilan Elastis Anda.

Prasyarat dan batasan

Prasyarat

Anda harus memahami seberapa besar snapshot dan kebijakan lifecyle untuk indeks yang menyertainya berada di lokasi sebelum memulai migrasi. Untuk informasi lebih lanjut, hubungi Elastic.

Peran dan keterampilan

Proses migrasi juga membutuhkan peran dan keahlian yang dijelaskan dalam tabel berikut.

Peran

Keahlian

Tanggung jawab

Dukungan aplikasi

Keakraban dengan Awan Elastis dan Elastis di tempat

Semua tugas terkait Elastis

Administrator sistem atau DBA

Pengetahuan mendalam tentang lingkungan Elastis lokal dan konfigurasinya

Kemampuan untuk menyediakan penyimpanan, menginstal, dan menggunakan AWS Command Line Interface (AWS CLI) Interface (AWS CLI), dan mengidentifikasi semua sumber data yang memberi makan Elastic di lokasi

Administrator jaringan

Pengetahuan tentang konektivitas, keamanan, dan kinerja jaringan AWS lokal

Pembentukan tautan jaringan dari tempat ke Amazon S3, dengan pemahaman tentang bandwidth konektivitas

Batasan

Versi produk

  • Elasticsearch 7.13

Arsitektur

Tumpukan teknologi sumber

Elasticsearch 7.13 di tempat atau versi lebih baru:

Arsitektur teknologi sumber

Diagram berikut menunjukkan arsitektur lokal yang khas dengan metode konsumsi yang berbeda, tipe node, dan Kibana. Tipe node yang berbeda mencerminkan peran cluster, otentikasi, dan visualisasi Elasticsearch.

Proses delapan langkah termasuk Beats, Logstash, Elasticsearch, dan Kibana.
  1. Tertelan dari Beats ke Logstash

  2. Tertelan dari Beats ke antrian pesan Apache Kafka

  3. Tertelan dari Filebeat ke Logstash

  4. Tertelan dari antrian pesan Apache Kafka ke Logstash

  5. Tertelan dari Logstash ke cluster Elasticsearch

  6. Kluster Elasticsearch

  7. Node otentikasi dan notifikasi

  8. Kibana dan node gumpalan

Tumpukan teknologi target

Elastic Cloud diterapkan ke perangkat lunak Anda sebagai akun layanan (SaaS) di beberapa Wilayah AWS dengan replikasi lintas cluster.

  • Snapshot klaster

  • Foto indeks

  • Konfigurasi Beats

  • Awan elastis

  • Penyeimbang Beban Jaringan

  • Amazon Route 53

  • Amazon S3

Arsitektur target

Route 53 endpoint merutekan lalu lintas ke lingkungan Multi-AZ di dua Wilayah berbeda.

Infrastruktur Elastic Cloud yang dikelola adalah:

Langkah migrasi tingkat tinggi

Elastic telah mengembangkan metodologi preskriptifnya sendiri untuk memigrasikan Elastic Cluster lokal ke Elastic Cloud. Metodologi Elastic secara langsung selaras dan melengkapi panduan migrasi AWS dan praktik terbaik, termasuk Well-Architected Framework dan AWS Migration Acceleration Program (MAP). Biasanya, tiga fase migrasi AWS adalah sebagai berikut:

  • Menilai

  • Memobilisasi

  • Migrasi dan modernisasi

Elastis mengikuti fase migrasi serupa dengan terminologi komplementer:

  • Memulai

  • Rencana

  • Melaksanakan

  • Memberikan

  • Tutup

Elastic menggunakan Metodologi Implementasi Elastis untuk memfasilitasi penyampaian hasil proyek. Ini inklusif dengan desain untuk memastikan bahwa Elastic, tim konsultasi, dan tim pelanggan bekerja sama dengan jelas untuk bersama-sama memberikan hasil yang diinginkan.

Metodologi Elastis menggabungkan pentahapan air terjun tradisional dengan Scrum dalam fase implementasi. Konfigurasi persyaratan teknis disampaikan secara berulang secara kolaboratif sambil meminimalkan risiko.

Diagram yang menunjukkan lima tahap Metodologi Implementasi Elastis.

Alat

Layanan AWS

  • Amazon Route 53 - Amazon Route 53 adalah layanan web Sistem Nama Domain (DNS) yang sangat tersedia dan dapat diskalakan. Anda dapat menggunakan Route 53 untuk melakukan tiga fungsi utama dalam kombinasi apapun: pendaftaran domain, perutean DNS, dan pemeriksaan kondisi.

  • Amazon S3 - Amazon Simple Storage Service (Amazon S3) Simple Storage Service adalah layanan penyimpanan objek. Anda dapat menggunakan Amazon S3 untuk menyimpan dan mengambil data sebanyak apa pun kapan pun, dari mana pun di web. Pola ini menggunakan bucket S3 dan Amazon S3 Transfer Acceleration.

  • Elastic Load Balancing — Elastic Load Balancing secara otomatis mendistribusikan lalu lintas masuk Anda ke beberapa target, EC2 seperti instance, kontainer, dan alamat IP, dalam satu atau beberapa Availability Zone.

Alat lainnya

  • Beats - Beats mengirimkan data dari Logstash atau Elasticsearch

  • Elastic Cloud - Elastic Cloud adalah layanan terkelola untuk hosting Elasticsearch.

  • Elasticsearch — Elasticsearch adalah mesin pencari dan analitik yang menggunakan Elastic Stack untuk menyimpan data Anda secara terpusat untuk penelusuran dan analitik yang berskala. Pola ini juga menggunakan pembuatan snapshot dan replikasi lintas cluster.

  • Logstash - Logstash adalah pipeline pemrosesan data sisi server yang menyerap data dari berbagai sumber, mengubahnya, dan kemudian mengirimkannya ke penyimpanan data Anda.

Epik

TugasDeskripsiKeterampilan yang dibutuhkan

Identifikasi server yang menjalankan solusi Elastic lokal.

Konfirmasikan bahwa migrasi elastis didukung.

Pemilik aplikasi

Memahami konfigurasi server lokal.

Untuk memahami konfigurasi server yang diperlukan untuk mengarahkan beban kerja dengan sukses di lokasi, temukan jejak perangkat keras server, konfigurasi jaringan, dan karakteristik penyimpanan yang saat ini digunakan

Support Aplikasi

Kumpulkan informasi akun pengguna dan aplikasi.

Identifikasi nama pengguna dan nama aplikasi yang digunakan oleh lingkungan Elastic lokal.

Administrator sistem, Dukungan aplikasi

Document Beats dan konfigurasi pengirim data.

Untuk mendokumentasikan konfigurasi, lihat sumber dan sink data yang ada. Untuk informasi selengkapnya, lihat dokumentasi Elastis.

Dukungan aplikasi

Tentukan kecepatan dan volume data.

Tetapkan garis dasar untuk berapa banyak data yang ditangani cluster.

Administrator sistem, Dukungan aplikasi

Dokumentasikan skenario RPO dan RTO.

Skenario tujuan titik pemulihan dokumen (RPO) dan tujuan waktu pemulihan (RTO) dalam hal pemadaman dan perjanjian tingkat layanan (). SLAs

Pemilik aplikasi, Administrator sistem, Dukungan aplikasi

Tentukan pengaturan siklus hidup snapshot yang optimal.

Tentukan seberapa sering data perlu diamankan dengan menggunakan snapshot Elastis selama dan setelah migrasi.

Pemilik aplikasi, Administrator sistem, Dukungan aplikasi

Tentukan ekspektasi kinerja pasca-migrasi.

Hasilkan metrik pada penyegaran layar saat ini dan yang diharapkan, runtime kueri, dan perilaku antarmuka pengguna.

Administrator sistem, Dukungan aplikasi

Dokumentasikan transportasi akses internet, bandwidth, dan persyaratan ketersediaan.

Pastikan kecepatan, latensi, dan ketahanan koneksi internet untuk menyalin snapshot ke Amazon S3.

Administrator jaringan

Dokumentasikan biaya runtime lokal saat ini untuk Elastic.

Pastikan bahwa ukuran lingkungan yang ditargetkan AWS dirancang agar berkinerja tinggi dan hemat biaya.

DBA, Administrator sistem, Dukungan aplikasi

Identifikasi kebutuhan otentikasi dan otorisasi.

Fitur keamanan Elastic Stack menyediakan ranah bawaan seperti Lightweight Directory Access Protocol (LDAP), Security Assertion Markup Language (SAMP), dan OpenID Connect (OIDC).

DBA, Administrator sistem, Dukungan aplikasi

Memahami persyaratan peraturan khusus berdasarkan lokasi geografis.

Pastikan bahwa data diekspor dan dienkripsi sesuai dengan kebutuhan Anda dan dengan persyaratan nasional yang relevan.

DBA, Administrator sistem, Dukungan aplikasi
TugasDeskripsiKeterampilan yang dibutuhkan

Siapkan area pementasan di Amazon S3.

Untuk menerima snapshot di Amazon S3, buat bucket S3 dan peran AWS Identity and Access Management (IAM) sementara dengan akses penuh ke bucket yang baru dibuat. Untuk informasi selengkapnya, lihat Membuat peran untuk mendelegasikan izin ke pengguna IAM. Gunakan AWS Security Token Service untuk meminta kredensil keamanan sementara. Simpan ID kunci akses, kunci akses rahasia, dan token sesi diamankan.

Aktifkan Amazon S3 Transfer Acceleration di bucket.

Administrator AWS

Instal AWS CLI dan plugin Amazon S3 di tempat.

Pada setiap node Elasticsearch, jalankan perintah berikut.

sudo bin/elasticsearch-plugin install repository-s3

Kemudian reboot node.

Administrator AWS

Konfigurasikan akses klien Amazon S3.

Tambahkan kunci yang dibuat sebelumnya dengan menjalankan perintah berikut.

elasticsearch-keystore add s3.client.default.access_key
elasticsearch-keystore add s3.client.default.secret_key
elasticsearch-keystore add s3.client.default.session_token
Administrator AWS

Daftarkan repositori snapshot untuk data Elastis

Gunakan Kibana Dev Tools untuk memberi tahu kluster lokal lokal tempat bucket S3 jarak jauh mana yang akan ditulis.

Administrator AWS

Konfigurasikan kebijakan snapshot.

Untuk mengonfigurasi manajemen siklus hidup snapshot, pada tab Kebijakan Kibana, pilih kebijakan SLM, dan tentukan waktu, aliran data, atau indeks mana yang harus disertakan, dan nama apa yang akan digunakan.

Konfigurasikan kebijakan yang sering mengambil snapshot. Snapshot bersifat inkremental dan memanfaatkan penyimpanan secara efisien. Cocokkan keputusan penilaian kesiapan Anda. Kebijakan juga dapat menentukan kebijakan penyimpanan dan menghapus snapshot secara otomatis saat tidak diperlukan lagi.

Dukungan aplikasi

Verifikasi bahwa snapshot berfungsi.

Di Kibana Dev Tools, jalankan perintah berikut.

GET _snapshot/<your_repo_name>/_all
Administrator AWS, Dukungan aplikasi,

Terapkan cluster baru di Elastic Cloud.

Masuk ke Elastic, dan pilih klaster untuk “observabilitas, pencarian, atau keamanan” yang berasal dari temuan bisnis Anda dalam penilaian kesiapan.

Administrator AWS, Dukungan aplikasi

Siapkan akses penyimpanan kunci cluster.

Cluster baru membutuhkan akses ke bucket S3 yang akan menyimpan snapshot. Pada Konsol Layanan Elasticsearch, pilih Keamanan, dan masukkan akses dan kunci rahasia IAM yang Anda buat sebelumnya.

Administrator AWS

Konfigurasikan cluster yang dihosting Elastic Cloud untuk mengakses Amazon S3.

Siapkan akses cluster baru ke repositori snapshot yang dibuat sebelumnya di Amazon S3. Menggunakan Kibana, lakukan hal berikut:

  1. Pilih Manajemen Stack, Pengaturan Snapshot, RegisterRepo.

  2. Di bidang Alias, masukkan nama repositori.

  3. Untuk nama Klien S3, pilih sekunder.

  4. Tambahkan bucket S3 yang Anda buat sebelumnya ke repositori.

  5. Pilih Kompres snapshot.

  6. Untuk pengaturan Enkripsi, pertahankan nilai default.

Administrator AWS, Dukungan Aplikasi

Verifikasi repositori Amazon S3 baru.

Pastikan Anda dapat mengakses repositori baru yang dihosting di cluster Elastic Cloud.

Administrator AWS

Initilaize cluster layanan Elasticsearch.

Di Konsol Layanan Elasticsearch, inisialisasi cluster layanan Elasticsearch dari snapshot S3.

Jalankan perintah berikut sebagai POST.

*/_close?expand_wildcards=all
/_snapshot/<your-repo-name>/ <your-snapshot-name>/_restore
*/_open?expand_wildcards=all
Support Aplikasi
TugasDeskripsiKeterampilan yang dibutuhkan

Verifikasi bahwa pemulihan snapshot berhasil.

Menggunakan Kibana Dev Tools, jalankan perintah berikut.

GET _cat/indices
Dukungan aplikasi

Layanan konsumsi Redploy.

Connect endpoint untuk Beats dan Logstash ke endpoint layanan Elasticsearch yang baru.

Dukungan aplikasi
TugasDeskripsiKeterampilan yang dibutuhkan

Validasi lingkungan cluster.

Setelah lingkungan cluster Elastic lokal dimigrasikan ke AWS, Anda dapat menyambungkannya dan menggunakan alat pengujian penerimaan pengguna (UAT) Anda sendiri untuk memvalidasi lingkungan baru.

Dukungan aplikasi

Bersihkan sumber daya.

Setelah Anda memvalidasi bahwa cluster berhasil bermigrasi, hapus bucket S3 dan peran IAM yang digunakan untuk migrasi.

Administrator AWS

Sumber daya terkait

Referensi elastis

Posting blog elastis

Dokumentasi elastis

Video elastis dan webinar

Referensi AWS

Informasi tambahan

Jika Anda berencana untuk memigrasikan beban kerja yang kompleks, gunakan Layanan Konsultasi Elastis. Jika Anda memiliki pertanyaan dasar terkait konfigurasi dan layanan, hubungi tim Dukungan Elastis.