Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.
Migrasi Tumpukan ELK ke Elastic Cloud di AWS
Battulga Purevragchaa dan Antony Prasad Thevaraj, Amazon Web Services
uday reddy, Tidak ada
Ringkasan
Elastic
Saat Anda beralih dari Elasticsearch yang dikelola sendiri ke Elastic Cloud, layanan Elasticsearch menangani hal-hal berikut:
Menyediakan dan mengelola infrastruktur yang mendasarinya
Membuat dan mengelola cluster Elasticsearch
Menskalakan cluster ke atas dan ke bawah
Upgrade, menambal, dan mengambil snapshot
Ini memberi Anda lebih banyak waktu untuk fokus pada pemecahan tantangan lain.
Pola ini menentukan cara memigrasikan Elasticsearch 7.13 lokal ke Elasticsearch di Elasticsearch di Elastic Cloud di Amazon Web Services (AWS). Versi lain mungkin memerlukan sedikit modifikasi pada proses yang dijelaskan dalam pola ini. Untuk informasi lebih lanjut, hubungi perwakilan Elastis Anda.
Prasyarat dan batasan
Prasyarat
Akun AWS
aktif dengan akses ke Amazon Simple Storage Service (Amazon S3) untuk snapshot Tautan pribadi dengan bandwidth yang aman dan cukup tinggi untuk menyalin file data snapshot ke Amazon S3
Kebijakan Snapshot Elastis
untuk memastikan bahwa konsumsi data diarsipkan secara teratur, baik ke penyimpanan data lokal yang cukup besar atau ke penyimpanan jarak jauh (Amazon S3)
Anda harus memahami seberapa besar snapshot dan kebijakan lifecyle
Peran dan keterampilan
Proses migrasi juga membutuhkan peran dan keahlian yang dijelaskan dalam tabel berikut.
Peran | Keahlian | Tanggung jawab |
|---|---|---|
Dukungan aplikasi | Keakraban dengan Awan Elastis dan Elastis di tempat | Semua tugas terkait Elastis |
Administrator sistem atau DBA | Pengetahuan mendalam tentang lingkungan Elastis lokal dan konfigurasinya | Kemampuan untuk menyediakan penyimpanan, menginstal, dan menggunakan AWS Command Line Interface (AWS CLI) Interface (AWS CLI), dan mengidentifikasi semua sumber data yang memberi makan Elastic di lokasi |
Administrator jaringan | Pengetahuan tentang konektivitas, keamanan, dan kinerja jaringan AWS lokal | Pembentukan tautan jaringan dari tempat ke Amazon S3, dengan pemahaman tentang bandwidth konektivitas |
Batasan
Elasticsearch di Elastic Cloud hanya tersedia di Wilayah AWS yang didukung (September 2021
).
Versi produk
Elasticsearch 7.13
Arsitektur
Tumpukan teknologi sumber
Elasticsearch 7.13 di tempat atau versi lebih baru:
Snapshot klaster
Foto indeks
Arsitektur teknologi sumber
Diagram berikut menunjukkan arsitektur lokal yang khas dengan metode konsumsi yang berbeda, tipe node, dan Kibana. Tipe node yang berbeda mencerminkan peran cluster, otentikasi, dan visualisasi Elasticsearch.

Tertelan dari Beats ke Logstash
Tertelan dari Beats ke antrian pesan Apache Kafka
Tertelan dari Filebeat ke Logstash
Tertelan dari antrian pesan Apache Kafka ke Logstash
Tertelan dari Logstash ke cluster Elasticsearch
Kluster Elasticsearch
Node otentikasi dan notifikasi
Kibana dan node gumpalan
Tumpukan teknologi target
Elastic Cloud diterapkan ke perangkat lunak Anda sebagai akun layanan (SaaS) di beberapa Wilayah AWS dengan replikasi lintas cluster.
Snapshot klaster
Foto indeks
Konfigurasi Beats
Awan elastis
Penyeimbang Beban Jaringan
Amazon Route 53
Amazon S3
Arsitektur target

Infrastruktur Elastic Cloud yang dikelola adalah:
Sangat tersedia, hadir di beberapa Availability Zone
dan beberapa Wilayah AWS. Toleran kegagalan wilayah karena data (indeks dan snapshot) direplikasi menggunakan replikasi lintas
cluster (CCR) Elastic Cloud Partisi jaringan toleran melalui kombinasi Network Load Balancers
dan Route 53 Konsumsi data yang berasal dari (tetapi tidak terbatas pada) APM Elastis
, Beats, Logstash
Langkah migrasi tingkat tinggi
Elastic telah mengembangkan metodologi preskriptifnya sendiri untuk memigrasikan Elastic Cluster lokal ke Elastic Cloud. Metodologi Elastic secara langsung selaras dan melengkapi panduan migrasi AWS dan praktik terbaik, termasuk Well-Architected Framework dan AWS Migration Acceleration
Menilai
Memobilisasi
Migrasi dan modernisasi
Elastis mengikuti fase migrasi serupa dengan terminologi komplementer:
Memulai
Rencana
Melaksanakan
Memberikan
Tutup
Elastic menggunakan Metodologi Implementasi Elastis untuk memfasilitasi penyampaian hasil proyek. Ini inklusif dengan desain untuk memastikan bahwa Elastic, tim konsultasi, dan tim pelanggan bekerja sama dengan jelas untuk bersama-sama memberikan hasil yang diinginkan.
Metodologi Elastis menggabungkan pentahapan air terjun tradisional dengan Scrum dalam fase implementasi. Konfigurasi persyaratan teknis disampaikan secara berulang secara kolaboratif sambil meminimalkan risiko.

Alat
Layanan AWS
Amazon Route 53 - Amazon Route 53 adalah layanan web Sistem Nama Domain (DNS) yang sangat tersedia dan dapat diskalakan. Anda dapat menggunakan Route 53 untuk melakukan tiga fungsi utama dalam kombinasi apapun: pendaftaran domain, perutean DNS, dan pemeriksaan kondisi.
Amazon S3 - Amazon Simple Storage Service (Amazon S3) Simple Storage Service adalah layanan penyimpanan objek. Anda dapat menggunakan Amazon S3 untuk menyimpan dan mengambil data sebanyak apa pun kapan pun, dari mana pun di web. Pola ini menggunakan bucket S3 dan Amazon S3 Transfer Acceleration.
Elastic Load Balancing — Elastic Load Balancing secara otomatis mendistribusikan lalu lintas masuk Anda ke beberapa target, EC2 seperti instance, kontainer, dan alamat IP, dalam satu atau beberapa Availability Zone.
Alat lainnya
Beats - Beats
mengirimkan data dari Logstash atau Elasticsearch Elastic Cloud
- Elastic Cloud adalah layanan terkelola untuk hosting Elasticsearch. Elasticsearch
— Elasticsearch adalah mesin pencari dan analitik yang menggunakan Elastic Stack untuk menyimpan data Anda secara terpusat untuk penelusuran dan analitik yang berskala. Pola ini juga menggunakan pembuatan snapshot dan replikasi lintas cluster. Logstash
- Logstash adalah pipeline pemrosesan data sisi server yang menyerap data dari berbagai sumber, mengubahnya, dan kemudian mengirimkannya ke penyimpanan data Anda.
Epik
| Tugas | Deskripsi | Keterampilan yang dibutuhkan |
|---|---|---|
Identifikasi server yang menjalankan solusi Elastic lokal. | Konfirmasikan bahwa migrasi elastis didukung. | Pemilik aplikasi |
Memahami konfigurasi server lokal. | Untuk memahami konfigurasi server yang diperlukan untuk mengarahkan beban kerja dengan sukses di lokasi, temukan jejak perangkat keras server, konfigurasi jaringan, dan karakteristik penyimpanan yang saat ini digunakan | Support Aplikasi |
Kumpulkan informasi akun pengguna dan aplikasi. | Identifikasi nama pengguna dan nama aplikasi yang digunakan oleh lingkungan Elastic lokal. | Administrator sistem, Dukungan aplikasi |
Document Beats dan konfigurasi pengirim data. | Untuk mendokumentasikan konfigurasi, lihat sumber dan sink data yang ada. Untuk informasi selengkapnya, lihat dokumentasi Elastis | Dukungan aplikasi |
Tentukan kecepatan dan volume data. | Tetapkan garis dasar untuk berapa banyak data yang ditangani cluster. | Administrator sistem, Dukungan aplikasi |
Dokumentasikan skenario RPO dan RTO. | Skenario tujuan titik pemulihan dokumen (RPO) dan tujuan waktu pemulihan (RTO) dalam hal pemadaman dan perjanjian tingkat layanan (). SLAs | Pemilik aplikasi, Administrator sistem, Dukungan aplikasi |
Tentukan pengaturan siklus hidup snapshot yang optimal. | Tentukan seberapa sering data perlu diamankan dengan menggunakan snapshot Elastis selama dan setelah migrasi. | Pemilik aplikasi, Administrator sistem, Dukungan aplikasi |
Tentukan ekspektasi kinerja pasca-migrasi. | Hasilkan metrik pada penyegaran layar saat ini dan yang diharapkan, runtime kueri, dan perilaku antarmuka pengguna. | Administrator sistem, Dukungan aplikasi |
Dokumentasikan transportasi akses internet, bandwidth, dan persyaratan ketersediaan. | Pastikan kecepatan, latensi, dan ketahanan koneksi internet untuk menyalin snapshot ke Amazon S3. | Administrator jaringan |
Dokumentasikan biaya runtime lokal saat ini untuk Elastic. | Pastikan bahwa ukuran lingkungan yang ditargetkan AWS dirancang agar berkinerja tinggi dan hemat biaya. | DBA, Administrator sistem, Dukungan aplikasi |
Identifikasi kebutuhan otentikasi dan otorisasi. | Fitur keamanan Elastic Stack menyediakan ranah bawaan seperti Lightweight Directory Access Protocol (LDAP), Security Assertion Markup Language (SAMP), dan OpenID Connect (OIDC). | DBA, Administrator sistem, Dukungan aplikasi |
Memahami persyaratan peraturan khusus berdasarkan lokasi geografis. | Pastikan bahwa data diekspor dan dienkripsi sesuai dengan kebutuhan Anda dan dengan persyaratan nasional yang relevan. | DBA, Administrator sistem, Dukungan aplikasi |
| Tugas | Deskripsi | Keterampilan yang dibutuhkan |
|---|---|---|
Siapkan area pementasan di Amazon S3. | Untuk menerima snapshot di Amazon S3, buat bucket S3 dan peran AWS Identity and Access Management (IAM) sementara dengan akses penuh ke bucket yang baru dibuat. Untuk informasi selengkapnya, lihat Membuat peran untuk mendelegasikan izin ke pengguna IAM. Gunakan AWS Security Token Service untuk meminta kredensil keamanan sementara. Simpan ID kunci akses, kunci akses rahasia, dan token sesi diamankan. Aktifkan Amazon S3 Transfer Acceleration di bucket. | Administrator AWS |
Instal AWS CLI dan plugin Amazon S3 di tempat. | Pada setiap node Elasticsearch, jalankan perintah berikut.
Kemudian reboot node. | Administrator AWS |
Konfigurasikan akses klien Amazon S3. | Tambahkan kunci yang dibuat sebelumnya dengan menjalankan perintah berikut.
| Administrator AWS |
Daftarkan repositori snapshot untuk data Elastis | Gunakan Kibana Dev Tools | Administrator AWS |
Konfigurasikan kebijakan snapshot. | Untuk mengonfigurasi manajemen siklus hidup snapshot, pada tab Kebijakan Kibana, pilih kebijakan SLM, dan tentukan waktu, aliran data, atau indeks mana yang harus disertakan, dan nama apa yang akan digunakan. Konfigurasikan kebijakan yang sering mengambil snapshot. Snapshot bersifat inkremental dan memanfaatkan penyimpanan secara efisien. Cocokkan keputusan penilaian kesiapan Anda. Kebijakan juga dapat menentukan kebijakan penyimpanan | Dukungan aplikasi |
Verifikasi bahwa snapshot berfungsi. | Di Kibana Dev Tools, jalankan perintah berikut.
| Administrator AWS, Dukungan aplikasi, |
Terapkan cluster baru di Elastic Cloud. | Masuk ke Elastic | Administrator AWS, Dukungan aplikasi |
Siapkan akses penyimpanan kunci cluster. | Cluster baru membutuhkan akses ke bucket S3 yang akan menyimpan snapshot. Pada Konsol Layanan Elasticsearch, pilih Keamanan, dan masukkan akses dan kunci rahasia IAM yang Anda buat sebelumnya. | Administrator AWS |
Konfigurasikan cluster yang dihosting Elastic Cloud untuk mengakses Amazon S3. | Siapkan akses cluster baru ke repositori snapshot yang dibuat sebelumnya di Amazon S3. Menggunakan Kibana, lakukan hal berikut:
| Administrator AWS, Dukungan Aplikasi |
Verifikasi repositori Amazon S3 baru. | Pastikan Anda dapat mengakses repositori baru yang dihosting di cluster Elastic Cloud. | Administrator AWS |
Initilaize cluster layanan Elasticsearch. | Di Konsol Layanan Elasticsearch, inisialisasi cluster layanan Elasticsearch dari snapshot S3. Jalankan perintah berikut sebagai POST.
| Support Aplikasi |
| Tugas | Deskripsi | Keterampilan yang dibutuhkan |
|---|---|---|
Verifikasi bahwa pemulihan snapshot berhasil. | Menggunakan Kibana Dev Tools, jalankan perintah berikut.
| Dukungan aplikasi |
Layanan konsumsi Redploy. | Connect endpoint untuk Beats dan Logstash ke endpoint layanan Elasticsearch yang baru. | Dukungan aplikasi |
| Tugas | Deskripsi | Keterampilan yang dibutuhkan |
|---|---|---|
Validasi lingkungan cluster. | Setelah lingkungan cluster Elastic lokal dimigrasikan ke AWS, Anda dapat menyambungkannya dan menggunakan alat pengujian penerimaan pengguna (UAT) Anda sendiri untuk memvalidasi lingkungan baru. | Dukungan aplikasi |
Bersihkan sumber daya. | Setelah Anda memvalidasi bahwa cluster berhasil bermigrasi, hapus bucket S3 dan peran IAM yang digunakan untuk migrasi. | Administrator AWS |
Sumber daya terkait
Referensi elastis
Posting blog elastis
Cara bermigrasi dari Elasticsearch yang dikelola sendiri ke Elastic Cloud di AWS
(posting blog) Bermigrasi ke Elastic Cloud
(posting blog)
Dokumentasi elastis
Video elastis dan webinar
Referensi AWS
Informasi tambahan
Jika Anda berencana untuk memigrasikan beban kerja yang kompleks, gunakan Layanan Konsultasi Elastis