Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.
Mengotomatiskan operasi AWS infrastruktur dengan menggunakan Amazon Bedrock
Ishwar Chathaiwale dan Anand Bukkapatnam Tirumala, Amazon Web Services
Ringkasan
Dalam solusi cloud native, mengotomatisasi operasi infrastruktur umum memainkan peran penting dalam menjaga lingkungan yang efisien, aman, dan hemat biaya. Operasi penanganan secara manual memakan waktu dan rentan terhadap kesalahan manusia. Selain itu, anggota tim dengan berbagai tingkat AWS keahlian perlu melakukan tugas-tugas ini sambil memastikan kepatuhan terhadap protokol keamanan. Pola ini menunjukkan cara menggunakan Amazon Bedrock untuk mengotomatiskan operasi AWS infrastruktur umum melalui pemrosesan bahasa alami (NLP).
Pola ini dapat membantu organisasi untuk mengembangkan kode yang dapat digunakan kembali, modular, dan aman untuk menyebarkan infrastruktur berbasis AI generatif di berbagai lingkungan. Melalui fokusnya pada infrastruktur sebagai kode (IAc) dan otomatisasi, ia memberikan DevOps manfaat utama termasuk kontrol versi, penerapan yang konsisten, pengurangan kesalahan, penyediaan yang lebih cepat, dan kolaborasi yang lebih baik.
Pola ini mengimplementasikan arsitektur aman yang memungkinkan tim mengelola operasi yang terkait dengan kunci Layanan AWS termasuk:
Manajemen versi bucket Amazon Simple Storage Service (Amazon S3)
Pembuatan snapshot Amazon Relational Database Service (Amazon RDS)
Manajemen instans Amazon Elastic Compute Cloud (Amazon EC2)
Arsitektur ini menggunakan titik akhir Amazon Virtual Private Cloud (Amazon VPC) dan jaringan pribadi untuk komunikasi yang aman, AWS Lambda dengan fungsi yang beroperasi sebagai pelaksana tugas dalam subnet pribadi. Amazon S3 menyediakan manajemen data dan mengimplementasikan peran dan izin komprehensif AWS Identity and Access Management (IAM) untuk memastikan kontrol akses yang tepat. Solusi ini tidak menyertakan fitur riwayat obrolan, dan obrolan tidak disimpan.
Prasyarat dan batasan
Aktif Akun AWS.
Langkah-langkah kontrol akses yang tepat harus dilakukan untuk membantu mengamankan dan mengontrol akses. Contoh kontrol akses termasuk penggunaan AWS Systems Manager, akses model dasar, peran IAM untuk penerapan, dan peran berbasis layanan, menonaktifkan akses publik ke bucket Amazon S3, dan menyiapkan antrian surat mati.
Kunci yang dikelola pelanggan AWS Key Management Service (AWS KMS).
AWS Command Line Interface (AWS CLI) versi 2 atau yang lebih baru, diinstal dan dikonfigurasi pada lingkungan penyebaran.
AWS Penyedia Terraform versi 4 atau yang lebih baru diinstal
dan dikonfigurasi. Terraform versi 1.5.7 atau yang lebih baru diinstal dan dikonfigurasi.
Tinjau dan Tentukan skema OpenAPI untuk grup tindakan agen Anda di Amazon Bedrock untuk membantu melindungi dari akses yang tidak sah dan menjaga integritas data.
Akses diaktifkan di Anda Akun AWS untuk Amazon Titan Text Embeddings v2 yang diperlukan dan model dasar Claude 3.5 Sonnet atau Claude 3 Haiku. Untuk menghindari kegagalan penerapan, konfirmasikan bahwa penerapan target Anda Wilayah AWS mendukung model yang diperlukan.
Virtual Private Cloud (VPC) yang dikonfigurasi yang mengikuti praktik terbaik AWS Well Architected Framework.
Tinjauan lengkap tentang kebijakan AI Bertanggung Jawab Amazon
.
Versi produk
Embeddings Teks Amazon Titan v2
Antropik Claude 3.5 Soneta atau Claude 3 Haiku
AWS Penyedia Terraform versi 4 atau yang lebih baru
Terraform versi 1.5.7 atau yang lebih baru
Arsitektur
Diagram berikut menunjukkan alur kerja dan komponen arsitektur untuk pola ini.
Arsitektur solusi terdiri dari beberapa lapisan yang bekerja sama untuk memproses permintaan bahasa alami dan menjalankan AWS operasi yang sesuai:
Pengguna membuat permintaan operasi melalui konsol obrolan Amazon Bedrock.
Chatbot menggunakan Pangkalan Pengetahuan Amazon Bedrock untuk pemrosesan permintaan. Ini mengimplementasikan model Amazon Titan Text Embeddings v2 untuk pemrosesan bahasa alami.
Jika prompt pengguna menyertakan permintaan tindakan, grup tindakan Amazon Bedrock menggunakan model Anthropic Claude 3 Haiku atau Claude 3.5 Sonnet (tergantung pilihan Anda) untuk logika eksekusi dan mendefinisikan operasi melalui skema OpenAPI.
Grup tindakan mencapai titik akhir VPC Amazon yang digunakan AWS PrivateLink untuk komunikasi layanan yang aman.
AWS Lambda Fungsi ini dicapai melalui titik akhir Amazon VPC untuk layanan Amazon Bedrock.
Fungsi Lambda adalah mesin eksekusi utama. Berdasarkan permintaan, fungsi Lambda memanggil API untuk melakukan tindakan pada file. Layanan AWS Fungsi Lambda juga menangani routing dan eksekusi operasi.
Layanan AWS Dapatkan permintaan API dari fungsi Lambda dan operasi terkait dilakukan.
Fungsi Lambda menghitung payload keluaran yang dipahami oleh Amazon Bedrock.
Payload ini dikirim ke Amazon Bedrock dengan menggunakan PrivateLink untuk komunikasi layanan yang aman. Model bahasa besar (LLM) yang digunakan oleh Amazon Bedrock memahami muatan ini dan mengubahnya menjadi format yang dapat dimengerti manusia.
Outputnya kemudian ditampilkan kepada pengguna di konsol obrolan Amazon Bedrock.
Solusinya memungkinkan operasi utama berikut:
Amazon S3 — Aktifkan pembuatan versi bucket untuk kontrol versi.
Amazon RDS - Buat snapshot database untuk cadangan.
Amazon EC2 — Buat daftar instance dan kontrol awal dan penghentian instance.
Alat
Layanan AWS
Amazon Bedrock adalah layanan yang dikelola sepenuhnya yang membuat model foundation berkinerja tinggi (FMs) dari startup AI terkemuka dan Amazon tersedia untuk Anda gunakan melalui API terpadu.
AWS Command Line Interface (AWS CLI) adalah alat open source yang membantu Anda berinteraksi Layanan AWS melalui perintah di shell baris perintah Anda.
Amazon Elastic Compute Cloud (Amazon EC2) menyediakan kapasitas komputasi yang dapat diskalakan di. AWS Cloud Anda dapat meluncurkan server virtual sebanyak yang Anda butuhkan dan dengan cepat meningkatkannya ke atas atau ke bawah.
AWS Identity and Access Management (IAM) membantu Anda mengelola akses ke AWS sumber daya dengan aman dengan mengontrol siapa yang diautentikasi dan diberi wewenang untuk menggunakannya.
AWS Lambdaadalah layanan komputasi yang membantu Anda menjalankan kode tanpa perlu menyediakan atau mengelola server. Ini menjalankan kode Anda hanya bila diperlukan dan skala secara otomatis, jadi Anda hanya membayar untuk waktu komputasi yang Anda gunakan.
Amazon OpenSearch Serverless adalah konfigurasi tanpa server sesuai permintaan untuk Amazon Service. OpenSearch
AWS PrivateLinkmembantu Anda membuat koneksi pribadi searah dari cloud pribadi virtual Anda (VPCs) ke layanan di luar VPC.
Amazon Relational Database Service (Amazon RDS) membantu Anda menyiapkan, mengoperasikan, dan menskalakan database relasional di. AWS Cloud
Amazon Simple Storage Service (Amazon S3) adalah layanan penyimpanan objek berbasis cloud yang membantu Anda menyimpan, melindungi, dan mengambil sejumlah data.
AWS Systems Managermembantu Anda mengelola aplikasi dan infrastruktur yang berjalan di AWS Cloud. Ini menyederhanakan aplikasi dan manajemen sumber daya, mempersingkat waktu untuk mendeteksi dan menyelesaikan masalah operasional, dan membantu Anda mengelola AWS sumber daya Anda dengan aman dalam skala besar.
Amazon Virtual Private Cloud (Amazon VPC) membantu Anda meluncurkan AWS sumber daya ke jaringan virtual yang telah Anda tentukan. Jaringan virtual ini menyerupai jaringan tradisional yang akan Anda operasikan di pusat data Anda sendiri, dengan manfaat menggunakan infrastruktur yang dapat diskalakan. AWS
Alat-alat lainnya
Repositori kode
Kode untuk pola ini tersedia di GitHub infra-ops-orchestratoraws-samples/
Praktik terbaik
Pantau log eksekusi Lambda secara teratur. Untuk informasi selengkapnya, lihat Memantau dan memecahkan masalah fungsi Lambda. Untuk informasi selengkapnya tentang praktik terbaik, lihat Praktik terbaik untuk bekerja dengan AWS Lambda fungsi.
Tinjau konfigurasi keamanan secara berkala untuk memastikan kepatuhan terhadap persyaratan organisasi Anda. Untuk informasi selengkapnya, lihat Praktik terbaik keamanan.
Ikuti prinsip hak istimewa terkecil dan berikan izin minimum yang diperlukan untuk melakukan tugas. Untuk informasi selengkapnya, lihat Berikan hak istimewa terkecil dan praktik terbaik Keamanan dalam dokumentasi IAM.
Epik
| Tugas | Deskripsi | Keterampilan yang dibutuhkan |
|---|---|---|
Kloning repositori. | Untuk mengkloning repositori pada mesin lokal Anda, jalankan perintah berikut:
| AWS DevOps, DevOps insinyur |
Edit variabel lingkungan. | Edit | AWS DevOps, DevOps insinyur |
Buat infrastruktur. | Untuk membuat infrastruktur, jalankan perintah berikut:
Tinjau rencana eksekusi dengan cermat. Jika perubahan yang direncanakan dapat diterima, maka jalankan perintah berikut:
| AWS DevOps, DevOps insinyur |
| Tugas | Deskripsi | Keterampilan yang dibutuhkan |
|---|---|---|
Akses solusinya. | Setelah penerapan berhasil, ikuti langkah-langkah berikut untuk menggunakan antarmuka berbasis obrolan:
| AWS DevOps, DevOps insinyur |
| Tugas | Deskripsi | Keterampilan yang dibutuhkan |
|---|---|---|
Hapus sumber daya yang dibuat. | Untuk menghapus semua infrastruktur yang dibuat oleh pola ini, jalankan perintah berikut:
Tinjau rencana penghancuran dengan hati-hati. Jika penghapusan yang direncanakan dapat diterima, maka jalankan perintah berikut:
Catatan: Perintah ini akan menghapus semua sumber daya yang dibuat oleh pola ini secara permanen. Perintah akan meminta konfirmasi sebelum menghapus sumber daya apa pun. | AWS DevOps, DevOps insinyur |
Pemecahan Masalah
| Isu | Solusi |
|---|---|
Perilaku agen | Untuk informasi tentang masalah ini, lihat Menguji dan memecahkan masalah perilaku agen dalam dokumentasi Amazon Bedrock. |
Masalah jaringan Lambda | Untuk informasi tentang masalah ini, lihat Memecahkan masalah jaringan di Lambda dalam dokumentasi Lambda. |
Izin IAM | Untuk informasi tentang masalah ini, lihat Memecahkan Masalah IAM di dokumentasi IAM. |
Sumber daya terkait
