Amazon Bedrock atau Amazon SageMaker AI?

Amazon Bedrock dirancang untuk kasus penggunaan di mana Anda ingin membangun aplikasi dan agen AI tanpa berinvestasi besar-besaran dalam pengembangan model khusus. Misalnya, sistem moderasi konten untuk platform media sosial dapat menggunakan model pra-terlatih Amazon Bedrock untuk secara otomatis mengidentifikasi dan menandai teks atau gambar yang tidak pantas. Demikian pula, chatbot dukungan pelanggan dapat menggunakan kemampuan pemrosesan bahasa alami Amazon Bedrock untuk memahami dan menanggapi pertanyaan pengguna. Amazon Bedrock sangat berguna jika Anda memiliki keahlian atau sumber daya pembelajaran mesin (ML) yang terbatas, karena membantu Anda mendapatkan manfaat dari AI tanpa perlu pengembangan internal yang ekstensif.

SageMaker AI adalah pilihan yang baik untuk pelatihan yang nyaman, penyesuaian, dan penerapan AI, ML prediktif, dan model ML klasik dengan kontrol maksimum. Pilih SageMaker AI saat Anda perlu mengakses wadah atau lapisan orkestrasi untuk secara langsung mengelola throughput biaya-latensi dan pertukaran lainnya. Contohnya termasuk perusahaan perawatan kesehatan yang mengembangkan model untuk memprediksi hasil pasien berdasarkan biomarker tertentu. Contoh lain adalah lembaga keuangan yang menciptakan sistem deteksi penipuan yang disesuaikan dengan data unik dan faktor risiko mereka. Skenario lain adalah penerapan LLM skala besar di mana Anda ingin memaksimalkan pemanfaatan GPU sambil menyeimbangkan biaya terhadap metrik throughput dan latensi yang diinginkan.

Pilih Amazon Bedrock jika Anda ingin membangun aplikasi dan agen AI menggunakan model pra-terlatih, rekayasa cepat, dan RAG — tanpa memerlukan keahlian ML yang mendalam.

SageMaker AI melayani dua audiens. Jika Anda perlu mengubah perilaku model melalui penyesuaian tanpa server, UI yang dipandu dan alur kerja yang dibantu agen AI tidak memerlukan keahlian ML. Jika Anda memerlukan kontrol penuh atas alur kerja pelatihan, penerapan model, kerangka kerja, dan infrastruktur, gunakan pekerjaan pelatihan, titik akhir khusus, dan. HyperPod

Amazon Bedrock menyediakan akses ke FM termasuk model berpemilik seperti Anthropic Claude dan Amazon Nova, model terbuka dari Meta (Llama),, Mistral AIQwen, dan OpenAI (GPT-OSS), Stability AI model untuk pembuatan gambar, dan banyak lainnya. Lihat daftar FM yang tersedia, yang sering diperbarui.

Gunakan Amazon Bedrock Marketplace untuk menguji dan menggabungkan lebih dari 100 FM yang tersedia untuk umum dan eksklusif dengan cepat.

Amazon Bedrock menyediakan akses ke model eksklusif tertentu, termasuk Claude, yang tidak tersedia di Amazon SageMaker JumpStart.

Amazon SageMaker JumpStart menawarkan model dasar bawaan yang tersedia untuk umum dan eksklusif untuk menyesuaikan dan diintegrasikan ke dalam alur kerja AI generatif, ML klasik, dan ML prediktif Anda, dengan hampir 1.000 model tersedia, termasuk model yang dioptimalkan untuk kasus penggunaan tertentu.

JumpStart menawarkan FM yang tersedia untuk umum, termasuk model dariHugging Face,Stability AI, Meta, dan Amazon, dan FM berpemilik dari Amazon (model Nova untuk penyesuaian dan inferensi),,AI21 Labs, Cohere dan. LightOn Lihat daftar FM yang tersedia untuk umum dan eksklusif, yang sering diperbarui.

Amazon Bedrock menawarkan serangkaian model dari penyedia terkemuka yang dapat Anda gunakan untuk membangun aplikasi AI generatif dengan opsi penyesuaian otomatis. Anda memiliki akses ke serangkaian panggilan API yang Anda gunakan untuk memasukkan data dan menerima prediksi dari model pra-terlatih ini. Pendekatan ini menyederhanakan proses memasukkan kemampuan AI ke dalam aplikasi. Amazon Bedrock mendukung penyempurnaan, distilasi model, penyetelan penguatan, dan impor model khusus, dengan manajemen infrastruktur minimal.

Amazon SageMaker AI menyediakan kustomisasi model tanpa server dengan antarmuka terpandu dan alur kerja yang dibantu agen AI, menawarkan kontrol dengan pagar pembatas sekaligus menghilangkan manajemen infrastruktur. Agen AI menangani siklus hidup kustomisasi penuh — pemilihan teknik, persiapan data, pelatihan, evaluasi, dan penerapan — melalui bahasa alami, sehingga pengembang dapat menyelesaikan alur kerja tanpa pengetahuan ML khusus. SageMaker AI juga mendukung portabilitas IDE denganVS Code,Kiro, dan lingkungan pengembangan lainnya. SageMaker AI mendukung serangkaian teknik penyesuaian tanpa server yang tersedia untuk model bobot terbuka, termasuk penyempurnaan yang diawasi (SFT), pengoptimalan preferensi langsung (DPO), pembelajaran penguatan dengan hadiah yang dapat diverifikasi (RLVR), pembelajaran penguatan dengan umpan balik AI (RLAIF), dan pembelajaran penguatan multi-turn terkelola. Untuk kontrol infrastruktur penuh, pekerjaan pelatihan SageMaker yang dikelola AI, inferensi terkelola, dan HyperPod memberikan fleksibilitas lengkap atas alur kerja pelatihan dan inferensi, kerangka kerja, dan sumber daya komputasi.

Gunakan Amazon SageMaker JumpStart untuk mengevaluasi, membandingkan, dan memilih model berdasarkan kualitas dan tanggung jawab yang telah ditentukan sebelumnya.

Gunakan resep kustomisasi Amazon Nova pada SageMaker AI untuk kustomisasi model yang komprehensif, termasuk menyempurnakan dan melatih model Nova yang dapat diimpor ke Amazon Bedrock. Dengan Amazon Nova Forge, Anda dapat membuat model perbatasan Anda sendiri menggunakan Nova dengan mulai dari pos pemeriksaan model awal, memadukan data eksklusif dengan data Nova-curated pelatihan Amazon, dan hosting model khusus dengan aman. AWS

Amazon Bedrock menggunakan harga per token untuk inferensi model, berdasarkan token input dan output yang diproses. Fitur tambahan seperti Basis Pengetahuan, Pagar Pembatas, dan Otomasi Data dihargai secara terpisah berdasarkan penggunaan. Struktur penetapan harga ini membuatnya efisien untuk memperkirakan dan mengendalikan biaya. Amazon Bedrock juga menawarkan tingkatan layanan untuk inferensi: Prioritas untuk beban kerja yang sensitif terhadap latensi, Flex untuk pemrosesan batch yang dioptimalkan biaya, dan Cadangan untuk kapasitas berkomitmen dengan harga yang dapat diprediksi. Inferensi batch menawarkan penghematan hingga 50% untuk beban kerja non-real-time, dan Provisioned Throughput menyediakan kapasitas berkomitmen dengan tarif yang lebih rendah. Model penetapan harga untuk Amazon Bedrock sangat cocok untuk aplikasi dengan beban kerja yang dapat diprediksi, atau untuk kasus di mana Anda menginginkan lebih banyak transparansi dalam pengeluaran Anda. AI-related

SageMaker AI menawarkan harga per token untuk kustomisasi model tanpa server, memberikan kesederhanaan harga yang sama dengan Amazon Bedrock. Untuk pekerjaan pelatihan terkelola, inferensi, dan HyperPod, SageMaker AI mengikuti harga berbasis penggunaan untuk sumber daya komputasi, penyimpanan, dan layanan lain yang dikonsumsi selama proses pengembangan AI, dengan harga bervariasi tergantung pada jenis dan ukuran instans. SageMaker Paket Tabungan AI dapat mengurangi biaya hingga 64% dengan komitmen 1 atau 3 tahun. SageMaker AI juga mendukung perangkat keras yang dioptimalkan biaya termasuk AWS Trainium untuk pelatihan dan AWS Inferentia untuk inferensi.

Amazon Bedrock menyederhanakan proses integrasi dengan menyediakan model pra-terlatih yang dapat Anda akses langsung melalui panggilan API. Gunakan Amazon Bedrock SDK, REST API, atau titik OpenAI akhir API yang kompatibel untuk mengirim data input dan menerima prediksi dari model tanpa perlu mengelola infrastruktur yang mendasarinya. Titik OpenAI akhir yang kompatibel mendukung Responses API dan Chat Completions API. Dengan titik akhir ini, Anda dapat memigrasikan OpenAI aplikasi yang ada dengan memperbarui URL dasar dan kunci API. Pendekatan ini secara signifikan mengurangi kompleksitas dan waktu yang dibutuhkan untuk mengintegrasikan kemampuan AI ke dalam aplikasi, membuatnya dapat diakses oleh berbagai pengembang.

SageMaker AI menyediakan platform komprehensif untuk membangun, melatih, dan menerapkan model AI khusus. Untuk inferensi terkelola pada titik akhir SageMaker AI, Anda menggunakan SageMaker AI SDK atau API untuk mengakses model yang digunakan. SageMaker AI menyediakan alat seperti rekomendasi inferensi GenAI dan benchmarking untuk menyederhanakan pemilihan jenis instance. Untuk penyesuaian tanpa server, model khusus juga dapat diterapkan ke Amazon Bedrock untuk inferensi tanpa server tanpa pengaturan infrastruktur tambahan.

Amazon Bedrock lebih mudah diakses oleh pengguna yang lebih luas, termasuk pengembang dan bisnis dengan keahlian ML terbatas. Dengan menyediakan model pra-terlatih yang dapat dengan mudah diintegrasikan ke dalam aplikasi melalui panggilan API, Amazon Bedrock menghilangkan banyak kompleksitas yang terkait dengan pembuatan dan penerapan model AI. Untuk jalur tanpa server, penyesuaian Amazon Bedrock dan SageMaker AI tanpa server menangani prapemrosesan data, pemilihan model, dan manajemen infrastruktur. Anda dapat fokus mengintegrasikan kemampuan AI ke dalam aplikasi Anda tanpa keahlian ML yang mendalam.

SageMaker AI memberikan pengalaman terpandu yang menyederhanakan penyesuaian model untuk berbagai pengguna. UI yang dipandu dan alur kerja yang dibantu agen AI (dalam pratinjau) memungkinkan pengembang menyelesaikan alur kerja penyesuaian dalam beberapa klik atau melalui bahasa alami, termasuk pemilihan teknik, persiapan data, dan evaluasi model. Untuk kasus penggunaan lanjutan seperti pekerjaan dan HyperPod cluster pelatihan khusus, keahlian ML yang lebih dalam sangat membantu untuk mengoptimalkan alur kerja pelatihan, kerangka kerja, dan konfigurasi infrastruktur.

Amazon Bedrock menawarkan serangkaian fitur untuk membantu Anda membangun dan menskalakan aplikasi dan agen AI, termasuk fitur pilihan model (evaluasi), fitur pengoptimalan biaya dan latensi (caching cepat, perutean prompt cerdas, tingkatan layanan), fitur penyesuaian (basis pengetahuan, distilasi model, penyetelan penguatan), perlindungan (pagar pembatas dengan pemeriksaan penalaran otomatis, perlindungan organisasi, filter konten gambar, dan dukungan lintas platform untuk model Bedrock non-Amazon), fitur agentic (Amazon Bedrock) Rock untuk membangun, menyebarkan, dan AgentCore mengoperasikan agen AI dalam skala besar, kolaborasi multi- AWS agen, Agen Registry, dan kompatibilitas agnostik kerangka kerja denganLangGraph,CrewAI, danLlamaIndex), dan fitur pemrosesan data (Amazon Bedrock Data Automation untuk dokumen, gambar, audio, dan video). Amazon Bedrock juga menawarkan impor model khusus, titik OpenAI akhir API yang kompatibel, dan API terpadu tanpa server untuk mengakses model dasar. Caching cepat dapat mengurangi biaya hingga 90% dan latensi hingga 85% untuk model yang didukung. Perutean prompt cerdas dapat mengurangi biaya hingga 30% tanpa mengorbankan akurasi. Model suling hingga 500% lebih cepat dan hingga 75% lebih murah daripada model asli, dengan kehilangan akurasi kurang dari 2% untuk kasus penggunaan seperti RAG. Pagar pembatas dengan pemeriksaan penalaran otomatis membantu mengurangi kesalahan faktual karena halusinasi mendekati nol.

SageMaker AI menawarkan platform komprehensif untuk siklus hidup pengembangan AI penuh. Kemampuan utama meliputi: kustomisasi model tanpa server dengan SFT, DPO, RLVR, dan RLAIF melalui UI terpandu dan alur kerja yang dibantu agen AI; Amazon SageMaker JumpStart sebagai hub model dengan hampir 1.000 model yang tersedia termasuk model open-source, eksklusif, dan kustom; dukungan untuk ML prediktif dan ML klasik selain AI generatif; dan portabilitas IDE dengan dukungan untuk,, dan lingkungan pengembangan lainnya. VS Code Kiro Amazon SageMaker HyperPod menyediakan pengalaman menyeluruh untuk pengembangan AI skala besar, mendukung pelatihan dan inferensi pada cluster terkelola dengan pelatihan tanpa tujuan pemeriksaan, pelatihan elastis, dan tata kelola tugas. HyperPod mengurangi waktu pelatihan hingga 40%, tata kelola tugas mengurangi biaya hingga 40%, dan pelatihan tanpa pemeriksaan memungkinkan lebih dari 95% kualitas pelatihan. HyperPod skala di ribuan akselerator AI. SageMaker Titik akhir AI mendukung penskalaan ke instans nol untuk mengurangi biaya saat idle, sesi stateful untuk mempertahankan konteks di seluruh permintaan inferensi, dan teknik pengoptimalan inferensi seperti decoding EAGLE-based spekulatif untuk peningkatan throughput hingga 2,5x. SageMaker AI mendukung opsi penerapan lanjutan termasuk cluster instans heterogen dan inferensi lintas wilayah untuk ketersediaan, A/B pengujian, penerapan canary, penerapan, dan pengujian bayangan yang blue/green lebih tinggi. Komponen Inferensi mengurangi biaya penerapan model dengan menghosting beberapa model di belakang satu titik akhir.

Amazon SageMaker HyperPod menyediakan infrastruktur yang tangguh dan dapat diskalakan untuk melatih dan menerapkan model AI dalam skala besar dengan akses ke lapisan orkestrasi: Kubernetes (EKS) untuk pelatihan dan inferensi, atau Slurm untuk pelatihan. Untuk inferensi, HyperPod juga menawarkan kemampuan bawaan seperti caching KV terdistribusi, inferensi sadar kapasitas, dan perutean cerdas, mengurangi latensi hingga 40%.

Apa itu Amazon Bedrock?

Gunakan platform tanpa server yang dikelola sepenuhnya ini untuk membangun, menjalankan, dan mengoperasikan aplikasi dan agen AI pada skala produksi.

Jelajahi panduan

Pertanyaan yang sering diajukan tentang Amazon Bedrock

Dapatkan jawaban atas pertanyaan yang paling umum diajukan tentang Amazon Bedrock. Ini termasuk cara menggunakan agen, pertimbangan keamanan, detail tentang kit pengembangan perangkat lunak (SDK) Amazon Bedrock, penambahan generasi pengambilan, cara menggunakan evaluasi model, dan penagihan.

Baca FAQ

Panduan untuk menghasilkan deskripsi produk dengan Amazon Bedrock

Gunakan Amazon Bedrock dalam solusi Anda untuk mengotomatiskan proses peninjauan dan persetujuan produk Anda untuk pasar e-commerce atau situs web ritel.

Jelajahi solusinya

Apa itu Amazon Bedrock IDE?

Gunakan Amazon Bedrock IDE untuk menemukan model Amazon Bedrock, dan buat aplikasi AI generatif yang menggunakan model dan fitur Amazon Bedrock.

Jelajahi panduan

Bangun aplikasi AI generatif dengan Amazon Bedrock IDE

Posting blog ini menjelaskan bagaimana Anda dapat membangun aplikasi menggunakan beragam model berkinerja terbaik. Kemudian menjelaskan cara mengevaluasi dan berbagi aplikasi AI generatif Anda dengan Amazon Bedrock IDE.

Baca blognya

Membangun aplikasi obrolan dengan Amazon Bedrock IDE

Buat aplikasi agen obrolan Amazon Bedrock IDE yang memungkinkan pengguna mengobrol dengan model Amazon Bedrock melalui antarmuka percakapan.

Jelajahi panduan

Apa itu Amazon SageMaker AI?

Gunakan layanan AI yang dikelola sepenuhnya ini untuk membangun, melatih, dan menerapkan model AI ke lingkungan yang siap produksi yang dihosting.

Jelajahi panduan

Memulai dengan Amazon SageMaker AI

Siapkan akses ke Amazon SageMaker AI, termasuk langkah-langkah penyiapan cepat atau khusus.

Jelajahi panduan

Memulai dengan Amazon SageMaker JumpStart

Jelajahi template SageMaker JumpStart solusi Amazon yang menyiapkan infrastruktur untuk kasus penggunaan umum, dan contoh notebook yang dapat dieksekusi untuk AI dengan SageMaker AI.

Jelajahi panduan

Kustomisasi model dengan Amazon SageMaker AI

Percepat kustomisasi model AI dengan pembelajaran penguatan tanpa server dan alur kerja yang dipandu agen AI.

Jelajahi kustomisasi model