View a markdown version of this page

Menyesuaikan model Amazon Nova di AI SageMaker - Amazon Nova

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Menyesuaikan model Amazon Nova di AI SageMaker

Anda dapat menyesuaikan model Amazon Nova, termasuk model Amazon Nova 2.0 yang disempurnakan, melalui resep dan melatihnya SageMaker. Resep-resep ini mendukung teknik seperti fine-tuning (SFT) dan Reinforcement Fine-Tuning (RFT) yang diawasi, dengan opsi adaptasi peringkat penuh dan peringkat rendah (LoRa).

Alur kerja kustomisasi ujung ke ujung melibatkan tahapan seperti pelatihan model, evaluasi model, dan penerapan untuk inferensi. Pendekatan penyesuaian model ini SageMaker memberikan fleksibilitas dan kontrol yang lebih besar untuk menyempurnakan model Amazon Nova yang didukung, mengoptimalkan hiperparameter dengan presisi, dan menerapkan teknik seperti fine-tuning hemat parameter LoRa (PEFT), SFT peringkat penuh, RFT, dan Lanjutan (CPT). Pre-Training

Pendekatan kustomisasi

SageMaker menawarkan dua pendekatan untuk menyesuaikan model Amazon Nova:

UI-based pengalaman — Gunakan untuk menyesuaikan model Amazon Nova melalui antarmuka yang sederhana dan dipandu. Pendekatan ini menyediakan alur kerja end-to-end termasuk pelatihan, evaluasi, dan penerapan tanpa menulis kode. UI-based Pengalaman ini ideal untuk eksperimen cepat, pengembangan bukti konsep, dan pengguna yang lebih menyukai alur kerja visual.

Code-based pengalaman — Gunakan SageMaker Python SDK, Nova SDK, dan resep pelatihan untuk menyesuaikan model secara terprogram. Pendekatan ini menawarkan fleksibilitas yang lebih besar, memungkinkan Anda mengonfigurasi hiperparameter tingkat lanjut, berintegrasi dengan CI/CD saluran pipa, dan mengotomatiskan alur kerja pelatihan. Pengalaman berbasis kode direkomendasikan untuk beban kerja produksi, persyaratan penyesuaian yang kompleks, dan tim dengan praktik MLOP yang mapan.

Pendekatan Terbaik untuk Manfaat utama
UI-based Eksperimen, pembuatan prototipe, iterasi cepat Pengaturan sederhana, alur kerja terpandu, tidak diperlukan pengkodean
Code-based Produksi, otomatisasi, konfigurasi lanjutan Fleksibilitas penuh, integrasi pipa, kontrol versi

Platform kustomisasi

AWS menawarkan tiga platform untuk menyesuaikan model Amazon Nova, masing-masing dirancang untuk kasus penggunaan dan persyaratan yang berbeda:

Amazon Bedrock - Menyediakan jalur termudah dan tercepat untuk memodelkan kustomisasi dengan pengaturan minimal. Bedrock menangani semua manajemen infrastruktur secara otomatis, memungkinkan Anda untuk fokus pada data dan kasus penggunaan Anda. Platform ini sangat ideal ketika Anda membutuhkan waktu-ke-nilai tercepat dan lebih memilih pengalaman yang dikelola sepenuhnya.

SageMaker pekerjaan pelatihan - Menyediakan lingkungan yang dikelola sepenuhnya untuk menyesuaikan model Amazon Nova di mana Anda tidak perlu membuat atau memelihara cluster apa pun. Layanan ini secara otomatis menangani semua penyediaan infrastruktur, penskalaan, dan manajemen sumber daya, sehingga Anda dapat fokus mengonfigurasi parameter pelatihan dan mengirimkan pekerjaan Anda. Platform ini menawarkan keseimbangan antara kemudahan penggunaan dan fleksibilitas, teknik pendukung seperti Parameter Efisien Fine-tuning (PEFT), fine tuning peringkat penuh, dan Penguatan Fine-Tuning (RFT).

SageMaker HyperPod— Menawarkan lingkungan khusus untuk pelatihan terdistribusi skala besar dengan mengharuskan Anda membuat dan mengelola kluster EKS dengan grup instans terbatas (RIG). Platform ini memberi Anda fleksibilitas maksimum dalam mengonfigurasi lingkungan pelatihan Anda dengan instans GPU khusus dan penyimpanan Amazon FSx for Lustre terintegrasi, membuatnya sangat cocok untuk skenario pelatihan terdistribusi lanjutan, pengembangan model yang sedang berlangsung, dan beban kerja penyesuaian skala perusahaan.

Platform Kompleksitas Fleksibilitas Terbaik untuk
Amazon Bedrock Terendah Standar Kustomisasi tercepat, pengaturan minimal
SageMaker Lowongan Training Sedang Tinggi Fleksibilitas yang seimbang dan kemudahan penggunaan
SageMaker HyperPod Tertinggi Maksimum Pelatihan terdistribusi besar, beban kerja perusahaan
catatan

Jika Anda memberikan kunci KMS ke pekerjaan pelatihan kustomisasi model Amazon Nova Anda untuk enkripsi di bucket S3 Amazon-owned keluaran:

  • Anda harus memberikan kunci KMS yang sama saat memanggil pekerjaan pelatihan berulang berikutnya, atau saat memanggil Amazon Bedrock CreateCustomModel API yang memanfaatkan model terenkripsi.

  • Identitas yang memanggil CreateTrainingJob API (bukan peran eksekusi) harus memiliki izin untukCreateGrant,, RetireGrantEncrypt, dan GenerateDataKey sebagaimana didefinisikan dalam kebijakan kunci KMS.