View a markdown version of this page

Fine-tune model berat terbuka menggunakan OpenAI-API yang kompatibel - Amazon Bedrock
Kemampuan kunciAlur kerja fine-tuning penguatan untuk model bobot terbukaWilayah dan titik akhir yang didukung

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Fine-tune model berat terbuka menggunakan OpenAI-API yang kompatibel

Amazon Bedrock menyediakan endpoint API yang OpenAI kompatibel untuk model foundation fine-tuning. Titik akhir ini memungkinkan Anda menggunakan OpenAI SDK dan alat yang sudah dikenal untuk membuat, memantau, dan mengelola pekerjaan fine-tuning dengan model Amazon Bedrock. Halaman ini menyoroti penggunaan API ini untuk fine-tuning penguatan.

Kemampuan kunci

  • Unggah file pelatihan — Gunakan Files API untuk mengunggah dan mengelola data pelatihan untuk pekerjaan fine-tuning

  • Buat pekerjaan fine-tuning — Mulai fine-tuning pekerjaan dengan data pelatihan khusus dan fungsi hadiah

  • Daftar dan ambil pekerjaan — Lihat semua pekerjaan fine-tuning dan dapatkan informasi rinci tentang pekerjaan tertentu

  • Pantau acara pekerjaan - Lacak kemajuan fine-tuning melalui log peristiwa terperinci

  • Akses pos pemeriksaan - Ambil pos pemeriksaan model menengah yang dibuat selama pelatihan

  • Inferensi langsung — Setelah fine-tuning selesai, gunakan model fine-tuned yang dihasilkan untuk inferensi sesuai permintaan melalui API Amazon Bedrock OpenAI-compatible (API penyelesaian) tanpa langkah penerapan tambahan Responses/chat

  • Migrasi mudah - Kompatibel dengan basis kode OpenAI SDK yang ada

Alur kerja fine-tuning penguatan untuk model bobot terbuka

Sebelum melakukan fine-tuning, pastikan Anda memiliki prasyarat karena Amazon Bedrock memerlukan izin khusus untuk membuat dan mengelola proses fine-tuning. Untuk informasi keamanan dan izin yang komprehensif, lihatAkses dan keamanan untuk model berbobot terbuka.

Jalankan fine-tuning penguatan untuk model berbobot terbuka dalam 5 langkah:

  1. Unggah Dataset Pelatihan — Gunakan Files API untuk mengunggah prompt dalam format yang diperlukan (misalnya, JSONL) dengan tujuan “fine-tune” sebagai kumpulan data pelatihan fine-tuning penguatan. Untuk informasi selengkapnya, lihat Siapkan data untuk model berbobot terbuka.

  2. Konfigurasi Fungsi Hadiah — Tentukan grader untuk menilai respons model berdasarkan kebenaran, struktur, nada, atau tujuan lain menggunakan fungsi Lambda. Untuk informasi selengkapnya, lihat Menyiapkan fungsi hadiah untuk model berbobot terbuka.

  3. Create Fine-tuning Job — Luncurkan pekerjaan fine-tuning reinforcement menggunakan API yang OpenAI kompatibel dengan menentukan model dasar, kumpulan data, fungsi reward, dan pengaturan opsional lainnya seperti hyperparameters. Untuk informasi selengkapnya, lihat Buat pekerjaan fine-tuning.

  4. Pantau Kemajuan Pelatihan — Lacak status pekerjaan, peristiwa, dan metrik pelatihan menggunakan API pekerjaan fine-tuning. Untuk informasi selengkapnya, lihat Daftar acara fine-tuning. Akses pos pemeriksaan model perantara untuk mengevaluasi kinerja pada tahap pelatihan yang berbeda, lihatDaftar pos pemeriksaan fine-tuning.

  5. Jalankan Inferensi — Gunakan ID model yang disetel dengan baik secara langsung untuk inferensi melalui Respons yang kompatibel dengan Amazon Bedrock atau API Penyelesaian ObrolanOpenAI. Untuk informasi selengkapnya, lihat Jalankan inferensi dengan model yang disetel dengan baik.

Wilayah dan titik akhir yang didukung

Tabel berikut menunjukkan model dan wilayah foundation yang mendukung API fine-tuning yang OpenAI kompatibel:

Model dan wilayah yang didukung untuk OpenAI API fine-tuning yang kompatibel
Penyedia Model ID Model Nama wilayah Wilayah Titik akhir
OpenAI Gpt-oss-20B openai.gpt-oss-20b AS Barat (Oregon) us-west-2 batuan-mantle.us-west-2.api.aws
Qwen Qwen3 32B qwen.qwen3-32b AS Barat (Oregon) us-west-2 batuan-mantle.us-west-2.api.aws