Debugging dan meningkatkan kinerja model

Inti dari pelatihan model pembelajaran mesin, jaringan saraf pembelajaran mendalam, model transformator adalah dalam mencapai konvergensi model yang stabil, dan dengan demikian, state-of-the-art model memiliki jutaan, miliaran, atau triliunan parameter model. Jumlah operasi untuk memperbarui sejumlah besar parameter model selama setiap iterasi dapat dengan mudah menjadi astronomi. Untuk mengidentifikasi masalah konvergensi model, penting untuk dapat mengakses parameter model, aktivasi, dan gradien yang dihitung selama proses pengoptimalan.

Amazon SageMaker AI menyediakan dua alat debugging untuk membantu mengidentifikasi masalah konvergensi tersebut dan mendapatkan visibilitas ke dalam model Anda.

Amazon SageMaker AI dengan TensorBoard

Untuk menawarkan kompatibilitas yang lebih besar dengan alat komunitas sumber terbuka dalam platform Pelatihan SageMaker AI, SageMaker AI dihosting TensorBoard sebagai aplikasi dalam SageMaker domain AI. Anda dapat membawa pekerjaan pelatihan Anda ke SageMaker AI dan terus menggunakan penulis TensorBoard ringkasan untuk mengumpulkan tensor keluaran model. Karena TensorBoard diimplementasikan ke dalam domain SageMaker AI, ini juga memberi Anda lebih banyak opsi untuk mengelola profil pengguna di bawah domain SageMaker AI di AWS akun Anda, dan memberikan kontrol yang baik atas profil pengguna dengan memberikan akses ke tindakan dan sumber daya tertentu. Untuk mempelajari selengkapnya, lihat TensorBoard di Amazon SageMaker AI.

Amazon SageMaker Debugger

Amazon SageMaker Debugger adalah kemampuan SageMaker AI yang menyediakan alat untuk mendaftarkan kait ke panggilan balik untuk mengekstrak tensor keluaran model dan menyimpannya di Amazon Simple Storage Service. Ini menyediakan aturan bawaan untuk mendeteksi masalah konvergensi model, seperti overfitting, fungsi aktivasi jenuh, gradien menghilang, dan banyak lagi. Anda juga dapat mengatur aturan bawaan dengan Amazon CloudWatch Events dan AWS Lambda untuk mengambil tindakan otomatis terhadap masalah yang terdeteksi, dan menyiapkan Layanan Pemberitahuan Sederhana Amazon untuk menerima pemberitahuan email atau teks. Untuk mempelajari informasi lebih lanjut, lihat Amazon SageMaker Debugger.