Interpretasi global

Memahami bagaimana fitur berkontribusi pada output model secara keseluruhan memberikan wawasan umum yang berguna untuk pemilihan fitur dan pengembangan model. Untuk mengukur efek penambahan fitur baru, Anda biasanya menjalankan validasi silang dengan dan tanpa fitur tersebut. Namun, menjalankan validasi silang untuk semua kombinasi fitur dan semua jenis model yang dipertimbangkan seringkali tidak layak karena biaya komputasi. Oleh karena itu, metode lain untuk menentukan pentingnya fitur berguna untuk membuat keputusan cepat. Rekomendasi kami untuk menentukan atribusi fitur global adalah menggabungkan skor atribusi fitur lokal yang direkomendasikan di bagian sebelumnya di semua data. Kami juga merekomendasikan untuk menghitung perubahan skor validasi silang saat fitur dihapus, jika batasan waktu dan komputasi mengizinkannya. Contoh berikut menggambarkan agregasi skor atribusi lokal. Ini rata-rata besarnya nilai SHAP untuk model klasifikasi iris (dari ikhtisar) dan memplotnya sebagai peta panas. Anda dapat melihat bahwa pengukuran sepal tidak memainkan peran yang kuat dalam model untuk menentukan kelas iris.

Untuk keluaran model tertentu, pengumpulan nilai SHAP di seluruh contoh evaluasi dapat divisualisasikan dalam plot hangat lebah, seperti yang diilustrasikan dalam diagram berikut (untuk subset data dari kumpulan data iris [4]). Di sini Anda dapat melihat bahwa petal_width atribut memiliki efek terbesar pada output model untuk kelasIris-versicolor, dan bahwa petal_width nilai tinggi memberikan kontribusi negatif terhadap prediksi kelas. Ketika lebih dari satu titik data memiliki nilai atribusi fitur yang sama atau sangat mirip, titik-titik tersebut ditumpuk untuk menunjukkan prevalensi yang lebih besar di lokasi tersebut.