ماژول SHAP (SHapley Additive exPlanations) که به تازگی منتشر شده است با استفاده از نظریه بازی ها به بررسی میزان اثرگذاری هر یک از ابعاد مساله بر خروجی می پردازد. فرض کنید مساله شما پیش بینی قیمت خانه است. در شکل زیر اهمیت هر یک از ابعاد مساله آمده است:
رنگ قرمز نمایش دهنده تاثیرگذاری مثبت بر خروجی و رنگ آبی نمایش دهنده تاثیرگذاری منفی بر خروجی است. این ماژول به گونه ای طراحی شده است که امکان تولید نمودارهای دیگری هم وجود دارد.
منابع
https://github.com/slundberg/shap
