סקורינג אשראי
שכל החלטה בו מוסברת

Per-decision Explainability

הסבר ברמת הבקשה הבודדת - לא רק חשיבות פיצ'רים גלובלית.

• SHAP values לכל החלטה
• LIME לבדיקות נקודתיות
• שחזור ההחלטה ב-95%+ מהמקרים
• אחסון ההסבר ב-audit trail

Adverse Action Reasons

נימוקי דחייה קריאים ללקוח - לא קוד שגיאה.

• Reason codes בעברית
• מיפוי ל-ECOA / Reg B (לפעילות בחו"ל)
• ניסוח שאינו חושף את המודל
• עקביות בין ההסבר להחלטה

Fair Lending & Bias

ניטור הטיה לפי מאפיינים מוגנים - לפני שהרגולטור מוצא אותה.

• Disparate impact testing
• Proxy-feature detection
• Reject Inference נכון
• דוחות תקופתיים לוועדת אשראי

Model Cards & Documentation

תיעוד שמוכן להצגה בוועדת מודלים ולרגולטור.

• Model Card לפי Mitchell et al. 2019
• נתוני אימון, מגבלות, טווח שימוש
• מדדי ביצוע לפי פלח אוכלוסייה
• גרסאות ו-approval trail

Champion / Challenger

המודל מתעדכן בבקרה - לא "נשאר קפוא שנתיים".

• A/B בין מודלים ב-production
• Drift detection (PSI, KS)
• Rollback מתועד
• Model registry (MLflow)

אינטגרציה למערכת הליבה

ההחלטה חוזרת ל-LOS/Core בזמן אמת, עם ההסבר צמוד אליה.

• Decision API עם latency נמוך
• Reason codes בתוך ה-payload
• Override ידני מתועד
• שמירת snapshot של הפיצ'רים

בנק ישראל + הגנת הפרטיות

הוראות ניהול סיכון מודל (Model Risk), עקרון ההסבר ללקוח, שמירת נתונים לפי חוק הגנת הפרטיות ותקנות אבטחת מידע.

EU AI Act Article 13 + GDPR

סיווג credit scoring כ-high-risk, חובת שקיפות (Art. 13), פיקוח אנושי (Art. 14), ו-GDPR Art. 22 - הזכות להסבר בהחלטה אוטומטית.

ECOA / Reg B / FCRA

לגופים עם פעילות בארה"ב: Adverse Action Notice לפי ECOA Reg B ו-FCRA, ותיעוד model risk לפי SR 11-7.

Explainability עובד

מה התעשייה מדווחת: צוותי אשראי עם SHAP/LIME משחזרים בפועל את החלטת המודל ב-95%+ מהמקרים (FCA + EBA papers).

איפה אנחנו נכנסים: Retro-fitting של SHAP על XGBoost קיים, בלי להחליף את המודל שכבר בייצור.

Reject Inference משפר דיוק

מה התעשייה מדווחת: טיפול נכון ב-rejected applicants מצמצם הטיית מדגם ומשפר את יציבות המודל לאורך זמן.

איפה אנחנו נכנסים: תכנון מתודולוגיית reject inference שקופה ומתועדת - לא "תיקון" סמוי.

Bias נמצא לפני הרגולטור

מה התעשייה מדווחת: disparate impact נמצא לרוב רק אחרי תלונה - כשהתיקון כבר יקר.

איפה אנחנו נכנסים: ניטור fair-lending שוטף כחלק מה-pipeline, עם התראות ודוחות לוועדה.