Ho analizzato cinque implementazioni di XAI in sistemi di credit scoring bancari. I numeri parlano chiaro.
1. LIME vs SHAP per l'approvazione mutui
Una banca regionale ha testato entrambi gli approcci su 50.000 richieste. SHAP ha identificato il 23% in più di fattori di rischio nascosti rispetto a LIME, ma richiedeva 4 volte più tempo di calcolo.
2. Riduzione dei falsi positivi
Implementando feature importance visualizations, i revisori umani hanno ridotto i falsi rifiuti del 31%. Il problema era che il modello black box pesava troppo piccoli ritardi nei pagamenti utility.
3. Bias detection nelle microimprese
Counterfactual explanations hanno rivelato che il modello penalizzava sistematicamente le donne imprenditrici del 18%. Nessuno se n'era accorto in due anni di produzione.
4. Compliance time ridotto
Il tempo medio per giustificare un rifiuto di prestito agli auditor è passato da 4 ore a 22 minuti usando rule extraction automatica.
5. Customer retention migliorato
Fornendo spiegazioni personalizzate ai clienti rifiutati, una fintech ha visto il 41% tornare dopo 6 mesi con profili corretti, contro il precedente 12%.
La lezione principale: l'interpretabilità costa in performance, ma il ROI arriva dalla riduzione del rischio operativo e legale.