L'importance de l'explicabilité
Alors que les modèles sont déployés dans des environnements sensibles, comprendre pourquoi un modèle prend une décision est crucial.
SHAP vs. LIME
- SHAP (SHapley Additive exPlanations): Basé sur la théorie des jeux pour attribuer le rôle de chaque variable dans la prédiction.
- LIME (Local Interpretable Model-agnostic Explanations): Approxime localement le modèle boîte noire avec un modèle explicable simple.