Ce projet explore différentes méthodes d’explicabilité de l’Intelligence Artificielle (XAI) à travers plusieurs études de cas couvrant des domaines variés : données tabulaires, vision par ordinateur, traitement du langage naturel (NLP) et réseaux sur graphes.
L’objectif est de rendre les modèles “boîte noire” plus transparents en identifiant les facteurs qui influencent leurs décisions. Ce dépôt sert de support à la présentation du projet via MystMD.
Études de cas¶
Le projet est structuré autour de six notebooks interactifs illustrant des concepts clés de l’interprétabilité :
SHAP : Détection du Cancer du Sein
Méthode : SHAP (SHapley Additive exPlanations).
Données : Breast Cancer Wisconsin (Diagnostic).
Objectif : Comprendre l’apport de chaque caractéristique physique (rayon, texture, etc.) dans la classification d’une tumeur comme maligne ou bénigne.
DiCE : Contre-factuels & Qualité du Vin
Méthode : Diverse Counterfactual Explanations.
Données : Wine Quality.
Objectif : Générer des exemples contrefactuels pour répondre à la question : “Quels changements minimaux sur ce vin auraient permis d’obtenir une meilleure note ?”
Grad-CAM : Visualisation d’Attention (ResNet)
Méthode : Gradient-weighted Class Activation Mapping.
Modèle : ResNet50 (pré-entraîné sur ImageNet).
Objectif : Produire une carte de chaleur montrant les zones de l’image sur lesquelles le modèle se focalise pour sa prédiction.
BERT & Captum : Analyse de Sentiment
Méthode : Integrated Gradients (via Captum).
Modèle : BERT (fine-tuné sur SST-2).
Objectif : Identifier les tokens (mots ou sous-mots) ayant le plus fort impact sur le score de sentiment d’une phrase.
LRP : Propagation de Pertinence (Iris)
Méthode : Layer-wise Relevance Propagation.
Modèle : Multi-Layer Perceptron (MLP).
Objectif : Attribuer une part de la prédiction finale à chaque neurone d’entrée pour expliquer la classification des espèces d’Iris.
GNN-LRP : Explication de Graphes
Méthode : LRP appliqué aux Graph Neural Networks.
Données : Graphes aléatoires avec motifs de “Maison”.
Objectif : Expliquer comment un GNN parvient à isoler des structures topologiques spécifiques dans un réseau.
Installation¶
Le projet utilise uv pour la gestion de l’environnement Python.
# Cloner le dépôt
git clone https://github.com/mathisdrn/explainable-ai.git
cd explainable-ai
# Installer les dépendances
uv syncVisualisation¶
Pour lancer le site de présentation localement avec MystMD :
npx myst start