Interprétabilité locale post-hoc des modèles de classification "boîtes noires" - Thèse de doctorat d'Informatique

Sep 5, 2026

Télécharger par Lucas Vance

Cette thèse porte sur le domaine de l’XAI (eXplainable AI), et plus particulièrement sur l’interprétabilité post-hoc locale, visant à générer des explications pour une prédiction unique d’un classificateur entraîné. Le travail s’inscrit dans un contexte entièrement agnostique : aucune connaissance sur le classificateur ni sur les données d’entraînement n’est utilisée. La recherche identifie des risques susceptibles de nuire à la validité des explications, puis propose des critères, diagnostics et méthodes pour les détecter, les caractériser et y répondre.

LangueFrench

CatégoriePrésentations

FormatPDF

Pages157

Temps de lecture55 min

AccèsTéléchargement gratuit

Table des matières

Contexte et objectif

Interprétabilité post-hoc locale en contexte agnostique

Problèmes et risques des explications

Explications hors-distribution

Absence de lien avec une vérité de base

Manque de localité

Explications contrefactuelles

Parcipimie et optimisation

Growing Spheres

Diagnostic hors-distribution

Justification et artefacts

Désideratum de justification

Outils de diagnostic et vulnérabilités

Localité via modèles de substitution

Local Fidelity et frontière de décision

Impact de l’échantillonnage

Lien entre substitution locale et contrefactuels

Généralisation d’une explication

Relaxation des approches contrefactuelles

Sorbonne Université École doctorale Informatique, Télécommunications et Électronique (Paris) Équipe LFI, LIP6 Interprétabilité locale post-hoc des modèles declassiﬁcation "boîtes noires" Par Thibault Laugel Thèse de doctorat d'Informatique Dirigée par Marie-Jeanne Lesot, Christophe Marsala et Marcin Detyniecki Présentée et soutenue publiquement le 16 Mars 2020 Devant un jury composé de : Fosca Giannotti Jamal Atif Chris Russell Nicolas Maudet Marie-Jeanne Lesot Christophe Marsala Marcin Detyniecki KDDLab, ISTI-CNR LAMSADE, Univ. Paris-Dauphine Alan Turing Institute LIP6, Sorbonne Université LIP6, Sorbonne Université LIP6, Sorbonne Université AXA, Paris Rapporteur Rapporteur Examinateur Examinateur Directeur de thèse Directeur de thèse Directeur de thèse Local Post-hoc Interpretability for Black-box Classiﬁers v 2éSUMé Cette thèse porte sur le domaine de l'XAI (eXplainable AI), et plus particulièrement sur le paradigme de l'interprétabilité post-hoc locale, c'est-à-dire la génération d'explications pour une prédiction unique d'un classiﬁcateur entraîné . En particulier, nous étudions un contexte entièrement agnostique, c'est-à-dire quel'explication est générée sans utiliser aucune connaissance sur le classiﬁcateur (qui est alors traité comme une boîte noire), ni les données utilisées pour l'entraîner. Dans cette thèse, nous identiﬁons plusieurs problèmes quipeuvent survenir dans ce contexte et qui peuvent être préjudiciables à l'interprétabilité . Nous nous proposons d'étudier chacune de ces problématiques et de proposer des critères et des approches nouvelles pour les détecter et les caractériser. Nous proposons de plus des méthodes de génération d'explications originales pour à ces problématiques. Les trois questions sur lesquelles nous nous concentrons sont : le risque de générer des explications qui sont hors-distribution ; le risque de générer des explications qui ne peuvent être associées à aucune instance de vérité de base ; enﬁn, le risque de générer des explications qui ne sont pas assez locales. Aﬁn de déﬁnir une explication locale, c'est-à-dire une explication permettant de comprendre une prédiction unique, nous proposons tout d'abord d'examiner le cadre des explications contrefactuelles. Nous proposons d'introduire une contrainte de parcimonie dans la fonction de coût qui en résulte. Nous proposons une procédure originale pour optimiser la fonction ainsi obtenue, appelée Growing Spheres, et nous montrons expérimentalement que cette approche permet d'obtenir des explications à la fois locales et faciles à comprendre, en accord avec les attentes de l'utilisateur. Nous étudions également la question des explications contrefactuelles hors-distribution, et montrons l'existence d'un risque auquel toutes les approches d'interprétabilité post-hoc sont vulnérables. Puis, nous formulons un desideratum original pour les explications en termes de justiﬁcation, qui peut être considéré comme un lien avec la connaissance de la vérité de terrain, aﬁn qu'une explication ne soit pas basée sur des artefacts appris par le modèle de classiﬁcation. Nous examinons ensuite le risque auquelsont confrontées les méthodes post-hoc, en particulier les explications contrefactuelles, en deux temps : nous proposons deux outils de diagnostic, d'abord pour mettre en évidence l'existence de ce risque, ensuite pour évaluer la vulnérabilité des approches contrefactuelles post-hoc. Nous montrons expérimentalement que ce risque existe et que les approches contrefactuelles y sont vulnérables. Nous étudions également le lien entre cette vulnérabilité et la localité des explications contrefactuelles. Nous remettons ensuite en question cette notion de localité des explicationsen utilisant une seconde catégorie d'approches d'interprétabilité, reposant sur l'utilisation de modèles de substitution. Nous proposons de mesurer la ﬁdélité vi du modèle de substitution construit au classiﬁeur "boîte noire"

FAQ

Quel est le cadre étudié pour générer les explications dans cette thèse ?

La thèse travaille dans un contexte entièrement agnostique : les explications sont produites sans utiliser de connaissance sur le classificateur traité comme une boîte noire, ni sur les données ayant servi à l’entraînement.

Quels risques pour l’interprétabilité sont mis en avant ?

Trois risques sont étudiés : générer des explications hors-distribution, produire des explications sans association possible à une vérité de base, et générer des explications pas assez locales.

Comment la thèse définit et évalue la localité des explications ?

La localité est abordée via le cadre des explications contrefactuelles, puis via l’évaluation par modèles de substitution avec un critère de Local Fidelity lié à la frontière de décision approximée.

Sep 5, 2026

Télécharger par Lucas Vance