[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"detail-sidebar-cat-1-fr-114":3,"doc-seo-204760-114":41,"doc-detail-204760-fr":108},{"code":4,"msg":5,"data":6},0,"success",[7,13,17,21,25,29,33,37],{"id":8,"doc_module":9,"doc_module_name":10,"category_name":11,"show_sort_weight":4,"slug":12},187,1,"Template","Affiches","affiches",{"id":14,"doc_module":9,"doc_module_name":10,"category_name":15,"show_sort_weight":4,"slug":16},185,"CV","cv-de4d58cbecd644d0a7e318765621a3e1",{"id":18,"doc_module":9,"doc_module_name":10,"category_name":19,"show_sort_weight":4,"slug":20},186,"Factures","factures",{"id":22,"doc_module":9,"doc_module_name":10,"category_name":23,"show_sort_weight":4,"slug":24},189,"Formulaires","formulaires",{"id":26,"doc_module":9,"doc_module_name":10,"category_name":27,"show_sort_weight":4,"slug":28},191,"Général","general-191",{"id":30,"doc_module":9,"doc_module_name":10,"category_name":31,"show_sort_weight":4,"slug":32},190,"Lettres","lettres",{"id":34,"doc_module":9,"doc_module_name":10,"category_name":35,"show_sort_weight":4,"slug":36},184,"Présentations","cv-767d690125b54e1a9d6afd8b391bba13",{"id":38,"doc_module":9,"doc_module_name":10,"category_name":39,"show_sort_weight":4,"slug":40},188,"Réseaux sociaux","reseaux-sociaux",{"code":4,"msg":42,"data":43},"ok",{"site_id":44,"language":45,"slug":46,"title":47,"keywords":48,"description":49,"schema_data":50,"social_meta":101,"head_meta":103,"extra_data":105,"updated_unix":107},114,"fr","local-post-hoc-interpretability-of-black-box-classifiers-phd-thesis-in-computer-science","Interprétabilité locale post-hoc des modèles de classification \"boîtes noires\" - Thèse de doctorat d'Informatique","","Cette thèse porte sur le domaine de l’XAI (eXplainable AI), et plus particulièrement sur l’interprétabilité post-hoc locale, visant à générer des explications pour une prédiction unique d’un classificateur entraîné. Le travail s’inscrit dans un contexte entièrement agnostique : aucune connaissance sur le classificateur ni sur les données d’entraînement n’est utilisée. La recherche identifie des risques susceptibles de nuire à la validité des explications, puis propose des critères, diagnostics et méthodes pour les détecter, les caractériser et y répondre.",{"@graph":51,"@context":100},[52,68,83],{"@type":53,"itemListElement":54},"BreadcrumbList",[55,59,62,65],{"item":56,"name":57,"@type":58,"position":9},"https://docshare.wps.com","Home","ListItem",{"item":60,"name":10,"@type":58,"position":61},"https://docshare.wps.com/fr/template/",2,{"item":63,"name":35,"@type":58,"position":64},"https://docshare.wps.com/fr/template/présentations/",3,{"item":66,"name":47,"@type":58,"position":67},"https://docshare.wps.com/fr/template/local-post-hoc-interpretability-of-black-box-classifiers-phd-thesis-in-computer-science/204760/",4,{"url":66,"name":47,"@type":69,"author":70,"headline":47,"publisher":73,"fileFormat":76,"inLanguage":45,"description":49,"dateModified":77,"datePublished":77,"encodingFormat":76,"isAccessibleForFree":78,"interactionStatistic":79},"DigitalDocument",{"name":71,"@type":72},"Lucas Vance","Person",{"url":56,"name":74,"@type":75},"DocShare","Organization","application/pdf","2026-09-05",true,{"@type":80,"interactionType":81,"userInteractionCount":4},"InteractionCounter",{"@type":82},"ViewAction",{"@type":84,"mainEntity":85},"FAQPage",[86,92,96],{"name":87,"@type":88,"acceptedAnswer":89},"Quel est le cadre étudié pour générer les explications dans cette thèse ?","Question",{"text":90,"@type":91},"La thèse travaille dans un contexte entièrement agnostique : les explications sont produites sans utiliser de connaissance sur le classificateur traité comme une boîte noire, ni sur les données ayant servi à l’entraînement.","Answer",{"name":93,"@type":88,"acceptedAnswer":94},"Quels risques pour l’interprétabilité sont mis en avant ?",{"text":95,"@type":91},"Trois risques sont étudiés : générer des explications hors-distribution, produire des explications sans association possible à une vérité de base, et générer des explications pas assez locales.",{"name":97,"@type":88,"acceptedAnswer":98},"Comment la thèse définit et évalue la localité des explications ?",{"text":99,"@type":91},"La localité est abordée via le cadre des explications contrefactuelles, puis via l’évaluation par modèles de substitution avec un critère de Local Fidelity lié à la frontière de décision approximée.","https://schema.org",{"og:url":66,"og:type":102,"og:title":47,"og:site_name":74,"og:description":49},"article",{"robots":104,"canonical":66},"index,follow",{"doc_id":106,"site_id":44},204760,1788575334,{"code":4,"msg":5,"data":109},{"doc_id":106,"user_id":110,"nickname":71,"user_avatar":111,"doc_module":9,"category_id":34,"category_name":35,"doc_title":47,"doc_description":49,"doc_content":112,"file_id":113,"file_url":114,"file_type":115,"file_size":116,"view_count":4,"is_deleted":4,"is_public":9,"is_downloadable":9,"audit_status":9,"page_count":117,"language":118,"language_code":45,"site_id":44,"html_lang":45,"table_of_contents":119,"faqs":120,"seo_title":121,"seo_description":49,"update_tm":107,"read_time":122},549768064622,"https://ap-avatar.wpscdn.com/davatar_6f874abed73319feea01a86fa6f0fab8","Sorbonne Université  \nÉcole doctorale Informatique, Télécommunications et Électronique (Paris)  \nÉquipe LFI, LIP6  \nInterprétabilité locale post-hoc des modèles declassification \"boîtes noires\"  \nPar Thibault Laugel  \nThèse de doctorat d'Informatique  \nDirigée par Marie-Jeanne Lesot, Christophe Marsala et Marcin Detyniecki  \nPrésentée et soutenue publiquement le 16 Mars 2020  \nDevant un jury composé de :  \nFosca Giannotti Jamal Atif  \nChris Russell Nicolas Maudet Marie-Jeanne Lesot Christophe Marsala Marcin Detyniecki  \nKDDLab, ISTI-CNR  \nLAMSADE, Univ. Paris-Dauphine Alan Turing Institute  \nLIP6, Sorbonne Université  \nLIP6, Sorbonne Université  \nLIP6, Sorbonne Université AXA, Paris  \nRapporteur  \nRapporteur  \nExaminateur  \nExaminateur  \nDirecteur de thèse  \nDirecteur de thèse  \nDirecteur de thèse  \nLocal Post-hoc Interpretability for Black-box Classifiers  \nv  \n2éSUMé  \nCette thèse porte sur le domaine de l'XAI (eXplainable AI), et plus particulièrement sur le paradigme de l'interprétabilité post-hoc locale, c'est-à-dire la génération d'explications pour une prédiction unique d'un classificateur entraîné . En particulier, nous étudions un contexte entièrement agnostique, c'est-à-dire quel'explication est générée sans utiliser aucune connaissance sur le classificateur (qui est alors traité comme une boîte noire), ni les données utilisées pour l'entraîner. Dans cette thèse, nous identifions plusieurs problèmes quipeuvent survenir dans ce contexte et qui peuvent être préjudiciables à l'interprétabilité . Nous nous proposons d'étudier chacune de ces problématiques et de proposer des critères et des approches nouvelles pour les détecter et les caractériser. Nous proposons de plus des méthodes de génération d'explications originales pour à ces problématiques. Les trois questions sur lesquelles nous nous concentrons sont : le risque de générer des explications qui sont hors-distribution ; le risque de générer des explications qui ne peuvent être associées à aucune instance de vérité de base ; enfin, le risque de générer des explications qui ne sont pas assez locales.  \nAfin de définir une explication locale, c'est-à-dire une explication permettant de comprendre une prédiction unique, nous proposons tout d'abord d'examiner le cadre des explications contrefactuelles. Nous proposons d'introduire une contrainte de parcimonie dans la fonction de coût qui en résulte. Nous proposons une procédure originale pour optimiser la fonction ainsi obtenue, appelée Growing Spheres, et nous montrons expérimentalement que cette approche permet d'obtenir des explications à la fois locales et faciles à comprendre, en accord avec les attentes de l'utilisateur. Nous étudions également la question des explications contrefactuelles hors-distribution, et montrons l'existence d'un risque auquel toutes les approches d'interprétabilité post-hoc sont vulnérables.  \nPuis, nous formulons un desideratum original pour les explications en termes de justification, qui peut être considéré comme un lien avec la connaissance de la vérité de terrain, afin qu'une explication ne soit pas basée sur des artefacts appris par le modèle de classification. Nous examinons ensuite le risque auquelsont confrontées les méthodes post-hoc, en particulier les explications contrefactuelles, en deux temps : nous proposons deux outils de diagnostic, d'abord pour mettre en évidence l'existence de ce risque, ensuite pour évaluer la vulnérabilité des approches contrefactuelles post-hoc. Nous montrons expérimentalement que ce risque existe et que les approches contrefactuelles y sont vulnérables. Nous étudions également le lien entre cette vulnérabilité et la localité des explications contrefactuelles.  \nNous remettons ensuite en question cette notion de localité des explicationsen utilisant une seconde catégorie d'approches d'interprétabilité, reposant sur l'utilisation de modèles de substitution. Nous proposons de mesurer la fidélité  \nvi  \ndu modèle de substitution construit au classifieur \"boîte noire\"","cbCaipEKioeTMRPc","https://ap.wps.com/l/cbCaipEKioeTMRPc","pdf",4231560,157,"French","# Contexte et objectif\n## Interprétabilité post-hoc locale en contexte agnostique\n# Problèmes et risques des explications\n## Explications hors-distribution\n## Absence de lien avec une vérité de base\n## Manque de localité\n# Explications contrefactuelles\n## Parcipimie et optimisation\n## Growing Spheres\n## Diagnostic hors-distribution\n# Justification et artefacts\n## Désideratum de justification\n## Outils de diagnostic et vulnérabilités\n# Localité via modèles de substitution\n## Local Fidelity et frontière de décision\n## Impact de l’échantillonnage\n# Lien entre substitution locale et contrefactuels\n## Généralisation d’une explication\n## Relaxation des approches contrefactuelles","[{\"question\":\"Quel est le cadre étudié pour générer les explications dans cette thèse ?\",\"answer\":\"La thèse travaille dans un contexte entièrement agnostique : les explications sont produites sans utiliser de connaissance sur le classificateur traité comme une boîte noire, ni sur les données ayant servi à l’entraînement.\"},{\"question\":\"Quels risques pour l’interprétabilité sont mis en avant ?\",\"answer\":\"Trois risques sont étudiés : générer des explications hors-distribution, produire des explications sans association possible à une vérité de base, et générer des explications pas assez locales.\"},{\"question\":\"Comment la thèse définit et évalue la localité des explications ?\",\"answer\":\"La localité est abordée via le cadre des explications contrefactuelles, puis via l’évaluation par modèles de substitution avec un critère de Local Fidelity lié à la frontière de décision approximée.\"}]","Interprétabilité locale post-hoc des modèles de classification \"boîtes noires\" - Thèse de doctorat d'Informatique | PDF",55]