Supervision : Marie-Jeanne LESOT, Christophe MARSALA

Co-supervision : LAUGEL Thibault (AXA)

interprétabilité des modèles en apprentissage automatique

Cette thèse vise à étudier comment de telles connaissances pourraient être utilisées pour renforcer les méthodes actuelles d'interprétabilité, afin de générer des explications plus utiles. Cela suppose la disponibilité de certaines connaissances d'experts, encodées sous une certaine forme : connaissances sur l'importance des attributs utilisés pour classification, sur les limites de l’espace considéré, le manque potentiel de fiabilité de certaines caractéristiques... En particulier, le cas de la connaissance causale (par exemple, encodée sous forme de graphe causal) devra être exploré. La thèse portera sur les méthodes d'interprétabilité post-hoc (par exemple, contrefactuels, modèles de substitution...) pour la classification. En premier lieu, l'interprétabilité locale (c'est-à-dire la génération d'explications pour une seule prédiction) doit être étudiée. Toutefois, il est possible d'étendre l'étude aux méthodes d'interprétabilité globale.

2022-2023 Publications

• 2023
  • A. Jeyasothy, A. Rico, M.‑J. Lesot, Ch. Marsala, Th. Laugel : “Knowledge Integration in XAI with Gödel Integrals”, International Conference on Fuzzy Systems, Incheon, Korea, Republic of (2023)
  • Th. Laugel, A. Jeyasothy, M.‑J. Lesot, Ch. Marsala, M. Detyniecki : “Achieving Diversity in Counterfactual Explanations: a Review and Discussion”, FAccT ’23, vol. 23 (6), Chicago, Il, United States, (ISBN: 979-8-4007-0192-4) (2023)
• 2022
  • A. Jeyasothy, Th. Laugel, M.‑J. Lesot, Ch. Marsala, M. Detyniecki : “Intégration de connaissances dans les méthodes d’explications post-hoc”, Rencontres francophones sur la logique floue et ses applications, Toulouse, France (2022)
  • A. Jeyasothy, Th. Laugel, M.‑J. Lesot, Ch. Marsala, M. Detyniecki : “Integrating Prior Knowledge in Post-hoc Explanations”, Information Processing and Management of Uncertainty in Knowledge-Based Systems (IPMU'2022), vol. 1602, Communications in Computer and Information Science, Milan, Italy, pp. 707–719, (Springer) (2022)