BOVE Clara
Direction de recherche : Marie-Jeanne LESOT
Co-encadrement : Charles TIJUS (CHArt), Marcin DETYNIECKI (AXA)
Conception et évaluation d’interfaces utilisateur explicatives pour systèmes complexes en apprentissage automatique
Cette thèse se place dans le domaine de l'IA eXplicable (XAI) centrée sur l'humain, et plus particulièrement sur l'intelligibilité des explications pour les utilisateurs non-experts. Le contexte technique est le suivant : d'un côté, un classificateur ou un régresseur opaque fournit une prédiction, et une approche XAI post-hoc génère des informations qui agissent comme des explications ; de l'autre côté, l’utilisateur reçoit à la fois la prédiction et ces explications. Dans ce contexte, plusieurs problèmes peuvent limiter la qualité des explications. Ceux sur lesquels nous nous concentrons sont : le manque d'informations contextuelles dans les explications, le manque d'orientation pour la conception de fonctionnalités pour permettre à l'utilisateur d'explorer l'interface explicatives et la confusion potentielle qui peut être générée par la quantité d'informations.
Nous développons une procédure expérimentale pour concevoir des interfaces utilisateur explicatives (XUIs) et évaluer leur intelligibilité avec des utilisateurs non-experts. Nous proposons plusieurs principes XAI génériques et leur implémentation dans différentes XUIs pour les explications exprimées sous la forme de scores d'importance d'attributs ainsi que d'exemples contrefactuels. Nous évaluons la compréhension objective et la satisfaction de ces interfaces à travers des études utilisateurs. À un niveau fondamental, nous considérons la question théorique des incohérences éventuelles de ces explications. Nous étudions ces incohérences et proposons une typologie pour structurer les incohérences les plus courantes de la littérature.
Soutenance : 15/09/2023
Membres du jury :
VERBERT Katrien, Professeure des universités, Université KU Leuven [Rapporteur]
LABROCHE Nicolas, Maître de conférence HDR, Université de Tours [Rapporteur]
GANASCIA Jean-Gabriel, Professeur des universités, Sorbonne Université
EVGENIOU Theodoros, Professeur des universités, INSEAD
LESOT Marie-Jeanne, Professeure des universités, Sorbonne Université
TIJUS Charles, Professeur des universités, Université Paris 8
DETYNIECKI Marcin, Responsable de l’équipe Recherche, AXA
Publications 2021-2023
-
2023
- C. Bove : “Design and evaluation of explanation user interfaces for complex machine-learning systems”, thèse, soutenance 15/09/2023, direction de recherche Lesot, Marie-Jeanne, co-encadrement : Charles, TIJUS (CHArt), Marcin, DETYNIECKI (AXA) (2023)
- C. Bove, M.‑J. Lesot, Ch. Tijus, M. Detyniecki : “Investigating the Intelligibility of Plural Counterfactual Examples for Non-Expert Users: an Explanation User Interface Proposition and User Study”, IUI '23: Proceedings of the 28th International Conference on Intelligent User Interfaces (IUI ’23), Sydney, Australia, pp. 188-203, (ACM), (ISBN: 979-8-4007-0106-1) (2023)
-
2022
- C. Bove, J. Aigrain, M.‑J. Lesot, Ch. Tijus, M. Detyniecki : “Contextualization and Exploration of Local Feature Importance Explanations to Improve Understanding and Satisfaction of Non-Expert Users”, IUI '22: 27th International Conference on Intelligent User Interfaces, Helsinki, Finland, pp. 807-819, (ACM) (2022)
-
2021
- C. Bove, J. Aigrain, M.‑J. Lesot, Ch. Tijus, M. Detyniecki : “Contextualising local explanations for non-expert users: an XAI pricing interface for insurance”, Joint Proceedings of the ACM IUI 2021 Workshops co-located with 26th ACM Conference on Intelligent User Interfaces (ACM IUI 2021), vol. 2903, CEUR Workshop Proceedings, College Station, United States, (CEUR-WS.org) (2021)