BOVE Clara

PhD student
Team : LFI
Arrival date : 01/30/2020
    Sorbonne Université - LIP6
    Boîte courrier 169
    Couloir 26-00, Étage 5, Bureau 504
    4 place Jussieu
    75252 PARIS CEDEX 05
    FRANCE

Tel: +33 1 44 27 88 87, Clara.Bove (at) nulllip6.fr
https://lip6.fr/Clara.Bove

Supervision : Marie-Jeanne LESOT

Co-supervision : Charles TIJUS (CHArt)

Designing User-centered Explainable Interfaces for Machine Learning Interpretability

L'augmentation des données disponibles ainsi que les progrès en analyse de données ont permis d'améliorer les performance des méthodes d'apprentissage automatique, désormais capables de prédire plus précisément des maladies en amont, de conduire des voitures de manière autonome ou encore comprendre le langage et générer des conversations... Cependant, l'utilisabilité d'un algorithme d'apprentissage automatique est limitée par son incapacité à expliquer sa prédiction à un humain. Cela peut devenir problématique dans des situations où l'éthique est importante —ressources humaines, santé, justice... Si les chercheurs en sciences computationnelles s'intéressent de près à l'interprétabilité des modèles d'apprentissage automatique, il reste un gap important à combler entre fournir une interprétation technique, donnée par LIME ou SHAP par exemple, et une explication accessible et utile pour l'utilisateur final. Aussi, en complément des approches techniques proposées dans la littérature, une approche centrée utilisateur permettrait de mieux comprendre les besoins en terme d'explications. L'objectif de la thèse est de fournir des lignes directrices pour la conception d'interfaces interactives explicatives pour des systèmes basés sur l'apprentissage automatique. Pour cela, les travaux de thèse étudieront à travers différentes expériences les besoins des utilisateurs en fonction de facteurs variés, tels que le niveau d'expertise et le profil cognitif, et viseront à proposer des interfaces permettant de s'adapter à ces besoins, afin de favoriser l'interprétation individuelle des outils d'apprentissage automatique par des publics divers.