Direction de recherche : Vanda LUENGO

Co-encadrement : François BOUCHET-Sébastien LALLÉ

Analyse multi-critères de l'équité des systèmes d'intelligence artificifielle en éducation

L’objectif principal de cette thèse est de développer une méthode d’analyse multi-critères de l’équité pour différents types d’algorithmes communément employés dans la communauté EDM en fonction de différents jeux de données. En effet, les travaux récents se focalisent sur l’évaluation d’un critère unique (le genre, l’ethnicité [en milieu anglo-saxon], l’établissement d’origine...) mais la diversité des critères étudiés montrent bien l’aspect multidimensionnel requis pour prendre des décisions qui soient équitables de manière globale. Cette problématique générale se décline en plusieurs questions de recherche complémentaires qui pourront être investiguées : 1. Est-il possible de combiner différents algorithmes équitables selon des critères différents pour obtenir une décision globalement plus équitable ? 2. Peut-on déterminer automatiquement le risque de biais d’équité dans un jeu de données en fonction de divers critères afin de recommander la collecte de nouvelles données auprès d’une population particulière ? 3. Peut-on neutraliser les biais de différents algorithmes dans le temps, en alternant les méthodes de choix pour équilibrer les biais selon différents critères ?

Publications 2022-2023

• 2023
  • M. Verger, Ch. Fan, S. Lallé, F. Bouchet, V. Luengo : “A Fair Post-Processing Method based on the MADD Metric for Predictive Student Models”, 1^st International Tutorial and Workshop on Responsible Knowledge Discovery in Education (RKDE 2023) at ECML PKDD 2023, Turino, Italy (2023)
  • M. Verger, S. Lallé, F. Bouchet, V. Luengo : “Is Your Model "MADD"? A Novel Metric to Evaluate Algorithmic Fairness for Predictive Student Models”, Proceedings of the 16^th International Conference on Educational Data Mining, Bengaluru, India, (ISBN: 978-1-7336736-4-8) (2023)
  • M. Verger, F. Bouchet, S. Lallé, V. Luengo : “Caractérisation et mesure des discriminations algorithmiques dans la prédiction de la réussite à des cours en ligne”, EIAH2023 : 11^e Conférence sur les Environnements Informatiques pour l'Apprentissage Humain, Brest, France (2023)
• 2022
  • M. Verger : “Investiguer la notion d’équité algorithmique dans les environnements informatiques pour l’apprentissage humain”, Actes des neuvièmes rencontres jeunes chercheur·e·s en EIAH, Lille, France, pp. 44-51 (2022)