Séminaire LFI / TRAIL
Génération d’explications contrefactuelles réalistes et robustes
06/22/2023Speaker(s) : Victor GUYOMARD (Orange Labs et Université de Rennes)
L'objectif de la thèse est d'expliquer les décisions individuelles prises par l'IA en mettant l'accent sur les explications contrefactuelles. Dans cette présentation, Victor introduira deux contributions : 1) le développement de VCnet, un modèle auto-explicatif qui combine un prédicteur et un générateur de contrefactuels qui sont appris simultanément. L'architecture est basée un autoencodeur variationnel, conditionné à la sortie du prédicteur pour générer des contrefactuels réalistes (proche de la distribution de la classe cible). VCnet est capable de générer des prédictions ainsi que des explications contrefactuelles sans avoir à résoudre un autre problème de minimisation. 2) la proposition d'un nouveau formalisme, CROCO, pour générer des explications contrefactuelles robustes à la variation des entrées du contrefactuel. Cette forme de robustesse implique de trouver un compromis entre la robustesse du contrefactuel et la proximité avec l'exemple à expliquer. CROCO génère des contrefactuels robustes tout en gérant efficacement ce compromis et en garantissant à l'utilisateur une robustesse minimale. Des évaluations empiriques sur des ensembles de données tabulaires confirment la pertinence et l'efficacité de l'approche proposée.
Références :
- VCNet: A self-explaining model for realistic counterfactual generation. V. Guyomard, F. Fessant, T. Guyet, A. Termier, T. Bouadi.
- Generating robust counterfactual explanations. V. Guyomard, F. Fessant, T. Guyet, T. Bouadi, A. Termier.
Ce séminaire est organisé conjointement avec le Chapitre Français de l’IEEE Computational Intelligence Society.
More details here …
Marie-Jeanne.Lesot (at) nulllip6.fr