CARVALHO Micael

PhD graduated
Team : MLIA
Departure date : 12/25/2018
Supervision : Matthieu CORD

Deep Representation Spaces

Ces dernières années, les techniques d’apprentissage profond ont fondamentalement transformé l'état de l'art de nombreuses applications de l'apprentissage automatique, devenant la nouvelle approche standard pour plusieurs d’entre elles. Les architectures provenant de ces techniques ont été utilisées pour l'apprentissage par transfert, ce qui a élargi la puissance des modèles profonds à des tâches qui ne disposaient pas de suffisamment de données pour les entraîner à partir de zéro. Le sujet d'étude de cette thèse couvre les espaces de représentation créés par les architectures profondes.
Dans un premier temps, nous étudions les propriétés de leurs espaces, en prêtant un intérêt particulier à la redondance des dimensions et la précision numérique de leurs représentations. Nos résultats démontrent un fort degré de robustesse, pointant vers des schémas de compression simples et puissants.
Ensuite, nous nous concentrons sur l'affinement de ces représentations. Nous choisissons d'adopter un problème multi-tâches intermodal et de concevoir une fonction de coût capable de tirer parti des données de plusieurs modalités, tout en tenant compte des différentes tâches associées au même ensemble de données. Afin d'équilibrer correctement ces coûts, nous développons également un nouveau processus d'échantillonnage qui ne prend en compte que des exemples contribuant à la phase d'apprentissage, c'est-à-dire ceux ayant un coût positif.
Les résultats que nous présentons dans cette thèse ouvrent de nombreuses possibilités, y compris la compression de caractéristiques pour les applications distantes, l'apprentissage multi-modal et multitâche robuste et l'affinement de l'espace des caractéristiques.
Defence : 12/11/2018 - 10h30 - Site Jussieu 25-26/105
Jury members :
M. Sébastien LEFÈVRE, Université Bretagne Sud [Rapporteur]
M. Frédéric PRECIOSO, Université Nice Sophia Antipolis [Rapporteur]
M. Eric GAUSSIER, Université Grenoble Alpes
M. Hervé LE BORGNE, Commissariat à l’Énergie Atomique et aux Énergies Alternatives (CEA)
Mme Laure SOULIER, Sorbonne Université
M. Nicolas THOME, Conservatoire National des Arts et Métiers
M. Matthieu CORD, Sorbonne Université

2016-2018 Publications

 Mentions légales
Site map |