USUNIER Nicolas
Gruppo di ricerca : MALIRE
Data di partenza : 08/31/2007
https://lip6.fr/Nicolas.Usunier
Relatore : Patrick GALLINARI
Co-relazione : AMINI Massih-Reza
Apprentissage de fonctions d'ordonnancement: une étude théorique de la réduction à la classification binaire et deux applications à la Recherche d'Information
La communauté d'apprentissage s'est récemment intéressée aux fonctions d'ordonnancement. Ces fonctions prennent en entrée un ensemble, et renvoient une liste ordonnée de ses éléments. Elles jouent un rôle prépondérant par exemple dans les systèmes de Recherche d'information qui renvoient une liste ordonnée de documents en réponse à une requête utilisateur. Cette thèse présente deux contributions à l'apprentissage de fonctions d'ordonnancement.
Dans une première partie, nous présentons de nouvelles bornes sur l'erreur de généralisation des fonctions d'ordonnancement. Pour cela, nous définissons un nouveau cadre de classification binaire, qui englobe des cas particuliers importants d'ordonnancement. Dans notre cadre, les exemples d'entraînement et de test sont des réalisations de variables aléatoires interdépendantes, alors que le cadre habituel de la classification suppose que les exemples sont indépendants. Plus précisément, les dépendances entre les exemples sont dues à l'application d'une transformation connue à un ensemble d'exemples indépendants. En instanciant la borne obtenue pour différentes transformations, nous retrouvons des bornes connues de classification binaire d'exemples indépendants, et nous établissons de nouvelles bornes pour
l'ordonnancement.
Dans une seconde partie, nous présentons des applications de l'apprentissage de fonctions d'ordonnancement à la Recherche d'Information. D'une part, nous présentons de nouveaux algorithmes d'apprentissage de fonctions d'ordonnancement. D'autre part, nous montrons sur des données réelles issues d'évaluations des systèmes de Question/Réponse et de Résumé Automatique de Texte les performances et l'intérêt de ces algorithmes par rapport à l'état de l'art.
Difesa : 12/11/2006
Membri della commissione :
AMINI Massih-Reza Directeur de thèse
BOTTOU Léon Rapporteur
BOUSQUET Olivier Examinateur
CANU Stéphane Rapporteur
GALLINARI Patrick Directeur de thèse
JAFFRAY Jean-Yves Président du Jury
Pubblicazioni 2004-2017
-
2017
- G. Lample, N. Zeghidour, N. Usunier, A. Bordes, L. Denoyer, M. Ranzato : “Fader Networks: Generating Image Variations by Sliding Attribute Values”, 31st Conference on Neural Information Processing Systems (NIPS 2017), Long Beach, CA, United States, pp. 5969-5978 (2017)
-
2016
- Ch. Dhanjal, N. Baskiotis, S. ClĂ©mençon, N. Usunier : “An empirical comparison of V -fold penalisation and cross-validation for model selection in distribution-free regression”, Pattern Analysis and Applications, vol. 19 (1), pp. 41-53, (Springer Verlag) (2016)
-
2015
- A. Fakeri‑Tabrizi, M.‑R. Amini, C. Goutte, N. Usunier : “Multiview self-learning”, Neurocomputing, vol. 155, pp. 117–127, (Elsevier) (2015)
-
2013
- C. Calauzènes, N. Usunier, P. Gallinari : “Calibration and regret bounds for order-preserving surrogate losses in learning to rank”, Machine Learning, vol. 93 (2-3), pp. 227-260, (Springer Verlag) (2013)
- M. Cisse, N. Usunier, Th. Artières, P. Gallinari : “Robust Bloom Filters for Large MultiLabel Classification Tasks”, Advances in Neural Information Processing Systems 26, Lake Tahoe, United States, pp. 1851-1859 (2013)
-
2012
- Ch. Dhanjal, N. Baskiotis, S. ClĂ©mençon, N. Usunier : “An Empirical Comparison of V-fold Penalisation and Cross Validation for Model Selection in Distribution-Free Regression”, (2012)
- C. Calauzènes, N. Usunier, P. Gallinari : “On the (Non-)existence of Convex, Calibrated Surrogate Losses for Ranking”, Advances in Neural Information Processing Systems 25, Lake Tahoe, NV, United States, pp. 197-205, (Curran Associates, Inc.) (2012)
-
2011
- S. ClĂ©mençon, N. Baskiotis, N. Usunier : “Calibrating SVMs with V-fold penalization”, Proceedings of Neural Information Processing Systems workshop on New Frontiers in Model Order Selection, Sierra Nevada, Spain (2011)
- N. Usunier, M.‑R. Amini, C. Goutte : “Multiview Semi-Supervised Learning for Ranking Multilingual Documents”, European Conference on Machine Learning and Principles and Practice of Knowledge Discovery in Databases, vol. 6913, Lecture Notes in Computer Science, Athens, Greece, pp. 443-458, (Springer) (2011)
- B. Pradel, N. Usunier, F. Fogelman‑SouliĂ©, J. Delporte, S. Sean, C. Rouveirol, S. Guerif, F. Dufau‑Joel : “A Case Study in a Recommender System Based on Purchase Data”, ACM International Conference on Knowledge Discovery and Data Mining, San Diego, CA, United States, pp. 377-385, (ACM) (2011)
- M.‑R. Amini, N. Usunier : “Transductive Learning over Automatically Detected Themes for Multi-Document Summarization”, Proceedings of the 34th Annual ACM SIGIR Conference (SIGIR 2011), Beijing, China, pp. 1193-1194, (ACM) (2011)
- D. Buffoni, C. Calauzènes, P. Gallinari, N. Usunier : “Learning Scoring Functions with Order-Preserving Losses and Standardized Supervision”, The 28th International Conference on Machine Learning (ICML 2011), Bellevue, WA, United States, pp. 825-832 (2011)
- T. Truong, D. Buffoni, N. Usunier, M.‑R. Amini, P. Gallinari : “Modèles d’Ordonnancement pour le RĂ©sumĂ© Automatique et la Recherche d’Information”, chapitre de Modèles Statistiques pour l'Accès Ă l'Information Textuelle, pp. 19-42, (Hermès-Lavoisier), (ISBN: 2746224976) (2011)
-
2010
- A. Medem Kuatse, R. Teixeira, N. Usunier : “Predicting Critical Intradomain Routing Events”, Proceedings of the Global Communications Conference (GLOBECOM 2010), Miami, Florida, United States, pp. 1-5, (IEEE) (2010)
- B. Pradel, A. Brenner, N. Usunier, P. Gallinari : “Predicting Most Rated Items in Weekly Recommendation with Temporal Regression”, Workshop on Context-Aware Movie Recommendation, CAMRa '10, Barcelona, Spain, pp. 24-27, (ACM) (2010)
- A. Fakeri‑Tabrizi, S. Tollari, N. Usunier, P. Gallinari : “UPMC/LIP6 at ImageCLEFannotation 2010”, Working Notes for CLEF 2010 Conference, vol. 1176, CEUR-WS, Padua, Italy, (CEUR) (2010)
- M.‑R. Amini, C. Goutte, N. Usunier : “Combining Coregularization and Consensus-Based Self-Training for Multilingual Text Categorization”, Proceedings of the 33rd Annual ACM SIGIR Conference (SIGIR 2010), Geneva, Switzerland, pp. 475-482, (ACM) (2010)
- A. Bordes, N. Usunier, J. Weston : “Label Ranking under Ambiguous Supervision for Learning Semantic Correspondences”, Proceedings of the 27th International Conference on Machine Learning, Haifa, Israel, pp. 103-110, (Omnipress) (2010)
- D. Buffoni, N. Usunier, P. Gallinari : “Apprentissage de fonctions d’ordonnancement par classification de paires ordonnĂ©es et pondĂ©rĂ©es (OWPC)”, Conference en Recherche d'information et Applications, CORIA 2010, Sousse, Tunisia, pp. 67-82, (ARIA) (2010)
- N. Usunier, A. Bordes, L. Bottou : “Guarantees for Approximate Incremental SVMs”, 13th International Conference on Artificial Intelligence and Statistics, vol. 9, JMLR: Workshop and Conference Proceedings, Chia Laguna Resort, Sardinia, Italy, pp. 884-891 (2010)
- A. Bordes, N. Usunier, R. Collobert, J. Weston : “Towards Understanding Situated Natural Language”, 13th International Conference on Artificial Intelligence and Statistics, vol. 9, JMLR: Workshop and Conference Proceedings, Chia Laguna Resort, Sardinia, Italy, pp. 65-72 (2010)
- A. Fakeri‑Tabrizi, S. Tollari, N. Usunier, P. Gallinari : “Improving Image Annotation in Imbalanced Classification Problems with Ranking SVM”, Multilingual Information Access Evaluation II. Multimedia Experiments, vol. 6242, Lecture Notes in Computer Science, Corfu, Greece, pp. 291-294, (Springer) (2010)
-
2009
- M.‑R. Amini, N. Usunier, C. Goutte : “Learning from Multiple Partially Observed Views -- an Application to Multilingual Text Categorization”, Advances in Neural Information Processing Systems, Vancouver, Canada (2009)
- D. Buffoni, N. Usunier, P. Gallinari : “LIP6 at INEX’09: OWPC for Ad Hoc Track”, 8th International Workshop of the Initiative for the Evaluation of XML Retrieval, INEX 2009, vol. 6203, Lecture Notes in Computer Science, Brisbane, Australia, pp. 59-69, (Springer) (2009)
- M.‑R. Amini, N. Usunier : “Incorporating Prior Knowledge into a Transductive Ranking Algorithm for Multi-Document Summarization”, ACM International Conference on Research and Development in Information Retrieval, Boston, United States, pp. 704-705, (ACM) (2009)
- N. Usunier, D. Buffoni, P. Gallinari : “Ranking with ordered weighted pairwise classification”, International Conference on Machine Learning, Montreal, Quebec, Canada, pp. 1057-1064, (ACM) (2009)
-
2008
- M.‑R. Amini, F. Laviolette, N. Usunier : “A Transductive Bound for the Voted Classifier with an Application to Semi-Superivsed Learning”, Advances in Neural Information Processing Systems, Vancouver, Canada (2008)
- J.‑F. Pessiot, Y.‑M. Kim, M.‑R. Amini, N. Usunier, P. Gallinari : “Une mĂ©thode contextuelle d’extension de requĂŞte avec des groupements de mots pour le rĂ©sumĂ© automatique”, Conference en Recherche d'information et Applications, CORIA 2008, TrĂ©gastel, France, pp. 289-304 (2008)
- A. Bordes, N. Usunier, L. Bottou : “Sequence Labelling SVMs Trained in One Pass”, ECML PKDD 2008 - European Conference on Machine Learning and Principles and Practice of Knowledge Discovery in Databases, vol. 5211, Lecture Notes in Computer Science, Anvers, Belgium, pp. 146-161, (Springer) (2008)
-
2007
- Ch. Marsala, M. Detyniecki, N. Usunier, M.‑R. Amini : “High-Level Feature Detection with Forests of Fuzzy Decision Trees combined with the RankBoost”, TRECVID 2007 workshop participants notebook papers, Gaithersburg, MD, United States, (NIST) (2007)
- J.‑F. Pessiot, T. Truong, N. Usunier, M.‑R. Amini, P. Gallinari : “Learning to Rank for Collaborative Filtering”, International Conference on Enterprise Information Systems (ICEIS), Madeira, Portugal, pp. 145-151 (2007)
- M.‑R. Amini, A. Tombros, N. Usunier, M. Lalmas : “Learning Based Summarisation of XML Documents”, Information Retrieval Journal, vol. 10 (3), pp. 233-255, (Springer) (2007)
- M.‑R. Amini, N. Usunier : “A Contextual Query Expansion Approach by Term Clustering for Robust Text Summarization”, Document Understanding Conference (DUC), Rochester, United States, pp. 48-55 (2007)
- J.‑F. Pessiot, T. Truong, N. Usunier, M.‑R. Amini, P. Gallinari : “Filtrage Collaboratif avec un Algorithme d’Ordonnancement”, ConfĂ©rence en Recherche d'Information et Applications (CORIA), Saint-Etienne, France, pp. 165-180, (UniversitĂ© de Saint-Etiennes) (2007)
- N. Usunier, M.‑R. Amini, P. Gallinari : “Apprentissage et Systèmes de Question-RĂ©ponse”, chapitre de La recherche d'informations prĂ©cises, TraitĂ© IC2, (Hermès-Lavoisier) (2007)
-
2006
- N. Usunier : “Apprentissage de fonctions d’ordonnancement: une Ă©tude thĂ©orique de la rĂ©duction Ă la classification binaire et deux applications Ă la Recherche d’Information”, these, difesa 12/11/2006, relatore Gallinari, Patrick, co-relazione : Amini, Massih-Reza (2006)
- A. Lacasse, F. Laviolette, M. Marchand, P. Germain, N. Usunier : “PAC-Bayes Bounds for the Risk of the Majority Vote”, Advances in Neural Information Processing Systems (NIPS'06), Vancouver, Canada, pp. 769-776, (MIT Press) (2006)
- M.‑R. Amini, N. Usunier, F. Laviolette, A. Lacasse, P. Gallinari : “A Selective Sampling Strategy for Label Ranking”, European Conference on Machine Learning (ECML'06), vol. 4212, Lecture Notes in Computer Science, Berlin, Germany, pp. 18-29, (Springer) (2006)
- J.‑F. Pessiot, T. Truong, N. Usunier, M.‑R. Amini, P. Gallinari : “Factorisation en Matrices Non-NĂ©gatives pour le Filtrage Collaboratif”, 3eme Conference en Recherche d'Information et Applications (CORIA'06), Lyon, France, pp. 315-326 (2006)
- N. Usunier, M.‑R. Amini, P. Gallinari : “RĂ©sumĂ© Automatique de Texte avec un Algorithme d’Ordonnacement”, Revue des Sciences et Technologies de l'Information - SĂ©rie ISI : IngĂ©nierie des Systèmes d'Information, vol. 11 (2), pp. 71-91, (Lavoisier) (2006)
-
2005
- N. Usunier, M.‑R. Amini, P. Gallinari : “Generalisation Error Bounds for Classifiers Trained with Interdependent Data”, NIPS 2005 - 18th International Conference on Neural Information Processing Systems, Vancouver, Canada, pp. 1369-1376, (MIT Press) (2005)
- N. Usunier, T. Truong, M.‑R. Amini, P. Gallinari : “Ranking with Unlabeled Data: A First Study”, NIPS'05 Workshop on Learning to Rank (NIPS'05-LR), Whistler, BC, Canada, pp. 24-28 (2005)
- M.‑R. Amini, T. Anastasios, N. Usunier, M. Lalmas, P. Gallinari : “Learning to Summarise XML Documents by Combining Content and Structure Features”, CIKM 2005 - 14th ACM international conference on Information and knowledge management, Bremen, Germany, pp. 297-298, (ACM) (2005)
- N. Usunier, M.‑R. Amini, P. Gallinari : “A Data-dependent Generalisation Error Bound for the AUC”, ICML'05 workshop on ROC Analysis in Machine Learning, Bonn, Germany (2005)
- M.‑R. Amini, N. Usunier, P. Gallinari : “Automatic Text Summarization based on Word-Clusters and Ranking Algorithms”, ECIR 2005 - 27th European Conference on Information Retrieval, vol. 3408, Lecture Notes in Computer Science, Santiago de Compostela, Spain, pp. 142-156, (Springer) (2005)
- N. Usunier, M.‑R. Amini, P. Gallinari : “RĂ©sumĂ© Automatiques de Textes avec un algorithme d’ordonnancement”, CORIA 2005 - 2e ConfĂ©rence en Recherche d'Informations et Applications, Grenoble, France, pp. 25-40 (2005)
- N. Usunier, M.‑R. Amini, P. Gallinari : “Combinaison de fonctions de prĂ©fĂ©rence par Boosting pour la recherche de passages dans les systèmes de question/rĂ©ponse”, Extraction et Gestion de Connaissances (EGC'05), vol. RNTI-E-3, RNTI, Paris, France, pp. 1-6 (2005)
-
2004
- N. Usunier, M.‑R. Amini, P. Gallinari : “Boosting Weak Ranking Functions to Enhance Passage Retrieval for Question Answering”, SIGIR 2004 workshop on Information Retrieval for Question Answering, Shefield, United Kingdom (2004)
- N. Usunier, M.‑R. Amini, P. Gallinari : “GĂ©nĂ©ration de requĂŞtes pour les systèmes de Q/R avec un modèle d’apprentissage statistique”, TALN 2004 Workshop of Question-RĂ©ponse, Fès, Morocco, pp. 1-10 (2004)