La parcimonie et la convexité sont des notions omniprésentes en apprentissage automatique et en statistique. Dans ce cours, nous étudions les fondements mathématiques de certaines méthodes basées sur la relaxation convexe : les techniques de régularisation L1 en statistique et en traitement du signal ; la minimisation de la norme nucléaire dans la complétion de matrices. Ces approches se sont avérées être efficacement implémentables avec d'excellentes garanties théoriques. La partie théorique du cours se concentrera sur les garanties de ces algorithmes sous l'hypothèse de parcimonie. La partie pratique de ce cours présentera les solveurs standard de ces problèmes d'apprentissage.
I. Introduction
II. Parcimonie et convexité en apprentissage automatique et statistiques
III. Régularisation L1 en statistiques et traitement du signal
IV. Minimisation de la norme nucléaire dans la complétion de matrices
V. Représentabilité semi-définie et relaxation convexe
VI. Garanties des algorithmes sous l'hypothèse de parcimonie
VII. Solveurs standard pour les problèmes d'apprentissage automatique basés sur la régularisation L1 et la minimisation de la norme nucléaire
VIII. Conclusion et applications pratiques