Autour de l'identification de structure pour les problèmes d'apprentissage régularisés

par Franck Iutzeler (Univ. Grenoble Alpes)

lundi 2 mai 2022, 14:00 → 15:00 Europe/Paris

Salle Fokko du Cloux au 1er étage (La doua, bâtiment Braconnier)

De nombreux problèmes en science des données (régression, classification, clustering, etc.) conduisent à la la minimisation d'une certaine fonction de risque qui mesure l'adéquation entre un modèle et les données. Cependant, lorsque le nombre de paramètres du modèle devient grand et que la difficulté du problème augmente, la minimisation du risque devient plus difficile et la stabilité du modèle obtenu se dégrade.
Afin de surmonter ce problème, une solution populaire consiste à introduire un a priori sur la structure du modèle. Par exemple, nous pouvons souhaiter que le modèle obtenu soit parcimonieux ou de faible rang afin de réduire le nombre de paramètres du modèle, ce qui est utile en termes d'interprétabilité, de généralisation, et pour la minimisation elle-même.
Dans cette exposé, nous étudions la façon dont certaines méthodes d'optimisation peuvent produire des itérés qui récupèrent partiellement ou exactement cette structure, lorsque celle-ci est encodée par une régularisation non-lisse de la fonction objectif. Ensuite, nous montrons comment cette information peut être exploitée pour accélérer numériquement les algorithmes d'optimisation.

 

https://univ-lyon1.webex.com/univ-lyon1/j.php?MTID=ma4c0dedcf0578be39b3809e492f94759