Théminaire

Cédric Gerbelot, "Une introduction aux dynamiques de gradients dans des paysages aléatoires non-convexes en grande dimension"

Europe/Paris
Description
La plupart des progrès technologiques récents obtenus grâce à l’intelligence artificielle reposent sur la minimisation de fonctions non-convexes définies sur des espaces de paramètres dont la dimension est grande. Ces fonctions sont construites empiriquement à partir de données recueillies expérimentalement que l’on modélise par des quantités aléatoires, et optimisées avec différents types de descente de gradient dont l’efficacité reste étonnante. L’objectif de cette présentation est de décrire un exemple canonique de paysage aléatoire qui permet d’obtenir des éléments de réponses concernant le comportement de ces méthodes de gradient : l’analyse en composantes principales tensorielle. Ce modèle nous permettra également de présenter certains aspects fondamentaux de ce type de problèmes, avant de conclure sur des questions plus ouvertes.