Rencontres Statistiques Lyonnaises

Stochastic Gradient Langevin Dynamics pour l'échantillonnage des distributions a posteriori (faiblement) log-concaves

par Marelys Crespo

Europe/Paris
Salle 112 (La Doua, Bâtiment Braconnier)

Salle 112

La Doua, Bâtiment Braconnier

Description
https://univ-lyon1.webex.com/univ-lyon1/j.php?MTID=m4f59e42fade6628cfea2407ee817fa06
 
Ce travail porte sur l'étude d'un algorithme de type Langevin conçu pour l'échantillonnage d'une mesure de probabilité définie sur R^d qui est largement utilisé pour l'échantillonnage de distributions postérieures. Cet algorithme est une version en temps continu du Stochastic Gradient Langevin Dynamics, qui incorpore une étape d'échantillonnage stochastique dans la diffusion de Langevin sur amortie traditionnelle.
L'analyse est menée dans un cadre faiblement convexe, paramétré à l'aide de l'inégalité de Kurdyka–Łojasiewicz (KL). Cette approche permet de traiter des configurations avec une courbure décroissante et est beaucoup moins restrictive que le cas fortement convexe. On a établi des estimations explicites non-asymptotiques du temps de simulation nécessaire pour obtenir une epsilon-approximation (en termes d'entropie). Une attention particulière est accordée au coût de calcul, en tenant compte du nombre d'observations (n) générant la distribution postérieure, de la dimension de l'espace ambiant (d) où se trouve le paramètre d'intérêt, ainsi que du paramètre r impliqué dans l'inégalité KL, qui varie de 0 (cas fortement log-concave) à 1 (cas limite de Laplace).