2.2 Quelques illustrations
49
Pour construire l’algorithme de Robbins-Monro, on remplace simplement `
a
chaque ´ etape n la valeur inconnue U (X n ) par son observation bruit´ ee
Y n+1 = d´ ef. U (X n ) + n+1 .
La perturbation n d´ esigne ici une variable al´ eatoire `
a valeurs dans R
d de loi
donn´ ee. Cela conduit `
a l’algorithme stochastique
X n+1 − X n = γ n (U (x a ) − U (X n )) − γ n n+1
= γ n (U (x a ) − Y n+1 ) = γ n (a − Y n+1 )
(2.10)
Formulation int´ egrale
La fonction U : R
d
→ R
d est de forme int´ egrale
U (x) =
E
U (x, y) μ(dy)
o` u μ d´ esigne une distribution de probabilit´ e donn´ ee sur un espace auxiliaire
E, et
U : R
d
× E −→ R
d
est une fonction born´ ee. De telles int´ egrales ´ etant bien souvent difficilement
calculables analytiquement, il est parfois plus ais´ e de simuler une variable
al´ eatoire Z de loi μ sur E. On remarquera que U peut alors s’´ ecrire
U (x) = E (U (x, Z))
Pour construire l’algorithme de Robbins-Monro correspondant ` a cette situation, on remplace `
a chaque ´ etape n la valeur difficilement accessible U (X n ) par
sa “valeur simul´ ee” U (X n , Z n+1 ), o` u (Z n ) n≥1 d´ esigne une suite de variables
al´ eatoires ind´ ependantes de mˆ eme loi que Z.
Ceci nous conduit ` a la chaˆ ıne de Markov suivante
X n+1 − X n = γ n (U (x a ) − U(X n , Z n+1 )) = γ n (a − U(X n , Z n+1 ))
o` u (Z n ) n≥1 d´ esigne une suite de variables al´ eatoires ind´ ependantes de mˆ eme
loi que Z.