152
6 M´ ethodes de Monte Carlo par chaˆ ınes de Markov (MCMC)
η n (dy) = η 0 M
n (dy) =
η 0 (dx 1 ) M
n (x 1 , dy)
n>>1
η(dy)
Autrement dit, la chaˆ ıne de Markov initialis´ ee avec une v.a. X 0 de loi η 0 o` u η 0
est asymptotiquement distribu´ ee apr` es des temps assez longs selon la mˆ eme
loi
η 0 M
n (dy) =
η 0 (dx 1 ) M
n (x 1 , dy)
n>>1
η
0 (dx 2 ) M
n (x 2 , dy) = η
0 M
n (dy)
Dans ces conditions, on notera que la mesure invariante de la chaˆ ıne est
n´ ecessairement unique. Plus pr´ ecisement, si η et η
d´ esignent deux mesures
invariantes, alors nous avons
η(dy) = ηM
n (dy) =
η(dx 1 ) M
n (x 1 , dy)
n>>1
η
(dx 2 ) M
n (x 2 , dy) = η
M
n (dy)
= η
(dy)
En pratique, on parle de temps de chauffe. Pour des temps de chauffe n 0
suffisamment grands n 0 >> 1, la chaˆ ıne oublie sa condition initiale, et l’´ etat
X n0 est ` a peu pr
´
es distribu´ e selon la loi stationnaire
Loi(X n0 ) η
De plus, apr` es avoir not´ e que
P(X n+n0 ∈ dy | X n0 = x 1 ) = M
n (x 1 , dy)
on en conclut que pour tout x 1 , x 2 ∈ E
P(X n+n0 ∈ dy | X n0 = x 1 )
n>>1
P(X n+n0 ∈ dy | X n0 = x 2 )
Autrement dit, entre ces temps de chauffe n 0 , les variables
X n0 , X 2n0 , X 3n0 , . . . sont presque i.i.d. de loi η.
La formalisation de ces id´ ees naturelles et intuitives conduit `
a lad´ emonstration
math´ ematique du th´ eor` eme ergodique. Bien que cette derni` ere sorte du cadre
des notes, nous recommandons au lecteur d’appliquer le th´ eor` eme ergodique
avec mod´ eration. On doit notamment s’assurer, du moins intuitivement, que
la chaˆ ıne de Markov sous jacente est relativement stable.
6.1.3 Exemple, les fonctions it´ er´ ees stochastiques
Les fonctions it´ er´ ees stochastiques sont des chaˆ ınes de Markov explorant
un espace m´ etrique (E, d), en choisissant al´ eatoirement ` a chaque instant une
´
6 M´ ethodes de Monte Carlo par chaˆ ınes de Markov (MCMC)
η n (dy) = η 0 M
n (dy) =
η 0 (dx 1 ) M
n (x 1 , dy)
n>>1
η(dy)
Autrement dit, la chaˆ ıne de Markov initialis´ ee avec une v.a. X 0 de loi η 0 o` u η 0
est asymptotiquement distribu´ ee apr` es des temps assez longs selon la mˆ eme
loi
η 0 M
n (dy) =
η 0 (dx 1 ) M
n (x 1 , dy)
n>>1
η
0 (dx 2 ) M
n (x 2 , dy) = η
0 M
n (dy)
Dans ces conditions, on notera que la mesure invariante de la chaˆ ıne est
n´ ecessairement unique. Plus pr´ ecisement, si η et η
d´ esignent deux mesures
invariantes, alors nous avons
η(dy) = ηM
n (dy) =
η(dx 1 ) M
n (x 1 , dy)
n>>1
η
(dx 2 ) M
n (x 2 , dy) = η
M
n (dy)
= η
(dy)
En pratique, on parle de temps de chauffe. Pour des temps de chauffe n 0
suffisamment grands n 0 >> 1, la chaˆ ıne oublie sa condition initiale, et l’´ etat
X n0 est ` a peu pr
´
es distribu´ e selon la loi stationnaire
Loi(X n0 ) η
De plus, apr` es avoir not´ e que
P(X n+n0 ∈ dy | X n0 = x 1 ) = M
n (x 1 , dy)
on en conclut que pour tout x 1 , x 2 ∈ E
P(X n+n0 ∈ dy | X n0 = x 1 )
n>>1
P(X n+n0 ∈ dy | X n0 = x 2 )
Autrement dit, entre ces temps de chauffe n 0 , les variables
X n0 , X 2n0 , X 3n0 , . . . sont presque i.i.d. de loi η.
La formalisation de ces id´ ees naturelles et intuitives conduit `
a lad´ emonstration
math´ ematique du th´ eor` eme ergodique. Bien que cette derni` ere sorte du cadre
des notes, nous recommandons au lecteur d’appliquer le th´ eor` eme ergodique
avec mod´ eration. On doit notamment s’assurer, du moins intuitivement, que
la chaˆ ıne de Markov sous jacente est relativement stable.
6.1.3 Exemple, les fonctions it´ er´ ees stochastiques
Les fonctions it´ er´ ees stochastiques sont des chaˆ ınes de Markov explorant
un espace m´ etrique (E, d), en choisissant al´ eatoirement ` a chaque instant une
´
