5.6 Pour aller plus loin
81
La partie sur les algorithmes de Metropolis-Hastings, du recuit simulé, et
de Propp-Wilson est inspirée d’un livre précédent [BC07, Chapitre 4] et du
cours de Thierry Bodineau à l’École Polytechnique [Bod14]. L’algorithme de
Metropolis-Hastings a été introduit par Nicholas Metropolis, Arianna Rosenbluth, Marshall Rosenbluth, Augusta Teller, et Edward Teller [MRR
+ 53] puis
généralisé par Keith Hastings [Has70], et fait aujourd’hui partie des méthodes
MCMC (Monte Carlo Markov Chains), qui consistent à utiliser des chaînes
de Markov pour approcher des espérances par la méthode de Monte Carlo.
Les méthodes MCMC sont au cœur des implémentations quantitatives de la
statistique bayésienne abordée par exemple dans le livre de Christian Robert
et George Casella [RC04]. Des versions à particules permettent d’améliorer
les performances pratiques notamment lorsque la loi μ est multimodale.
En métallurgie, le procédé du recuit consiste à recuire le métal pour échapper aux minima locaux d’énergie et obtenir une structure métallique de basse
énergie, garantissant une meilleure solidité. L’algorithme du recuit simulé s’en
inspire, ce qui explique son nom. Le recuit simulé converge théoriquement en
temps infini lorsque la température suit un schéma de décroissance par paliers
logarithmiques, mais ce résultat d’analyse asymptotique n’est pas vraiment
pertinent en pratique. Une analyse de l’algorithme se trouve par exemple
dans le livre de Étienne Pardoux [Par07] et dans le panorama de Olivier Catoni [Cat99]. Des versions améliorées du recuit simulé, comme l’algorithme de
Wang-Landau introduit par Fugao Wang et David Landau [WL01], constituent un sujet de recherche actuel. Les algorithmes de Metropolis-Hastings,
du recuit simulé, et de Wang-Landau sont tous disponibles dans des cadres à
temps et espace continus. L’algorithme de Propp-Wilson, proposé par James
Propp et David Wilson [PW96, PW98], est présenté dans le livre de David
Levin, Yuval Peres, et Elizabeth Wilmer [LPW09], et dans celui de Olle Häggström [Häg02]. L’exemple étudié dans la section 5.5 est inspiré d’un texte de
Christophe Sabot. D’autres algorithmes de simulation exacte de la loi invariante ont été développés, comme par exemple celui de James Fill [Fil98].
examples explicites autour du modèle d’Ising, on pourra consulter le livre
[Bax82] de Rodney Baxter. Des modèles inspirés de celui d’Ising sont utilisés
en imagerie pour la modélisation du bruit spatial.
81
La partie sur les algorithmes de Metropolis-Hastings, du recuit simulé, et
de Propp-Wilson est inspirée d’un livre précédent [BC07, Chapitre 4] et du
cours de Thierry Bodineau à l’École Polytechnique [Bod14]. L’algorithme de
Metropolis-Hastings a été introduit par Nicholas Metropolis, Arianna Rosenbluth, Marshall Rosenbluth, Augusta Teller, et Edward Teller [MRR
+ 53] puis
généralisé par Keith Hastings [Has70], et fait aujourd’hui partie des méthodes
MCMC (Monte Carlo Markov Chains), qui consistent à utiliser des chaînes
de Markov pour approcher des espérances par la méthode de Monte Carlo.
Les méthodes MCMC sont au cœur des implémentations quantitatives de la
statistique bayésienne abordée par exemple dans le livre de Christian Robert
et George Casella [RC04]. Des versions à particules permettent d’améliorer
les performances pratiques notamment lorsque la loi μ est multimodale.
En métallurgie, le procédé du recuit consiste à recuire le métal pour échapper aux minima locaux d’énergie et obtenir une structure métallique de basse
énergie, garantissant une meilleure solidité. L’algorithme du recuit simulé s’en
inspire, ce qui explique son nom. Le recuit simulé converge théoriquement en
temps infini lorsque la température suit un schéma de décroissance par paliers
logarithmiques, mais ce résultat d’analyse asymptotique n’est pas vraiment
pertinent en pratique. Une analyse de l’algorithme se trouve par exemple
dans le livre de Étienne Pardoux [Par07] et dans le panorama de Olivier Catoni [Cat99]. Des versions améliorées du recuit simulé, comme l’algorithme de
Wang-Landau introduit par Fugao Wang et David Landau [WL01], constituent un sujet de recherche actuel. Les algorithmes de Metropolis-Hastings,
du recuit simulé, et de Wang-Landau sont tous disponibles dans des cadres à
temps et espace continus. L’algorithme de Propp-Wilson, proposé par James
Propp et David Wilson [PW96, PW98], est présenté dans le livre de David
Levin, Yuval Peres, et Elizabeth Wilmer [LPW09], et dans celui de Olle Häggström [Häg02]. L’exemple étudié dans la section 5.5 est inspiré d’un texte de
Christophe Sabot. D’autres algorithmes de simulation exacte de la loi invariante ont été développés, comme par exemple celui de James Fill [Fil98].
examples explicites autour du modèle d’Ising, on pourra consulter le livre
[Bax82] de Rodney Baxter. Des modèles inspirés de celui d’Ising sont utilisés
en imagerie pour la modélisation du bruit spatial.