13.5 Algorithme esp´ erance-maximisation
403
En reprenant les arguments donn´ es en d´ ebut de section 13.4.2, on remarquera
que le calcul des int´ egrales de fonctionnelles additives
θ → Q
(θ k−1 )
n
L
(θ)
n
(13.13)
est imm´ ediat pour des mod` eles lin´ eaires et gaussiens, ou pour des chaˆ ınes
de Markov cach´ ees sur des espaces finis de cardinal assez faible. Pour des
mod` eles stochastiques plus g´ en´ eraux, on peut utiliser ` a nouveau les approximations particulaires Q
(θ k−1 ,N )
n
des lois normalis´ ees Q
(θ k−1 )
n
sur les espaces de
trajectoires d´ ecrites en (8.20).
On obtient ainsi les algorithmes EM particulaires d´ efinis par l’´ equation
θ
N
k := max
θ
Q
(θ k−1 ,N )
n
L
(θ)
n
La discussion pr´ ec´ edente porte sur le calcul des int´ egrales Q
(θ k−1 )
n
L
(θ)
n
pour les valeurs des param` etres θ. Cette ´ etape d’int´ egration pr´ eliminaire est
n´ ecessaire avant le calcul du point θ k qui maximise la fonction (13.13). En
pratique, on recherche plutˆ ot `
a calculer le gradient des fonctions (13.13).
Sous certaines hypoth` eses de r´ egularit´ e, les d´ eriv´ ees par rapport `
a chaque
coordonn´ ee θ
i , avec 1 ≤ i ≤ d, sont donn´ ees par la formule suivante
∂
∂θ i Q
(θ k−1 )
n
L
(θ)
n
= Q
(θ k−1 )
n
∂L
(θ)
n
∂θ i
Supposons que les d´ eriv´ ees des fonctions L
(θ)
n s’expriment par un syst` eme de
la forme suivante
∂L
(θ)
n
∂θ i =
mn
j=1
α n,(i,j) (θ) f
(i,j)
n
(13.14)
pour une famille de fonctions f
(i,j)
n
sur l’espace des trajectoires E n = (E 0 ×
. . .×E n ), et une collection de fonctions α n,(i,j) sur l’espace d’´ etat du param` etre
S = R
d .
403
En reprenant les arguments donn´ es en d´ ebut de section 13.4.2, on remarquera
que le calcul des int´ egrales de fonctionnelles additives
θ → Q
(θ k−1 )
n
L
(θ)
n
(13.13)
est imm´ ediat pour des mod` eles lin´ eaires et gaussiens, ou pour des chaˆ ınes
de Markov cach´ ees sur des espaces finis de cardinal assez faible. Pour des
mod` eles stochastiques plus g´ en´ eraux, on peut utiliser ` a nouveau les approximations particulaires Q
(θ k−1 ,N )
n
des lois normalis´ ees Q
(θ k−1 )
n
sur les espaces de
trajectoires d´ ecrites en (8.20).
On obtient ainsi les algorithmes EM particulaires d´ efinis par l’´ equation
θ
N
k := max
θ
Q
(θ k−1 ,N )
n
L
(θ)
n
La discussion pr´ ec´ edente porte sur le calcul des int´ egrales Q
(θ k−1 )
n
L
(θ)
n
pour les valeurs des param` etres θ. Cette ´ etape d’int´ egration pr´ eliminaire est
n´ ecessaire avant le calcul du point θ k qui maximise la fonction (13.13). En
pratique, on recherche plutˆ ot `
a calculer le gradient des fonctions (13.13).
Sous certaines hypoth` eses de r´ egularit´ e, les d´ eriv´ ees par rapport `
a chaque
coordonn´ ee θ
i , avec 1 ≤ i ≤ d, sont donn´ ees par la formule suivante
∂
∂θ i Q
(θ k−1 )
n
L
(θ)
n
= Q
(θ k−1 )
n
∂L
(θ)
n
∂θ i
Supposons que les d´ eriv´ ees des fonctions L
(θ)
n s’expriment par un syst` eme de
la forme suivante
∂L
(θ)
n
∂θ i =
mn
j=1
α n,(i,j) (θ) f
(i,j)
n
(13.14)
pour une famille de fonctions f
(i,j)
n
sur l’espace des trajectoires E n = (E 0 ×
. . .×E n ), et une collection de fonctions α n,(i,j) sur l’espace d’´ etat du param` etre
S = R
d .
