8.4 Pour aller plus loin
111
Fig. 8.1. Estimation du mélange de trois gaussiennes par l’algorithme EM.
8.4 Pour aller plus loin
Le théorème 8.3 se généralise aux familles exponentielles, de vraisemblance
totale
L(θ, x, z) =
n
i=1
log h θ (x i , z i ) =
n
i=1
log g θ (z i ) +
n
i=1
log f θ (x i | Z = z i ).
Après intégration, il vient en rappelant que g θ (z) = α(z),
L c (θ, ˜
θ, x) =
J
j=1
n
i=1
g ˜
θ (j | X = x i )
log α(j)
+
J
j=1
n
i=1
g ˜
θ (j | X = x i ) log f θ (x i | Z = j).
Si θ = (α, β) où α est encore la loi mélange et β(j) représente les paramètres
de la loi Loi(X | Z = j), on détermine séparément α M (qui a toujours la même
expression) et β M qui s’obtient quasiment comme pour le maximum de la vraisemblance totale : on a seulement pondéré la contribution de l’observation X i
par le coefficient g ˜
θ (j | X = X i ). Par exemple, si les composantes du mélange
(Loi(X | Z = j)) 1jJ sont des lois exponentielles de paramètres (λ(i)) 1iJ ,
la log-vraisemblance conditionnelle s’écrit