Remarque
Dans l’exemple 7.9, nous avons lnL = nθ − nx n et
∂lnL
∂θ
= n ne s’annule
pas ; la recherche du maximum de L (ou de lnL ) s’est effectuée directement, sans avoir recours aux dérivées. Rappelons à ce propos que dans la
recherche des extremums d’une fonction réelle g , la condition g
′ (x 0 ) = 0
n’est ni nécessaire, ni suffisante, pour qu’il existe un extremum en x 0 .
Cette recherche d’extremum doit se faire directement, à partir de la condition qui le définit, c’est-à-dire g (x) − g (x 0 ) a un signe constant au voisinage de x 0 . Ce n’est que dans le cas d’une fonction deux fois dérivable
sur un intervalle ouvert, que le maximum est obtenu à partir des conditions g
′ (x 0 ) = 0 et g
′′ (x 0 ) < 0.
B. Méthode des moments
Dans le cas où le paramètre à estimer est θ = E θ (X) , moyenne théorique de la
loi, nous avons vu que l’estimateur naturel était la moyenne empirique, ou
moyenne de l’échantillon, X n . De même, pour estimer le paramètre θ = V θ (X) ,
variance de la loi, nous retenons logiquement comme estimateur la variance empirique S
′2
n . Plus généralement, si l’un des moments d’ordre k ∈ N
∗ , non centré
m k = E θ
X
k
= m k (θ) , ou centré µ k = E θ (X − m 1 )
k = µ k (θ) ,d épend de θ ,
nous allons chercher un estimateur par résolution de l’équation en θ obtenue en
égalant moment théorique et moment empirique correspondant, soit :
m kn =
1
n
n
i=1
X
k
i = m k (θ) ou µ kn =
1
n
n
i=1
X i − X n
k = µ k (θ)
La solution de l’équation, si elle existe et est unique, sera appelée estimateur
obtenu par la méthode des moments. Dans les exemples introductifs où
θ = E θ (X) et θ = V θ (X) , les équations à résoudre s’écrivaient sous forme
résolue θ = X n et θ = S
′2
n .
Exemple 7.10
Si X suit une loi exponentielle de paramètre θ , on sait que E θ (X) = 1/θ et
l’équation à résoudre s’écrit X n = 1/θ , de solution immédiate θ = 1/X n ,
qui correspond à l’estimateur obtenu par la méthode des moments :
θ n =
1
X n
Bien entendu, on pourrait utiliser cette méthode avec des moments d’ordres
plus élevés et obtenir ainsi d’autres estimateurs. En utilisant par exemple la
variance V θ (X) = 1/θ
2 on obtient le nouvel estimateur θ n = 1/S
′
n .
Cette méthode intuitive se justifie par les propriétés de convergence des
moments empiriques vers les moments théoriques correspondants (cf. chap 6,
§ II, H).
208 STATISTIQUE ET PROBABILITÉS
Dans l’exemple 7.9, nous avons lnL = nθ − nx n et
∂lnL
∂θ
= n ne s’annule
pas ; la recherche du maximum de L (ou de lnL ) s’est effectuée directement, sans avoir recours aux dérivées. Rappelons à ce propos que dans la
recherche des extremums d’une fonction réelle g , la condition g
′ (x 0 ) = 0
n’est ni nécessaire, ni suffisante, pour qu’il existe un extremum en x 0 .
Cette recherche d’extremum doit se faire directement, à partir de la condition qui le définit, c’est-à-dire g (x) − g (x 0 ) a un signe constant au voisinage de x 0 . Ce n’est que dans le cas d’une fonction deux fois dérivable
sur un intervalle ouvert, que le maximum est obtenu à partir des conditions g
′ (x 0 ) = 0 et g
′′ (x 0 ) < 0.
B. Méthode des moments
Dans le cas où le paramètre à estimer est θ = E θ (X) , moyenne théorique de la
loi, nous avons vu que l’estimateur naturel était la moyenne empirique, ou
moyenne de l’échantillon, X n . De même, pour estimer le paramètre θ = V θ (X) ,
variance de la loi, nous retenons logiquement comme estimateur la variance empirique S
′2
n . Plus généralement, si l’un des moments d’ordre k ∈ N
∗ , non centré
m k = E θ
X
k
= m k (θ) , ou centré µ k = E θ (X − m 1 )
k = µ k (θ) ,d épend de θ ,
nous allons chercher un estimateur par résolution de l’équation en θ obtenue en
égalant moment théorique et moment empirique correspondant, soit :
m kn =
1
n
n
i=1
X
k
i = m k (θ) ou µ kn =
1
n
n
i=1
X i − X n
k = µ k (θ)
La solution de l’équation, si elle existe et est unique, sera appelée estimateur
obtenu par la méthode des moments. Dans les exemples introductifs où
θ = E θ (X) et θ = V θ (X) , les équations à résoudre s’écrivaient sous forme
résolue θ = X n et θ = S
′2
n .
Exemple 7.10
Si X suit une loi exponentielle de paramètre θ , on sait que E θ (X) = 1/θ et
l’équation à résoudre s’écrit X n = 1/θ , de solution immédiate θ = 1/X n ,
qui correspond à l’estimateur obtenu par la méthode des moments :
θ n =
1
X n
Bien entendu, on pourrait utiliser cette méthode avec des moments d’ordres
plus élevés et obtenir ainsi d’autres estimateurs. En utilisant par exemple la
variance V θ (X) = 1/θ
2 on obtient le nouvel estimateur θ n = 1/S
′
n .
Cette méthode intuitive se justifie par les propriétés de convergence des
moments empiriques vers les moments théoriques correspondants (cf. chap 6,
§ II, H).
208 STATISTIQUE ET PROBABILITÉS