mateurs sans biais, on pourra comparer deux estimateurs T n et T
′
n de cette classe par leur variance qui mesure alors leur dispersion par rapport au paramètre
qui est leur espérance commune. Nous dirons que l’estimateur T n est plus efficace que T
′
n si pour tout θ de et pour une taille d’échantillon n > N :
V θ (T n ) V θ
T
′
n
La question se pose alors de savoir si on pourrait trouver un troisième estimateur qui serait à son tour meilleur que T n . En cas de réponse positive, il faudrait poursuivre la recherche, ce qui nous conduirait à essayer d’améliorer indéfiniment un estimateur. Le problème n’admettrait une fin que si l’on savait que
l’estimateur obtenu est le meilleur. Le paragraphe suivant va fournir des éléments de réponse.
2) Inégalité de Fréchet-Darmois-Cramer-Rao
Nous allons voir que dans certaines conditions il existe une borne inférieure
pour l’ensemble des variances des estimateurs sans biais, ce qui va constituer un
butoir ne permettant pas d’améliorer sans cesse les estimateurs. D’autre part, si
cette borne est atteinte par un estimateur, il deviendra le meilleur et sera qualifié d’optimal dans la classe des estimateurs sans biais. Pour énoncer ce résultat,
nous avons besoin d’introduire la définition suivante.
202 STATISTIQUE ET PROBABILITÉS
Définition
On appelle vraisemblance (likelihood) de l’échantillon (X 1 ,...,X n ) la loi
de probabilité de ce n -uple, notée L (x 1 ,...,x n ; θ) , et définie par :
L (x 1 ,...,x n ; θ) =
n
i=1
P (X i = x i |θ)
si X est une v.a. discrète, et par :
L (x 1 ,...,x n ; θ) =
n
i=1
f (x i ; θ)
si X est une v.a. continue de densité f (x; θ).
Le théorème suivant va préciser la borne inférieure pour la variance des estimateurs sans biais, sous certaines hypothèses relatives à la loi de probabilité de
X et que nous appellerons hypothèses de Cramer-Rao. Nous ne donnerons pas
le détail de ces hypothèses (voir compléments) qui sont essentiellement des
conditions techniques portant sur l’existence de dérivées de la densité f de X et
la possibilité d’intervertir les opérations de dérivation et d’intégration.
Cependant, nous ferons figurer dans l’énoncé du théorème la condition indis-
′
n de cette classe par leur variance qui mesure alors leur dispersion par rapport au paramètre
qui est leur espérance commune. Nous dirons que l’estimateur T n est plus efficace que T
′
n si pour tout θ de et pour une taille d’échantillon n > N :
V θ (T n ) V θ
T
′
n
La question se pose alors de savoir si on pourrait trouver un troisième estimateur qui serait à son tour meilleur que T n . En cas de réponse positive, il faudrait poursuivre la recherche, ce qui nous conduirait à essayer d’améliorer indéfiniment un estimateur. Le problème n’admettrait une fin que si l’on savait que
l’estimateur obtenu est le meilleur. Le paragraphe suivant va fournir des éléments de réponse.
2) Inégalité de Fréchet-Darmois-Cramer-Rao
Nous allons voir que dans certaines conditions il existe une borne inférieure
pour l’ensemble des variances des estimateurs sans biais, ce qui va constituer un
butoir ne permettant pas d’améliorer sans cesse les estimateurs. D’autre part, si
cette borne est atteinte par un estimateur, il deviendra le meilleur et sera qualifié d’optimal dans la classe des estimateurs sans biais. Pour énoncer ce résultat,
nous avons besoin d’introduire la définition suivante.
202 STATISTIQUE ET PROBABILITÉS
Définition
On appelle vraisemblance (likelihood) de l’échantillon (X 1 ,...,X n ) la loi
de probabilité de ce n -uple, notée L (x 1 ,...,x n ; θ) , et définie par :
L (x 1 ,...,x n ; θ) =
n
i=1
P (X i = x i |θ)
si X est une v.a. discrète, et par :
L (x 1 ,...,x n ; θ) =
n
i=1
f (x i ; θ)
si X est une v.a. continue de densité f (x; θ).
Le théorème suivant va préciser la borne inférieure pour la variance des estimateurs sans biais, sous certaines hypothèses relatives à la loi de probabilité de
X et que nous appellerons hypothèses de Cramer-Rao. Nous ne donnerons pas
le détail de ces hypothèses (voir compléments) qui sont essentiellement des
conditions techniques portant sur l’existence de dérivées de la densité f de X et
la possibilité d’intervertir les opérations de dérivation et d’intégration.
Cependant, nous ferons figurer dans l’énoncé du théorème la condition indis-