A. Biais d’un estimateur
Bien entendu, pour pouvoir considérer T n (x 1 ,...,x n ) comme une valeur approchée de θ , il faut que les valeurs prises par la v.a. T n ne s’écartent pas trop de la
valeur, fixe, de θ . Comme T n est une v.a., on ne peut imposer une condition qu’à
sa valeur moyenne, ce qui nous amène à définir le biais d’un estimateur comme
l’écart entre sa moyenne et la vraie valeur du paramètre :
b n (θ) = E θ (T n ) − θ
D’où une propriété relative au biais d’un estimateur.
Estimation 199
© Dunod. Toute reproduction non autorisée est un délit.
Définition
Un estimateur T n de θ est dit sans biais si pour tout θ de et tout entier
positif n :
E θ (T n ) = θ
Définition
Un estimateur T n de θ est dit asymptotiquement sans biais si pour tout θ
de :
E θ (T n ) → θ quand n →∞
Exemple 7.2
Si le paramètre à estimer est la moyenne théorique de la loi,
i.e. θ = E(X) , l’estimateur naturel est la moyenne empirique T n = X n .
Nous avons vu dans le chapitre 5 que E θ (T n ) = E (X) = θ , donc nous en
déduisons le résultat très général que la moyenne empirique est toujours
un estimateur sans biais de la moyenne théorique (espérance mathématique), quelle que soit la loi de probabilité de la variable X .
Cependant, cette propriété peut ne pas être strictement vérifiée, le biais diminuant seulement quand la taille d’échantillon augmente. Ceci correspond à la
définition suivante.
Exemple 7.3
Si le paramètre à estimer est la variance théorique de la loi, i.e. θ = V (X) ,
l’estimateur naturel est la variance empirique T n = S
′2
n =
1
n
n
i=1
X i − X n
2
Bien entendu, pour pouvoir considérer T n (x 1 ,...,x n ) comme une valeur approchée de θ , il faut que les valeurs prises par la v.a. T n ne s’écartent pas trop de la
valeur, fixe, de θ . Comme T n est une v.a., on ne peut imposer une condition qu’à
sa valeur moyenne, ce qui nous amène à définir le biais d’un estimateur comme
l’écart entre sa moyenne et la vraie valeur du paramètre :
b n (θ) = E θ (T n ) − θ
D’où une propriété relative au biais d’un estimateur.
Estimation 199
© Dunod. Toute reproduction non autorisée est un délit.
Définition
Un estimateur T n de θ est dit sans biais si pour tout θ de et tout entier
positif n :
E θ (T n ) = θ
Définition
Un estimateur T n de θ est dit asymptotiquement sans biais si pour tout θ
de :
E θ (T n ) → θ quand n →∞
Exemple 7.2
Si le paramètre à estimer est la moyenne théorique de la loi,
i.e. θ = E(X) , l’estimateur naturel est la moyenne empirique T n = X n .
Nous avons vu dans le chapitre 5 que E θ (T n ) = E (X) = θ , donc nous en
déduisons le résultat très général que la moyenne empirique est toujours
un estimateur sans biais de la moyenne théorique (espérance mathématique), quelle que soit la loi de probabilité de la variable X .
Cependant, cette propriété peut ne pas être strictement vérifiée, le biais diminuant seulement quand la taille d’échantillon augmente. Ceci correspond à la
définition suivante.
Exemple 7.3
Si le paramètre à estimer est la variance théorique de la loi, i.e. θ = V (X) ,
l’estimateur naturel est la variance empirique T n = S
′2
n =
1
n
n
i=1
X i − X n
2
