© Dunod. Toute reproduction non autorisée est un délit.
Estimation 223
À retenir
Un estimateur est une statistique, c’est-à-dire une variable aléatoire
fonction d’un échantillon, dont les réalisations sont censées être proches de
la valeur inconnue du paramètre à estimer. Pour qu’il en soit ainsi, on
demande à cet estimateur de posséder un certain nombre de propriétés,
comme par exemple d’être sans biais, i.e. d’avoir une valeur moyenne (au
sens d’espérance) égale au paramètre à estimer. On souhaite ensuite qu’il
soit le plus efficace possible, i.e. qu’il ait une dispersion, mesurée par la
variance, la plus petite possible. Dans certaines conditions, notamment
quand l’ensemble des valeurs possibles pour la variable ne dépend pas du
paramètre à estimer, on peut trouver un estimateur optimal, qu’on appelle
efficace, et qui est le meilleur estimateur sans biais que l’on puisse obtenir.
Si un estimateur est seulement asymptotiquement sans biais, i.e. que son
espérance tend vers le paramètre quand la taille de l’échantillon devient
infinie, sa qualité est mesurée par l’erreur quadratique moyenne.
Un estimateur est dit convergent s’il converge en probabilité vers le
paramètre à estimer. Tout estimateur sans biais, ou asymptotiquement sans
biais, dont la variance tend vers zéro est convergent.
Si le paramètre à estimer est la moyenne (espérance) de la loi, la moyenne
empirique est un estimateur sans biais et convergent.
Si le paramètre à estimer est la variance de la loi, la variance empirique
modifiée (divisée par n − 1 au lieu de n ) est un estimateur sans biais et
convergent.
Dans les autres cas, on construit un estimateur par la méthode des
moments ou la méthode du maximum de vraisemblance.
Compléments
A. Inégalité de Fréchet-Darmois-Cramer-Rao
Nous allons préciser les hypothèses de Cramer-Rao évoquées dans l’énoncé du théorème
présenté partie II, § C, 2. L’ensemble est un ouvert sur lequel la densité f (x; θ) ne s’annule en aucun point x et est dérivable par rapport à θ . On suppose également que l’on peut
intervertir dérivation par rapport à θ et intégration, et que la quantité d’information de Fisher
Estimation 223
À retenir
Un estimateur est une statistique, c’est-à-dire une variable aléatoire
fonction d’un échantillon, dont les réalisations sont censées être proches de
la valeur inconnue du paramètre à estimer. Pour qu’il en soit ainsi, on
demande à cet estimateur de posséder un certain nombre de propriétés,
comme par exemple d’être sans biais, i.e. d’avoir une valeur moyenne (au
sens d’espérance) égale au paramètre à estimer. On souhaite ensuite qu’il
soit le plus efficace possible, i.e. qu’il ait une dispersion, mesurée par la
variance, la plus petite possible. Dans certaines conditions, notamment
quand l’ensemble des valeurs possibles pour la variable ne dépend pas du
paramètre à estimer, on peut trouver un estimateur optimal, qu’on appelle
efficace, et qui est le meilleur estimateur sans biais que l’on puisse obtenir.
Si un estimateur est seulement asymptotiquement sans biais, i.e. que son
espérance tend vers le paramètre quand la taille de l’échantillon devient
infinie, sa qualité est mesurée par l’erreur quadratique moyenne.
Un estimateur est dit convergent s’il converge en probabilité vers le
paramètre à estimer. Tout estimateur sans biais, ou asymptotiquement sans
biais, dont la variance tend vers zéro est convergent.
Si le paramètre à estimer est la moyenne (espérance) de la loi, la moyenne
empirique est un estimateur sans biais et convergent.
Si le paramètre à estimer est la variance de la loi, la variance empirique
modifiée (divisée par n − 1 au lieu de n ) est un estimateur sans biais et
convergent.
Dans les autres cas, on construit un estimateur par la méthode des
moments ou la méthode du maximum de vraisemblance.
Compléments
A. Inégalité de Fréchet-Darmois-Cramer-Rao
Nous allons préciser les hypothèses de Cramer-Rao évoquées dans l’énoncé du théorème
présenté partie II, § C, 2. L’ensemble est un ouvert sur lequel la densité f (x; θ) ne s’annule en aucun point x et est dérivable par rapport à θ . On suppose également que l’on peut
intervertir dérivation par rapport à θ et intégration, et que la quantité d’information de Fisher