de l’estimateur découle très naturellement de l’interprétation que l’on peut très
souvent donner du paramètre. Nous avions dans ces exemples θ = E(X) , c’està-dire la moyenne théorique de la loi, et on retient donc très logiquement comme
estimateur du paramètre θ la moyenne empirique ou moyenne de l’échantillon :
T n (X 1 ,...,X n ) = X n =
1
n
n
i=1
X i
Ce n’est que dans certains cas, assez rares, où le paramètre n’admet pas d’interprétation évidente, que l’on est amené à utiliser une méthode de construction
d’un estimateur, comme la méthode des moments, généralisant cette méthode
intuitive, ou d’autres méthodes aux propriétés voisines, comme la méthode du
maximum de vraisemblance et la méthode des moindres carrés.
Un estimateur est une statistique particulière, en tant que fonction de
l’échantillon, qui permet d’attribuer une valeur au paramètre θ à estimer. On
pourrait donc le définir comme une statistique à valeurs dans . Comme nous
n’avons ici imposé aucune condition à l’ensemble F , nous allons définir une
propriété que l’on pourrait qualifier de minimale pour un estimateur, c’est-à-dire
de prendre ses valeurs dans le même ensemble que le paramètre. On dira qu’un
estimateur est strict si T n (E
n ) ⊂ .
Exemple 7.1
Si X suit une loi de Bernoulli B (1,θ) ,T n sera un estimateur strict si
0 T n (x 1 ,...,x n ) 1 pour tout échantillon observé (x 1 ,...,x n ) .
Nous allons maintenant définir les propriétés essentielles que doit vérifier un
estimateur.
II. Propriétés d’un estimateur
Ayant fait choix d’un estimateur, on se pose la question de savoir s’il s’agit d’un
« bon » estimateur. Il va donc falloir se donner des critères de qualité. Par
ailleurs, il se peut que pour certains problèmes on ait le choix entre plusieurs
estimateurs et il va donc falloir aussi définir un critère de comparaison pour
déterminer quel est le meilleur. Enfin, on peut se poser la question de savoir s’il
n’existerait pas un estimateur qui, pour un problème donné, ne serait pas
meilleur que tous les autres : c’est le problème de l’optimalité. Toutes ces questions vont trouver des réponses dans l’étude des propriétés ci-après où nous supposerons pour simplifier que θ est un paramètre réel, c’est-à-dire que ⊂ R .
Ces propriétés peuvent bien sûr s’étendre au cas d’un paramètre multidimensionnel.
198 STATISTIQUE ET PROBABILITÉS
souvent donner du paramètre. Nous avions dans ces exemples θ = E(X) , c’està-dire la moyenne théorique de la loi, et on retient donc très logiquement comme
estimateur du paramètre θ la moyenne empirique ou moyenne de l’échantillon :
T n (X 1 ,...,X n ) = X n =
1
n
n
i=1
X i
Ce n’est que dans certains cas, assez rares, où le paramètre n’admet pas d’interprétation évidente, que l’on est amené à utiliser une méthode de construction
d’un estimateur, comme la méthode des moments, généralisant cette méthode
intuitive, ou d’autres méthodes aux propriétés voisines, comme la méthode du
maximum de vraisemblance et la méthode des moindres carrés.
Un estimateur est une statistique particulière, en tant que fonction de
l’échantillon, qui permet d’attribuer une valeur au paramètre θ à estimer. On
pourrait donc le définir comme une statistique à valeurs dans . Comme nous
n’avons ici imposé aucune condition à l’ensemble F , nous allons définir une
propriété que l’on pourrait qualifier de minimale pour un estimateur, c’est-à-dire
de prendre ses valeurs dans le même ensemble que le paramètre. On dira qu’un
estimateur est strict si T n (E
n ) ⊂ .
Exemple 7.1
Si X suit une loi de Bernoulli B (1,θ) ,T n sera un estimateur strict si
0 T n (x 1 ,...,x n ) 1 pour tout échantillon observé (x 1 ,...,x n ) .
Nous allons maintenant définir les propriétés essentielles que doit vérifier un
estimateur.
II. Propriétés d’un estimateur
Ayant fait choix d’un estimateur, on se pose la question de savoir s’il s’agit d’un
« bon » estimateur. Il va donc falloir se donner des critères de qualité. Par
ailleurs, il se peut que pour certains problèmes on ait le choix entre plusieurs
estimateurs et il va donc falloir aussi définir un critère de comparaison pour
déterminer quel est le meilleur. Enfin, on peut se poser la question de savoir s’il
n’existerait pas un estimateur qui, pour un problème donné, ne serait pas
meilleur que tous les autres : c’est le problème de l’optimalité. Toutes ces questions vont trouver des réponses dans l’étude des propriétés ci-après où nous supposerons pour simplifier que θ est un paramètre réel, c’est-à-dire que ⊂ R .
Ces propriétés peuvent bien sûr s’étendre au cas d’un paramètre multidimensionnel.
198 STATISTIQUE ET PROBABILITÉS