3. Estimation
39
être vue comme une variable aléatoire. Cela est aussi valable pour chaque observation y i d’une variable Y , par exemple pour la première observation y 1 d’un
échantillon. En pratique, on observe un seul y 1 (dans notre exemple, le premier Onobrychis mesure 21 cm), mais on en observerait d’autres si on répétait
l’expérience (on aurait un premier Onobrychis dans chaque échantillon).
Il sera utile dans ce qui suit de faire la distinction entre le concept et la
réalisation d’une variable aléatoire en utilisant une lettre majuscule pour le
premier et une lettre minuscule pour la seconde
1 . On notera ainsi Y 1 la variable
aléatoire « première observation de l’échantillon » et y 1 sa réalisation dans
notre échantillon. On dira que l’observation y 1 = 21 cm est la réalisation de la
variable aléatoire Y 1 . Si les individus de notre échantillon sont tirés au hasard
d’une population dans laquelle une variable Y a une moyenne μ et une variance
σ
2 , on aura pour chaque observation Y i :
• E(Y i ) = μ
• Var(Y i ) = σ
2 .
On peut ainsi attribuer à chaque observation de l’échantillon les paramètres de
la population. Plus généralement, on peut attribuer à chaque observation Y i de
l’échantillon la distribution de la variable Y dans la population. Par exemple,
la distribution de Y i sera normale si la distribution de Y est normale.
On peut par ailleurs définir formellement le concept d’indépendance entre
observations comme suit : deux observations Y 1 et Y 2 sont dites indépendantes
si la distribution de Y 2 , sachant que l’on observe Y 1 = y 1 , ne dépend pas de la
valeur observée y 1 . Dans notre exemple des Onobrychis, ceci veut dire que si on
répète l’échantillonnage, la distribution de la hauteur du second Onobrychis Y 2
calculée sur les échantillons où l’on observe un premier Onobrychis de y 1 = 21
cm sera la même que la distribution de Y 2 calculée sur les échantillons où l’on
observe y 1 = 25 cm, et sera encore la même que la distribution de Y 2 calculée
sur les échantillons où l’on observe y 1 = 27.4536 cm, et ainsi de suite
2 .
Notons que la somme, la différence ou le produit de deux variables aléatoires
Y 1 et Y 2 sont de nouvelles variables aléatoires. On a alors les résultats suivants :
• Y 1 et Y 2 normales implique Y 1 + Y 2 et Y 1 − Y 2 normales
• E(Y 1 + Y 2 ) = E(Y 1 ) + E(Y 2 ) et E(Y 1 − Y 2 ) = E(Y 1 ) − E(Y 2 )
• E(Y 1 · Y 2 ) = E(Y 1 ) · E(Y 2 ) (si Y 1 et Y 2 sont indépendantes).
1 On renoncera toutefois à une telle utilisation de minuscules et de majuscules avec les
lettres grecques. Ainsi, b
θ dénotera dans ce qui suit à la fois le concept d’estimateur vu comme
variable aléatoire et sa réalisation dans notre échantillon. On fera par contre (en principe)
une distinction linguistique, en appelant estimateur le premier et estimation la seconde.
2 Un lecteur attentif nous rappellera qu’il est impossible d’observer un Onobrychis mesurant exactement 21 cm, ni 25 cm, ni même 27.4536 cm. En fait, un probabiliste nous dira que
cela arrivera quand même de temps en temps, mais que cela arrivera avec une probabilité
nulle (la proportion des Onobrychis mesurant exactement 21 cm étant nulle par rapport à
l’infinité des Onobrychis de la population considérée).
39
être vue comme une variable aléatoire. Cela est aussi valable pour chaque observation y i d’une variable Y , par exemple pour la première observation y 1 d’un
échantillon. En pratique, on observe un seul y 1 (dans notre exemple, le premier Onobrychis mesure 21 cm), mais on en observerait d’autres si on répétait
l’expérience (on aurait un premier Onobrychis dans chaque échantillon).
Il sera utile dans ce qui suit de faire la distinction entre le concept et la
réalisation d’une variable aléatoire en utilisant une lettre majuscule pour le
premier et une lettre minuscule pour la seconde
1 . On notera ainsi Y 1 la variable
aléatoire « première observation de l’échantillon » et y 1 sa réalisation dans
notre échantillon. On dira que l’observation y 1 = 21 cm est la réalisation de la
variable aléatoire Y 1 . Si les individus de notre échantillon sont tirés au hasard
d’une population dans laquelle une variable Y a une moyenne μ et une variance
σ
2 , on aura pour chaque observation Y i :
• E(Y i ) = μ
• Var(Y i ) = σ
2 .
On peut ainsi attribuer à chaque observation de l’échantillon les paramètres de
la population. Plus généralement, on peut attribuer à chaque observation Y i de
l’échantillon la distribution de la variable Y dans la population. Par exemple,
la distribution de Y i sera normale si la distribution de Y est normale.
On peut par ailleurs définir formellement le concept d’indépendance entre
observations comme suit : deux observations Y 1 et Y 2 sont dites indépendantes
si la distribution de Y 2 , sachant que l’on observe Y 1 = y 1 , ne dépend pas de la
valeur observée y 1 . Dans notre exemple des Onobrychis, ceci veut dire que si on
répète l’échantillonnage, la distribution de la hauteur du second Onobrychis Y 2
calculée sur les échantillons où l’on observe un premier Onobrychis de y 1 = 21
cm sera la même que la distribution de Y 2 calculée sur les échantillons où l’on
observe y 1 = 25 cm, et sera encore la même que la distribution de Y 2 calculée
sur les échantillons où l’on observe y 1 = 27.4536 cm, et ainsi de suite
2 .
Notons que la somme, la différence ou le produit de deux variables aléatoires
Y 1 et Y 2 sont de nouvelles variables aléatoires. On a alors les résultats suivants :
• Y 1 et Y 2 normales implique Y 1 + Y 2 et Y 1 − Y 2 normales
• E(Y 1 + Y 2 ) = E(Y 1 ) + E(Y 2 ) et E(Y 1 − Y 2 ) = E(Y 1 ) − E(Y 2 )
• E(Y 1 · Y 2 ) = E(Y 1 ) · E(Y 2 ) (si Y 1 et Y 2 sont indépendantes).
1 On renoncera toutefois à une telle utilisation de minuscules et de majuscules avec les
lettres grecques. Ainsi, b
θ dénotera dans ce qui suit à la fois le concept d’estimateur vu comme
variable aléatoire et sa réalisation dans notre échantillon. On fera par contre (en principe)
une distinction linguistique, en appelant estimateur le premier et estimation la seconde.
2 Un lecteur attentif nous rappellera qu’il est impossible d’observer un Onobrychis mesurant exactement 21 cm, ni 25 cm, ni même 27.4536 cm. En fait, un probabiliste nous dira que
cela arrivera quand même de temps en temps, mais que cela arrivera avec une probabilité
nulle (la proportion des Onobrychis mesurant exactement 21 cm étant nulle par rapport à
l’infinité des Onobrychis de la population considérée).