Chapitre 10. Variables al´ eatoires, lois et simulations
431
C’est ce que l’on appelle la fluctuation d’´ echantillonnage. Ainsi, lorsque
l’on cherche ` a estimer un param` etre θ inconnu, les estimations obtenues varient
en fonction des ´ echantillons. Chaque nouvel ´ echantillon observ´ e donne lieu `
a
une estimation diff´ erente de θ.
Si maintenant on augmente la taille de l’´ echantillon (par exemple ` a n =
10 000), on observe une fluctuation beaucoup moins importante entre deux
lancers de 10 000 d´ es.
> n <- 10000
> res <- lancer.le.dé(n)
> sum(res==4)/n
[1] 0.1725
> res <- lancer.le.dé(n)
> sum(res==4)/n
[1] 0.1678
• Qualit´ es d’un estimateur
Comment savoir alors si un estimateur ˆ
θ(X 1 , . . . , X n ) est assez pr´ ecis pour
estimer un param` etre θ inconnu ? Nous pouvons pour cela d´ efinir deux crit` eres
de qualit´ e d’un estimateur :
– son biais (pour estimer θ) B
ˆ
θ(X 1 , . . . , X n ); θ
= E
ˆ
θ(X 1 , . . . , X n )
− θ qui
mesure si l’estimateur vise juste « en moyenne » ;
– et sa variance Var
ˆ
θ(X 1 , . . . , X n )
qui mesure la variabilit´ e de l’estimateur.
Vous aurez not´ e que le biais et la variance de ˆ
θ(X 1 , . . . , X n ) d´ ependent (en
th´ eorie) de n.
Maintenant, si l’on dispose d’un g´ en´ erateur permettant de simuler le comportement des variables al´ eatoires X 1 , . . . , X n , c’est-` a-dire si l’on est en mesure
de fabriquer un grand nombre d’´ echantillons (X 1 , . . . , X n ) (disons M = 10 000 ou
mˆ eme plus suivant le contexte), alors il devient possible, en utilisant l’approche
par simulation de Monte-Carlo, d’estimer les deux quantit´ es pr´ ec´ edentes. En
effet, pour chaque ´ echantillon (x 1,i , . . . , x n,i ) observ´ e, on calculera l’estimation
correspondante ˆ
θ(x 1,i , . . . , x n,i ). On se retrouvera alors avec M valeurs ˆ
θ 1 , . . . , ˆ
θ M
qui permettront d’estimer E
ˆ
θ(X 1 , . . . , X n ); θ
par ˆ
θ =
1
M
M
i=1
ˆ
θ i et la variance
Var
ˆ
θ(X 1 , . . . , X n )
par
1
M
M
i=1
ˆ
θ i − ˆ
θ
2
.
Dans l’exemple ci-apr` es, nous cherchons ` a estimer par Monte-Carlo le biais
et la variance de l’estimateur ˆ
p (fr´ equence d’apparition de 4 pour n lancers
de d´ es) du param` etre connu p = θ = 1/6. Notez que p est le param` etre de la
variable al´ eatoire X repr´ esentant l’apparition ou non d’un 4 lors du lancer d’un
d´ e. La loi de X est une loi de Bernoulli de param` etre p = 1/6.
431
C’est ce que l’on appelle la fluctuation d’´ echantillonnage. Ainsi, lorsque
l’on cherche ` a estimer un param` etre θ inconnu, les estimations obtenues varient
en fonction des ´ echantillons. Chaque nouvel ´ echantillon observ´ e donne lieu `
a
une estimation diff´ erente de θ.
Si maintenant on augmente la taille de l’´ echantillon (par exemple ` a n =
10 000), on observe une fluctuation beaucoup moins importante entre deux
lancers de 10 000 d´ es.
> n <- 10000
> res <- lancer.le.dé(n)
> sum(res==4)/n
[1] 0.1725
> res <- lancer.le.dé(n)
> sum(res==4)/n
[1] 0.1678
• Qualit´ es d’un estimateur
Comment savoir alors si un estimateur ˆ
θ(X 1 , . . . , X n ) est assez pr´ ecis pour
estimer un param` etre θ inconnu ? Nous pouvons pour cela d´ efinir deux crit` eres
de qualit´ e d’un estimateur :
– son biais (pour estimer θ) B
ˆ
θ(X 1 , . . . , X n ); θ
= E
ˆ
θ(X 1 , . . . , X n )
− θ qui
mesure si l’estimateur vise juste « en moyenne » ;
– et sa variance Var
ˆ
θ(X 1 , . . . , X n )
qui mesure la variabilit´ e de l’estimateur.
Vous aurez not´ e que le biais et la variance de ˆ
θ(X 1 , . . . , X n ) d´ ependent (en
th´ eorie) de n.
Maintenant, si l’on dispose d’un g´ en´ erateur permettant de simuler le comportement des variables al´ eatoires X 1 , . . . , X n , c’est-` a-dire si l’on est en mesure
de fabriquer un grand nombre d’´ echantillons (X 1 , . . . , X n ) (disons M = 10 000 ou
mˆ eme plus suivant le contexte), alors il devient possible, en utilisant l’approche
par simulation de Monte-Carlo, d’estimer les deux quantit´ es pr´ ec´ edentes. En
effet, pour chaque ´ echantillon (x 1,i , . . . , x n,i ) observ´ e, on calculera l’estimation
correspondante ˆ
θ(x 1,i , . . . , x n,i ). On se retrouvera alors avec M valeurs ˆ
θ 1 , . . . , ˆ
θ M
qui permettront d’estimer E
ˆ
θ(X 1 , . . . , X n ); θ
par ˆ
θ =
1
M
M
i=1
ˆ
θ i et la variance
Var
ˆ
θ(X 1 , . . . , X n )
par
1
M
M
i=1
ˆ
θ i − ˆ
θ
2
.
Dans l’exemple ci-apr` es, nous cherchons ` a estimer par Monte-Carlo le biais
et la variance de l’estimateur ˆ
p (fr´ equence d’apparition de 4 pour n lancers
de d´ es) du param` etre connu p = θ = 1/6. Notez que p est le param` etre de la
variable al´ eatoire X repr´ esentant l’apparition ou non d’un 4 lors du lancer d’un
d´ e. La loi de X est une loi de Bernoulli de param` etre p = 1/6.