Chapitre 10. Variables al´ eatoires, lois et simulations
435
10.5.4 Simulation de variables al´ eatoires discr` etes
On veut simuler un ´ echantillon provenant d’une variable al´ eatoire discr` ete X
satisfaisant P(X = x i ) = p i pour tout i dans N (ou l’un de ses sous-ensembles).
On d´ efinit U comme ´ etant une variable al´ eatoire de loi U(0, 1) qui pourra ˆ etre
obtenue `
a l’aide de la fonction runif(), et on utilise l’algorithme suivant :
⎧
⎪ ⎪ ⎨
⎪ ⎪ ⎩
X = x 0 si 0 < U ≤ p 0 ;
X = x i
si
i−1
j=0 p j < U ≤
i
j=0 p j .
Prise en main
Ï
G´ en´ erez des observations de loi uniforme discr` ete sur {0, 1, 2, 3, 4, 5} en
utilisant cet algorithme.
SECTION 10.6
La m´ ethode du bootstrap
Les techniques de r´ e´ echantillonnage, appel´ ees aussi m´ ethodes du bootstrap,
consistent ` a utiliser l’information pr´ esente dans un ´ echantillon de valeurs observ´ ees (x 1 , . . . , x n ) pour approcher la loi des variables al´ eatoires i.i.d. X 1 , . . . , X n
ayant g´ en´ er´ e cet ´ echantillon. Nous avons vu ` a la section 10.2.3.1 que la loi d’une
variable al´ eatoire pouvait ˆ etre d´ ecrite au moyen de la fonction de r´ epartition
F X de ces variables, et nous avons vu `
a la section 10.4.2 comment il ´ etait possible d’approcher cette fonction de r´ epartition par la fonction de r´ epartition
empirique ˆ
F X n . L’id´ ee du bootstrap consiste alors ` a g´ en´ erer plusieurs jeux d’observations x
∗
1 = (x
∗
1,1 , . . . , x
∗
n,1 ), . . . , x
∗
B = (x
∗
1,B , . . . , x
∗
n,B ) en suivant la loi d´ ecrite
par ˆ
F X n (qui est connue) et non pas par F X (qui est inconnue en pratique).
Nous consid´ ererons alors que les nouvelles donn´ ees que nous sommes capables
de g´ en´ erer ainsi auront sensiblement les mˆ emes propri´ et´ es que les observations
que nous obtiendrions si nous pouvions utiliser ` a notre guise le g´ en´ erateur fond´ e
sur F X (ce qui n’est pas le cas en pratique). Nous pourrons ensuite utiliser des
techniques de Monte-Carlo, comme cela a ´ et´ e pr´ esent´ e ` a la section 10.4.1, pour
estimer par exemple le biais et la variance de l’estimateur ˆ
θ(X 1 , . . . , X n ) d’un
param` etre inconnu θ par respectivement
1
B
B
b=1
ˆ
θ(x
∗
1,b , . . . , x
∗
n,b ) − ˆ
θ(x 1 , . . . , x n ) et
1
B
B
b=1
ˆ
θ(x
∗
1,b , . . . , x
∗
n,i ) −
1
B
B
j=1
ˆ
θ(x
∗
1,i , . . . , x
∗
n,i )
2 . La question `
a laquelle il reste
maintenant `
a r´ epondre est celle de savoir comment g´ en´ erer des observations ` a
partir de ˆ
F X n . C’est en fait tr` es simple puisqu’il suffit de tirer avec remise n observations parmi l’´ echantillon de d´ epart. La proc´ edure du bootstrap consistera
donc ` a g´ en´ erer B tels ´ echantillons x
∗
b et ` a s’en servir comme cela est illustr´ e sur
l’exemple ci-dessous. C’est la fonction R sample() qui permettra d’effectuer
l’op´ eration de tirage avec remise.
435
10.5.4 Simulation de variables al´ eatoires discr` etes
On veut simuler un ´ echantillon provenant d’une variable al´ eatoire discr` ete X
satisfaisant P(X = x i ) = p i pour tout i dans N (ou l’un de ses sous-ensembles).
On d´ efinit U comme ´ etant une variable al´ eatoire de loi U(0, 1) qui pourra ˆ etre
obtenue `
a l’aide de la fonction runif(), et on utilise l’algorithme suivant :
⎧
⎪ ⎪ ⎨
⎪ ⎪ ⎩
X = x 0 si 0 < U ≤ p 0 ;
X = x i
si
i−1
j=0 p j < U ≤
i
j=0 p j .
Prise en main
Ï
G´ en´ erez des observations de loi uniforme discr` ete sur {0, 1, 2, 3, 4, 5} en
utilisant cet algorithme.
SECTION 10.6
La m´ ethode du bootstrap
Les techniques de r´ e´ echantillonnage, appel´ ees aussi m´ ethodes du bootstrap,
consistent ` a utiliser l’information pr´ esente dans un ´ echantillon de valeurs observ´ ees (x 1 , . . . , x n ) pour approcher la loi des variables al´ eatoires i.i.d. X 1 , . . . , X n
ayant g´ en´ er´ e cet ´ echantillon. Nous avons vu ` a la section 10.2.3.1 que la loi d’une
variable al´ eatoire pouvait ˆ etre d´ ecrite au moyen de la fonction de r´ epartition
F X de ces variables, et nous avons vu `
a la section 10.4.2 comment il ´ etait possible d’approcher cette fonction de r´ epartition par la fonction de r´ epartition
empirique ˆ
F X n . L’id´ ee du bootstrap consiste alors ` a g´ en´ erer plusieurs jeux d’observations x
∗
1 = (x
∗
1,1 , . . . , x
∗
n,1 ), . . . , x
∗
B = (x
∗
1,B , . . . , x
∗
n,B ) en suivant la loi d´ ecrite
par ˆ
F X n (qui est connue) et non pas par F X (qui est inconnue en pratique).
Nous consid´ ererons alors que les nouvelles donn´ ees que nous sommes capables
de g´ en´ erer ainsi auront sensiblement les mˆ emes propri´ et´ es que les observations
que nous obtiendrions si nous pouvions utiliser ` a notre guise le g´ en´ erateur fond´ e
sur F X (ce qui n’est pas le cas en pratique). Nous pourrons ensuite utiliser des
techniques de Monte-Carlo, comme cela a ´ et´ e pr´ esent´ e ` a la section 10.4.1, pour
estimer par exemple le biais et la variance de l’estimateur ˆ
θ(X 1 , . . . , X n ) d’un
param` etre inconnu θ par respectivement
1
B
B
b=1
ˆ
θ(x
∗
1,b , . . . , x
∗
n,b ) − ˆ
θ(x 1 , . . . , x n ) et
1
B
B
b=1
ˆ
θ(x
∗
1,b , . . . , x
∗
n,i ) −
1
B
B
j=1
ˆ
θ(x
∗
1,i , . . . , x
∗
n,i )
2 . La question `
a laquelle il reste
maintenant `
a r´ epondre est celle de savoir comment g´ en´ erer des observations ` a
partir de ˆ
F X n . C’est en fait tr` es simple puisqu’il suffit de tirer avec remise n observations parmi l’´ echantillon de d´ epart. La proc´ edure du bootstrap consistera
donc ` a g´ en´ erer B tels ´ echantillons x
∗
b et ` a s’en servir comme cela est illustr´ e sur
l’exemple ci-dessous. C’est la fonction R sample() qui permettra d’effectuer
l’op´ eration de tirage avec remise.