14. Régression linéaire multiple
241
En plus des estimations des paramètres
β j de l’hyperplan de régression, un
logiciel statistique nous donnera donc les erreurs types (estimées) SE(
β j ) de
ces estimateurs (pour j = 0, 1, · · · , m). À partir de là, on pourra calculer un
intervalle de confiance de Student au niveau 1 − α pour β j comme suit :
β j ± t 1−α/2,n−m−1 · SE(
β j ).
On pourra également tester l’hypothèse nulle H 0 : β j = 0 en calculant la
statistique de test d’un test de Student (ou test t) donnée par :
t stat =
β j
SE(
β j )
et en la comparant avec les quantiles d’une distribution de Student avec n −
m − 1 dl (on rejettera ainsi H 0 dans un test bilatéral au seuil α si |t stat | ≥
t 1−α/2,n−m−1 ). La plupart des logiciels statistiques nous donneront directement
les valeurs calculées t stat de ces statistiques de tests, ainsi que les valeurs p
correspondantes
17 .
Exemple 14.9 Dans notre exemple de la prédiction de la graisse corporelle,
un logiciel statistique nous donnera un tableau de la forme suivante :
estimation erreur type
t stat
valeur p
(constante)
−13.254
14.784
−0.896
0.371
poids
−0.120
0.097
−1.234
0.219
âge
0.046
0.029
1.596
0.112
taille
−0.077
0.066
−1.178
0.240
abdomen
0.841
0.086
9.833
0.000
biceps
0.234
0.160
1.460
0.146
poignet
−1.725
0.494
−3.490
0.001
Dans la première colonne, on retrouve les estimations des paramètres de l’hyperplan de régression. On remarque par exemple le signe négatif de la pente
du poids pour prédire la graisse corporelle (−0.12 : à âge, taille, abdomen, biceps et poignet égal, les individus plus lourds ont en moyenne moins de graisse
corporelle, avec une diminution estimée à 0.12 % de graisse par kg). Dans la
deuxième colonne, on a les erreurs types (estimées) de ces estimateurs. L’erreur
type de l’estimateur de la pente du poids est par exemple estimée à 0.097. Les
statistiques de test données dans la troisième colonne sont obtenues en divisant
les estimations de la première colonne par les erreurs types de la deuxième.
Pour le poids, on obtient ainsi t stat = −0.12/0.097 = −1.234. Les valeurs p de
la quatrième colonne sont obtenues en comparant ces statistiques de test aux
quantiles d’une distribution de Student avec 248 − 6 − 1 = 241 dl. Pour le poids,
17 Dans R, on obtient les résultats d’un modèle de régression multiple avec la variable
réponse y et les six prédicteurs x1, x2, x3, x4, x5 et x6 en utilisant la commande
summary(lm(y∼x1+x2+x3+x4+x5+x6)).
241
En plus des estimations des paramètres
β j de l’hyperplan de régression, un
logiciel statistique nous donnera donc les erreurs types (estimées) SE(
β j ) de
ces estimateurs (pour j = 0, 1, · · · , m). À partir de là, on pourra calculer un
intervalle de confiance de Student au niveau 1 − α pour β j comme suit :
β j ± t 1−α/2,n−m−1 · SE(
β j ).
On pourra également tester l’hypothèse nulle H 0 : β j = 0 en calculant la
statistique de test d’un test de Student (ou test t) donnée par :
t stat =
β j
SE(
β j )
et en la comparant avec les quantiles d’une distribution de Student avec n −
m − 1 dl (on rejettera ainsi H 0 dans un test bilatéral au seuil α si |t stat | ≥
t 1−α/2,n−m−1 ). La plupart des logiciels statistiques nous donneront directement
les valeurs calculées t stat de ces statistiques de tests, ainsi que les valeurs p
correspondantes
17 .
Exemple 14.9 Dans notre exemple de la prédiction de la graisse corporelle,
un logiciel statistique nous donnera un tableau de la forme suivante :
estimation erreur type
t stat
valeur p
(constante)
−13.254
14.784
−0.896
0.371
poids
−0.120
0.097
−1.234
0.219
âge
0.046
0.029
1.596
0.112
taille
−0.077
0.066
−1.178
0.240
abdomen
0.841
0.086
9.833
0.000
biceps
0.234
0.160
1.460
0.146
poignet
−1.725
0.494
−3.490
0.001
Dans la première colonne, on retrouve les estimations des paramètres de l’hyperplan de régression. On remarque par exemple le signe négatif de la pente
du poids pour prédire la graisse corporelle (−0.12 : à âge, taille, abdomen, biceps et poignet égal, les individus plus lourds ont en moyenne moins de graisse
corporelle, avec une diminution estimée à 0.12 % de graisse par kg). Dans la
deuxième colonne, on a les erreurs types (estimées) de ces estimateurs. L’erreur
type de l’estimateur de la pente du poids est par exemple estimée à 0.097. Les
statistiques de test données dans la troisième colonne sont obtenues en divisant
les estimations de la première colonne par les erreurs types de la deuxième.
Pour le poids, on obtient ainsi t stat = −0.12/0.097 = −1.234. Les valeurs p de
la quatrième colonne sont obtenues en comparant ces statistiques de test aux
quantiles d’une distribution de Student avec 248 − 6 − 1 = 241 dl. Pour le poids,
17 Dans R, on obtient les résultats d’un modèle de régression multiple avec la variable
réponse y et les six prédicteurs x1, x2, x3, x4, x5 et x6 en utilisant la commande
summary(lm(y∼x1+x2+x3+x4+x5+x6)).