Chapitre 12. R´ egression lin´ eaire simple et multiple
511
Cat´ egories RACE RACE1 RACE2 RACE3
Blanche
1
1
0
0
Noire
2
0
1
0
Autre
3
0
0
1
> RACE1 <- as.integer(RACE==1)
> RACE2 <- as.integer(RACE==2)
> RACE3 <- as.integer(RACE==3)
Si on essaye d’ajuster le mod` ele suivant
BWT = Xβ + = β 0 1 + β 1 LWT + β 2 RACE1 + β 3 RACE2 + β 4 RACE3 + ,
(12.1)
un probl` eme va survenir, comme on peut le voir dans la sortie ci-dessous :
> summary(lm(BWT∼LWT+RACE1+RACE2+RACE3))
Call:
lm(formula = BWT ∼ LWT + RACE1 + RACE2 + RACE3)
Residuals:
Min
1Q Median
3Q
Max
-2094.9 -420.8
40.1
478.2 1928.4
Coefficients: (1 not defined because of singularities)
Estimate Std. Error t value Pr(>|t|)
(Intercept) 2245.097
226.805
9.899 < 2e-16 ***
LWT
10.267
3.856
2.662 0.00844 **
RACE1
243.667
113.826
2.141 0.03361 *
RACE2
-209.098
168.988 -1.237 0.21752
RACE3
NA
NA
NA
NA
--Signif. codes: 0 ‘ *** ’ 0.001 ‘ ** ’ 0.01 ‘ * ’ 0.05 ‘.’ 0.1 ‘ ’ 1
Residual standard error: 702.7 on 185 degrees of freedom
Multiple R-squared: 0.08578,
Adjusted R-squared: 0.07095
F-statistic: 5.786 on 3 and 185 DF, p-value: 0.0008399
Ceci vient du fait que la matrice de design X n’est plus de plein rang :
> # Premières lignes de la matrice de design.
> head(model.matrix(summary(lm(BWT∼LWT+RACE1+RACE2+RACE3))))
(Intercept)
LWT RACE1 RACE2 RACE3
1
1 82.55380
0
1
0
2
1 70.30681
0
0
1
3
1 47.62719
1
0
0
4
1 48.98797
1
0
0
5
1 48.53438
1
0
0
6
1 56.24545
0
0
1
En effet, la somme des 3 derni` eres colonnes redonne la premi` ere colonne :
le mod` ele est dit non identifiable. L’estimateur des moindres carr´ es de β n’est
alors plus unique (mˆ eme si les pr´ edictions bas´ ees sur n’importe quel estimateur
des moindres carr´ es de β le seront).