13. Régression linéaire simple
189
●
●
●
●
●
●
●
●
●
●
●
●
●
●
●
●
●
●
●
●
●
●
●
●
●
●
●
●
●
●
150
155
160
165
170
40
50
60
70
80
90
taille (cm)
poids (kg)
Figure 13.2 – Illustration du critère des moindres carrés.
La droite de régression est calculée de façon à minimiser globalement ces
erreurs de prédiction. Le critère de minimisation que l’on utilise est celui des
moindres carrés, défini par :
i
ε
2
i =
i
(y i −
y
∗
i )
2 =
i
(y i −
β 0 −
β 1 x i )
2 .
La droite de régression, appelée également droite des moindres carrés, est donc
la droite pour laquelle la somme des carrés des distances verticales entre les
données et la droite est minimale. Ces distances verticales (qui représentent les
erreurs de prédictions) sont mises en évidence dans la figure 13.2.
Les coefficients
β 0 et
β 1 de la droite de régression sont les solutions des
dérivées partielles du critère des moindres carrés par rapport à
β 0 et
β 1 . Ils
satisfont les deux conditions :
i
(y i −
β 0 −
β 1 x i ) = 0
et
i
x i (y i −
β 0 −
β 1 x i ) = 0.