3.6 La méthode des moindres carrés
103
Le polynôme correspondant ˜
f(x) = a 0 + a 1 x s’appelle la droite des
moindres carrés, ou de régression linéaire.
Cette approche peut être généralisée de plusieurs manières. La première généralisation consiste à prendre un m plus grand. Le système
linéaire (m + 1) × (m + 1) associé est symétrique et a la forme suivante
a 0 (n + 1) +a 1
n
i=0
x i
+ . . . + a m
n
i=0
x
m
i
=
n
i=0
y i ,
a 0
n
i=0
x i +a 1
n
i=0
x
2
i
+ . . . + a m
n
i=0
x
m+1
i
=
n
i=0
x i y i ,
. . .
. . .
. . .
. . .
a 0
n
i=0
x
m
i
+a 1
n
i=0
x
m+1
i
+ . . . + a m
n
i=0
x
2m
i
=
n
i=0
x
m
i y i .
Quand m = n, le polynôme des moindres carrés ˜
f coïncide avec le
polynôme d’interpolation de Lagrange Π n ˜
f (voir Exercice 3.9).
La commande c=polyfit(x,y,m) de MATLAB calcule par défaut les coefficients du polynôme de degré m qui approche n+1 couples
(x(i),y(i)) au sens des moindres carrés. Comme on l’a déjà noté à la
Section 3.3.1, quand m est égal à n, la commande renvoie le polynôme
d’interpolation.
Exemple 3.11 (Finance) Sur la Figure 3.15, à gauche, on trace les graphes
des polynômes de degrés 1, 2 et 4 qui approchent les données de la Figure 3.1 au
sens des moindres carrés. Le polynôme de degré 4 reproduit assez raisonnablement le comportement du prix de l’action dans l’intervalle de temps considéré.
Il suggère que, dans un futur proche, la cotation va augmenter.
Exemple 3.12 (Biomécanique) En utilisant la méthode des moindres carrés, on peut répondre à la question du Problème 3.3 et trouver que la droite
qui approche le mieux les données a pour équation (σ) = 0.3471σ + 0.0654
(voir Figure 3.15, à droite). Quand σ = 0.9, ceci donne une déformation
estimée à 0.2915.
Une généralisation de l’approximation au sens des moindres carrés
consiste à utiliser dans (3.25) des fonctions ˜
f et p m qui ne sont pas des
polynômes mais des fonctions d’un espace vectoriel V m engendré par
m + 1 fonctions indépendantes {ψ j , j = 0, . . ., m}. On peut considérer
par exemple des fonctions trigonométriques ψ j (x) = cos(γjx) (pour un
paramètre γ = 0 donné), des fonctions exponentielles ψ j (x) = e
δjx (pour
un δ > 0 donné) ou des fonctions splines.
Le choix des fonctions {ψ j } est en pratique dicté par la forme supposée de la loi décrivant les données. Par exemple, sur la Figure 3.16,
on a tracé le graphe de l’approximation au sens des moindres carrés des
103
Le polynôme correspondant ˜
f(x) = a 0 + a 1 x s’appelle la droite des
moindres carrés, ou de régression linéaire.
Cette approche peut être généralisée de plusieurs manières. La première généralisation consiste à prendre un m plus grand. Le système
linéaire (m + 1) × (m + 1) associé est symétrique et a la forme suivante
a 0 (n + 1) +a 1
n
i=0
x i
+ . . . + a m
n
i=0
x
m
i
=
n
i=0
y i ,
a 0
n
i=0
x i +a 1
n
i=0
x
2
i
+ . . . + a m
n
i=0
x
m+1
i
=
n
i=0
x i y i ,
. . .
. . .
. . .
. . .
a 0
n
i=0
x
m
i
+a 1
n
i=0
x
m+1
i
+ . . . + a m
n
i=0
x
2m
i
=
n
i=0
x
m
i y i .
Quand m = n, le polynôme des moindres carrés ˜
f coïncide avec le
polynôme d’interpolation de Lagrange Π n ˜
f (voir Exercice 3.9).
La commande c=polyfit(x,y,m) de MATLAB calcule par défaut les coefficients du polynôme de degré m qui approche n+1 couples
(x(i),y(i)) au sens des moindres carrés. Comme on l’a déjà noté à la
Section 3.3.1, quand m est égal à n, la commande renvoie le polynôme
d’interpolation.
Exemple 3.11 (Finance) Sur la Figure 3.15, à gauche, on trace les graphes
des polynômes de degrés 1, 2 et 4 qui approchent les données de la Figure 3.1 au
sens des moindres carrés. Le polynôme de degré 4 reproduit assez raisonnablement le comportement du prix de l’action dans l’intervalle de temps considéré.
Il suggère que, dans un futur proche, la cotation va augmenter.
Exemple 3.12 (Biomécanique) En utilisant la méthode des moindres carrés, on peut répondre à la question du Problème 3.3 et trouver que la droite
qui approche le mieux les données a pour équation (σ) = 0.3471σ + 0.0654
(voir Figure 3.15, à droite). Quand σ = 0.9, ceci donne une déformation
estimée à 0.2915.
Une généralisation de l’approximation au sens des moindres carrés
consiste à utiliser dans (3.25) des fonctions ˜
f et p m qui ne sont pas des
polynômes mais des fonctions d’un espace vectoriel V m engendré par
m + 1 fonctions indépendantes {ψ j , j = 0, . . ., m}. On peut considérer
par exemple des fonctions trigonométriques ψ j (x) = cos(γjx) (pour un
paramètre γ = 0 donné), des fonctions exponentielles ψ j (x) = e
δjx (pour
un δ > 0 donné) ou des fonctions splines.
Le choix des fonctions {ψ j } est en pratique dicté par la forme supposée de la loi décrivant les données. Par exemple, sur la Figure 3.16,
on a tracé le graphe de l’approximation au sens des moindres carrés des