3.6 La méthode des moindres carrés
101
0
0.2
0.4
0.6
0.8
1
0
0.2
0.4
0.6
0.8
1
Figure 3.14. Approximation du premier quart du cercle unité utilisant seulement 4 noeuds. La ligne en trait discontinu est la spline cubique, celle en trait
plein est l’interpolation d’Hermite cubique par morceaux
(avec des fonctions linéaires par morceau ou des splines). Néanmoins, aucune des deux méthodes n’est adaptée à l’extrapolation d’informations
à partir des données disponibles, c’est-à-dire, à la génération de nouvelles valeurs en des points situés à l’extérieur de l’intervalle contenant
les noeuds d’interpolation.
Exemple 3.10 (Finance) Sur la base des données représentées sur la Figure 3.1, on aimerait prédire si le prix de l’action va augmenter ou diminuer
dans les jours à venir. L’interpolation de Lagrange est inadaptée, car elle nécessiterait le calcul d’un polynôme (extrêmement oscillant) de degré 719, ce qui
fournirait une prédiction parfaitement inutilisable. L’interpolation linéaire par
morceaux, dont le graphe est représenté sur la Figure 3.1, produit des résultats
extrapolés qui ne tiennent compte que des deux derniers jours, ignorant totalement l’histoire antérieure. On obtient un meilleur résultat en abandonnant
le principe de l’interpolation, et en utilisant la méthode des moindres carrés
expliquée ci-dessous.
Considérons les données {(x i , y i ), i = 0, . . ., n} où y i peut être vue
comme la valeur f(x i ) prise par une fonction f au noeud x i . Pour un
entier m ≥ 1 donné (en général m n), on cherche un polynôme ˜
f ∈ P m
vérifiant l’inégalité
n
i=0
[y i − ˜
f (x i )]
2
≤
n
i=0
[y i − p m (x i )]
2
(3.25)
pour tout polynôme p m de degré au plus m. Si elle existe, ˜
f est appelée approximation au sens des moindres carrés dans P m des données
{(x i , y i ), i = 0, . . ., n}. A moins que m ≥ n, il n’est en général pas possible d’avoir ˜
f (x i ) = y i pour tout i = 0, . . ., n.
101
0
0.2
0.4
0.6
0.8
1
0
0.2
0.4
0.6
0.8
1
Figure 3.14. Approximation du premier quart du cercle unité utilisant seulement 4 noeuds. La ligne en trait discontinu est la spline cubique, celle en trait
plein est l’interpolation d’Hermite cubique par morceaux
(avec des fonctions linéaires par morceau ou des splines). Néanmoins, aucune des deux méthodes n’est adaptée à l’extrapolation d’informations
à partir des données disponibles, c’est-à-dire, à la génération de nouvelles valeurs en des points situés à l’extérieur de l’intervalle contenant
les noeuds d’interpolation.
Exemple 3.10 (Finance) Sur la base des données représentées sur la Figure 3.1, on aimerait prédire si le prix de l’action va augmenter ou diminuer
dans les jours à venir. L’interpolation de Lagrange est inadaptée, car elle nécessiterait le calcul d’un polynôme (extrêmement oscillant) de degré 719, ce qui
fournirait une prédiction parfaitement inutilisable. L’interpolation linéaire par
morceaux, dont le graphe est représenté sur la Figure 3.1, produit des résultats
extrapolés qui ne tiennent compte que des deux derniers jours, ignorant totalement l’histoire antérieure. On obtient un meilleur résultat en abandonnant
le principe de l’interpolation, et en utilisant la méthode des moindres carrés
expliquée ci-dessous.
Considérons les données {(x i , y i ), i = 0, . . ., n} où y i peut être vue
comme la valeur f(x i ) prise par une fonction f au noeud x i . Pour un
entier m ≥ 1 donné (en général m n), on cherche un polynôme ˜
f ∈ P m
vérifiant l’inégalité
n
i=0
[y i − ˜
f (x i )]
2
≤
n
i=0
[y i − p m (x i )]
2
(3.25)
pour tout polynôme p m de degré au plus m. Si elle existe, ˜
f est appelée approximation au sens des moindres carrés dans P m des données
{(x i , y i ), i = 0, . . ., n}. A moins que m ≥ n, il n’est en général pas possible d’avoir ˜
f (x i ) = y i pour tout i = 0, . . ., n.