156
5 Systèmes linéaires
valeurs singulières de A (en abrégé SVD, de l’anglais Singular Value
Decomposition) et les éléments σ i de Σ (ou σ i (A)) sont appelés valeurs
singulières de A. On a la relation σ i =
λ i (A H A), où les λ i (A
H A) sont
les valeurs propres (positives) de la matrice A
H A.
Si la matrice A est réelle, alors U et V le sont aussi. Dans ce cas, U
et V sont orthogonales et U
H est égale à U
T .
Utilisons donc la décomposition en valeurs singulières (5.41) de la
matrice A dans (5.38). Comme U est orthogonale, A
T A = V
T Σ
T ΣV , et
donc le système d’équations normales (5.38) est équivalent à
V
T Σ
T ΣVx
∗ = V
T Σ
T Ub.
(5.42)
La matrice V est également orthogonale et Σ
T Σ est une matrice inversible dont les termes diagonaux sont les carrés des valeurs singulières
de A. Par conséquent, en multipliant à gauche l’équation (5.42) par
V
T (Σ
T Σ)
−1 V , on trouve
x
∗ = V
T Σ
† U b = A
†
b,
(5.43)
où Σ
† = diag(1/σ 1 , . . . , 1/σ n , 0, . . ., 0) et A
† = V
T Σ
† U . Cette dernière
matrice est appelée pseudoinverse de A.
On voit avec la formule (5.43) que la solution des équations normales
(5.38) s’obtient très aisément une fois calculées les valeurs singulières de
A et les matrices U et V.
Il y a deux fonctions dans MATLAB concernant la SVD : svd et
svd
svds svds. La première calcule toutes les valeurs singulières d’une matrice A,
la deuxième seulement les k plus grandes. L’entier k doit être donné (par
défaut k=6). On renvoie à [ABB
+ 99] pour une description complète de
l’algorithme utilisé.
Exemple 5.12 Considérons une méthode alternative pour déterminer la droite
de régression (σ) = a1σ + a0 (voir Section 3.6) pour les données du Problème
3.3. En utilisant les données de la Table 3.2 et en imposant les conditions
d’interpolation, on obtient le système sur-déterminé Aa = b, où a = (a1, a0)
T
et
A =
⎡
⎢
⎢
⎢
⎢
⎢
⎢
⎢
⎢
⎢
⎢
⎢
⎢
⎢
⎢
⎣
0
1
0.06 1
0.14 1
0.25 1
0.31 1
0.47 1
0.60 1
0.70 1
⎤
⎥
⎥
⎥
⎥
⎥
⎥
⎥
⎥
⎥
⎥
⎥
⎥
⎥
⎥
⎦
, b =
⎡
⎢
⎢
⎢
⎢
⎢
⎢
⎢
⎢
⎢
⎢
⎢
⎢
⎢
⎢
⎣
0
0.08
0.14
0.20
0.23
0.25
0.28
0.29
⎤
⎥
⎥
⎥
⎥
⎥
⎥
⎥
⎥
⎥
⎥
⎥
⎥
⎥
⎥
⎦
.
5 Systèmes linéaires
valeurs singulières de A (en abrégé SVD, de l’anglais Singular Value
Decomposition) et les éléments σ i de Σ (ou σ i (A)) sont appelés valeurs
singulières de A. On a la relation σ i =
λ i (A H A), où les λ i (A
H A) sont
les valeurs propres (positives) de la matrice A
H A.
Si la matrice A est réelle, alors U et V le sont aussi. Dans ce cas, U
et V sont orthogonales et U
H est égale à U
T .
Utilisons donc la décomposition en valeurs singulières (5.41) de la
matrice A dans (5.38). Comme U est orthogonale, A
T A = V
T Σ
T ΣV , et
donc le système d’équations normales (5.38) est équivalent à
V
T Σ
T ΣVx
∗ = V
T Σ
T Ub.
(5.42)
La matrice V est également orthogonale et Σ
T Σ est une matrice inversible dont les termes diagonaux sont les carrés des valeurs singulières
de A. Par conséquent, en multipliant à gauche l’équation (5.42) par
V
T (Σ
T Σ)
−1 V , on trouve
x
∗ = V
T Σ
† U b = A
†
b,
(5.43)
où Σ
† = diag(1/σ 1 , . . . , 1/σ n , 0, . . ., 0) et A
† = V
T Σ
† U . Cette dernière
matrice est appelée pseudoinverse de A.
On voit avec la formule (5.43) que la solution des équations normales
(5.38) s’obtient très aisément une fois calculées les valeurs singulières de
A et les matrices U et V.
Il y a deux fonctions dans MATLAB concernant la SVD : svd et
svd
svds svds. La première calcule toutes les valeurs singulières d’une matrice A,
la deuxième seulement les k plus grandes. L’entier k doit être donné (par
défaut k=6). On renvoie à [ABB
+ 99] pour une description complète de
l’algorithme utilisé.
Exemple 5.12 Considérons une méthode alternative pour déterminer la droite
de régression (σ) = a1σ + a0 (voir Section 3.6) pour les données du Problème
3.3. En utilisant les données de la Table 3.2 et en imposant les conditions
d’interpolation, on obtient le système sur-déterminé Aa = b, où a = (a1, a0)
T
et
A =
⎡
⎢
⎢
⎢
⎢
⎢
⎢
⎢
⎢
⎢
⎢
⎢
⎢
⎢
⎢
⎣
0
1
0.06 1
0.14 1
0.25 1
0.31 1
0.47 1
0.60 1
0.70 1
⎤
⎥
⎥
⎥
⎥
⎥
⎥
⎥
⎥
⎥
⎥
⎥
⎥
⎥
⎥
⎦
, b =
⎡
⎢
⎢
⎢
⎢
⎢
⎢
⎢
⎢
⎢
⎢
⎢
⎢
⎢
⎢
⎣
0
0.08
0.14
0.20
0.23
0.25
0.28
0.29
⎤
⎥
⎥
⎥
⎥
⎥
⎥
⎥
⎥
⎥
⎥
⎥
⎥
⎥
⎥
⎦
.