I.3. Fonctions convexes
Revenant à une fonction numérique f : O ⊂ R n −→ R différentiable sur O,
on dit que f est deux fois différentiable en x ∈ O lorsque ∇f : O ⊂ R n −→ R n
est différentiable en x. La matrice jacobienne de ∇f en x est appelée matrice
hessienne de f en x et notée ∇ 2 f (x) ; il s’agit d’une matrice symétrique de taille
n dont le terme (i, j) est ∂ i (∂ j f )(x) = ∂ 2
ij f (x) (dérivée partielle d’ordre 2 en x
de f par rapport à la i e et j e variables).
Rappel : dans le cas où f est deux fois différentiable en x ∈ O, on a le
développement de Taylor-Young d’ordre deux suivant :
f (x + h) = f (x) + ∇f (x) , h +
1
2
∇
2 f (x) h, h + h
2 ε (h) ,
(1.3)
avec ε (h) → 0 quand h−→
=
0.
Enfin deux ensembles de résultats de Calcul différentiel sont essentiels en Optimisation : le théorème de la fonction implicite et le théorème d’inversion locale ;
les développements de Taylor sous leurs formes diverses. À revoir si nécessaire.
I.3. Fonctions convexes
Soit C un convexe de R n ; f : C → R est dite convexe sur C si pour tout
(x, x ) ∈ C × C et tout α ∈ ]0, 1[ on a :
f
αx + (1 − α) x
αf (x) + (1 − α) f (x
).
(1.4)
f est dite strictement convexe sur C quand l’inégalité (1.4) est stricte dès que
x = x . Une propriété encore plus forte est comme suit : f est dite fortement
convexe sur C, de module de forte convexité c > 0, lorsque
f
αx + (1 − α) x
αf (x) + (1 − α) f (x
) −
1
2
c α (1 − α) x
− x
2
(1.5)
pour tout (x, x ) ∈ C × C et tout α ∈ ]0, 1[ .
Rappelons deux résultats essentiels :
Th´ eor` eme. Soit f différentiable sur un ouvert O de R n et C un convexe de O.
Alors :
(i) f est convexe sur C si et seulement si
f (x) f (x) + ∇f (x) , x − x pour tout (x, x) ∈ C × C ;
(1.6)
3