2. FONCTIONS S.C.I. À VALEURS DANS R ∪ {+∞}
161
Pour faire une schéma-résumé, considérons donc un espace de
Hilbert H , f : H → R ∪ {+∞} s.c.i. et x ∈ dom f . Alors :
∂
prox f (x) ⊂ ∂
V f (x) = ∂
F f (x) ⊂ ∂ f (x).
(6.39)
Comme sous-produit des résultats du § 2.1 du Chapitre 2, mentionnons le
résultat de densité suivant : Si f ∈ H → R ∪ {+∞} est s.c.i. et bornée
inférieurement sur H , alors
x ∈ dom f | ∂
prox f (x) = ∅
est dense dans dom f.
(6.40)
Il va sans dire que le résultat attendu suivant est vrai : si ¯
x est un minimiseur
local de f , alors 0 ∈ ∂ prox f ( ¯
x).
2.2 Les règles de va-et-vient entre Analyse et Géométrie non lisses
Soit H un espace de Hilbert et f : H → R continûment différentiable
sur H . Le graphe de f , {(x, y) ∈ H × R | y = f (x)} est l’ensemble de
niveau (au niveau 0) de la fonction
(x, y) ∈ H × R → h(x, y) := f (x) − y.
Quand on était petit on a appris qu’alors la "normale" à cet ensemble de
niveau au point (x, y = f (x)) était dirigée par ∇h(x, y) = (∇ f (x), −1).
Ayant défini une "normalité" à S = epi f en (x, f (x)), comme cela a été
fait à la Section 1.4 de la 1 `
ere partie, on aurait pu définir un sous-différentiel
généralisé de f en x comme suit :
∂ f (x) =
x
∗
∈ H | (x
∗
, −1) ∈ N epi f (x, f (x)
.
(6.41)