156
CHAPITRE 6. SOUS-DIFFÉRENTIELS GÉNÉRALISÉS
1.4 En route vers la géométrie non lisse
Il est recommandé à l’étudiant-lecteur de relire le § 2.2 du Chapitre 2 et
le § 4 du Chapitre 3. Comme dans ces paragraphes le contexte était hilbertien, convenons que pour cette section l’espace de travail est un espace de
Hilbert H .
Soit S une partie fermée de H et x ∈ S, plus spécifiquement x ∈ Fr S. Il y a
maintenant plusieurs voies possibles pour définir un cône tangent généralisé
et un cône normal généralisé à C en x. Nous adoptons l’une de ces voies, celle
qui consiste à commencer par le cône tangent, comme ce fut le cas au § 4.1
du Chapitre 3.
Définition 6.15 Soit d ∈ H . Cette direction d est dite tangente à S en x ∈ S
(au sens de Clarke) lorsqu’une des assertions équivalentes ci-dessous est
vérifiée :
(i)
d ∈
R + ∂d S (x)
◦ .
(6.28)
(ii) ∀ (x n ) ⊂ S qui converge vers x, ∀ (t n ) > 0 qui tend vers 0, ∃ (d n ) qui
tend vers d tel que
x n + t n d n ∈ S pour tout n.
(6.29)
(iii)
d
◦
S (x ; d) = lim sup
x → x
t→ 0 +
d S (x + t d)
t
= 0.
(6.30)
L’ensemble des directions tangentes à S en x est appelé cône tangent de
Clarke à S en x, et noté T Cl (S, x) (ou bien T Cl
S (x)).
Le cône normal de Clarke à S en x est alors naturellement défini comme
étant le cône polaire du cône tangent :
N
Cl
(S, x) =
T
Cl
(S, x)
◦ (= R + ∂d S (x) d’apr` es (6.28)).
(6.31)
Dans le cas où S est convexe, on retrouve les notions de cône tangent et de
cône normal vues au § 4.1 du Chapitre 3, ne serait-ce que parce que d ◦
S (x ; ·) =
d
S (x ; ·) dans ce cas. Nous laissons donc tomber la référence à Cl dans les
notations.