D´ efinition 1.4.2 (S´ eparation) Soient A et B deux sous-ensembles non
vides de X . On dit que l’hyperplan affine H d’´ equation : xα, xy ` β “ 0,
s´ epare A et B au sens large si
@x P A xα, xy ` β ď 0 et @y P B xα, yy ` β ě 0.
On dit que H s´ epare A et B strictement s’il existe ε ą 0 tel que
@x P A xα, xy ` β ď ´ε et @y P B xα, yy ` β ě ε.
Donnons `
a pr´ esent la premi` ere forme g´ eom´ etrique du th´ eor` eme de HahnBanach :
Th´ eor` eme 1.4.1 Soient A et B deux sous-ensembles de X convexes, non
vides et disjoints. On suppose que A est ouvert. Alors, il existe un hyperplan
affine ferm´ e qui s´ epare A et B au sens large.
Corollaire 1.4.1 Soit C un convexe ferm´ e non vide de R
n et x
˚
P C. Alors :
x
˚
P Int pCq si et seulement si il n’existe aucune forme lin´ eaire s´ eparant x
˚
et C.
Citons aussi la deuxi` eme forme g´ eom´ etrique du th´ eor` eme de Hahn-Banach :
Th´ eor` eme 1.4.2 Soient A et B deux sous-ensembles de X convexes, non
vides et disjoints. On suppose que A est ferm´ e et que B est compact. Alors,
il existe un hyperplan affine ferm´ e qui s´ epare A et B strictement.
D´ efinition 1.4.3 Soit f : X Ñ R Y t`8u et u P dom f (i.e. f puq ă `8).
Le sous-diff´ erentiel de f en u est l’ensemble Bf puq (´ eventuellement vide ) des
u
˚
P X
1 tels que
@v P X
f pvq ě f puq ` xu
˚ , v ´ uy .
Les ´ el´ ements u
˚ sont appel´ es sous-gradients.
Remarque 1.4.1 1. f : X Ñ R Y t`8u atteint son minimum en u P dom
f si et seulement si
0 P Bf puq.
2. Si f, g : X Ñ R Y t`8u et u P dom f X dom g, on a
Bf puq ` Bgpuq Ă Bpf ` gqpuq.
3. Comme
A.4.2 Sous-diff´ erentiel
A.4 Analyse convexe et analyse non lisse
199