162
CHAPITRE 6. SOUS-DIFFÉRENTIELS GÉNÉRALISÉS
Il se trouve – mais ce n’est pas immédiat à démontrer – qu’on obtient exactement le sous-différentiel généralisé de Clarke. D’où une première règle
s’appliquant à toutes les "normalités" imaginables :
Dès qu’on a une notion de normalité à un ensemble, on a une notion de
sous-différentiabilité à une fonction.
Le cheminement inverse peut également être envisagé : avec la fonction f =
i S (indicatrice de S), on peut définir en x ∈ S
N (S, x) = ∂(i S )(x).
Ainsi, deuxième règle s’appliquant à toutes les sous-différentiations généralisées imaginables :
Dès qu’on a une notion de sous-différentiation généralisée pour des fonctions éventuellement à valeurs +∞, on a une notion de normalité à un
ensemble.
Exemples.
Un exemple important de problèmes d’optimisation évoqué dès le § 2.2 du
Chapitre 1 est celui de la minimisation du rang d’une matrice :
(P)
Minimiser f (A) := rang de A,
A ∈ C ,
où C est un ensemble fermé de M m,n (R) (convexe le plus souvent).
(P) est le cousin matriciel d’un problème posé dans R p , de formulation plus
simple :
(Q)
Minimiser c(x) := Card {i | x i = 0} ,
x ∈ S,
où S est un ensemble fermé de R p . La fonction c est la "fonction de comptage", souvent noté x 0 (mais ce n’est pas une norme !)
Dans (P) ou (Q), les fonctions-objectifs sont s.c.i. et à valeurs entières.
Aucune propriété de continuité, a fortiori de différentiabilité, n’est accessible. Ces fonctions (rang, de comptage) sont très chahutées. Voici deux
étrangetés (du point de vue Optimisation ou Analyse variationnelle) qu’on
peut mentionner à leur sujet.