§ 1. La notion de différentielle
7
b) Différentielle au sens de Gâteaux. - La différentielle définie en 1.3 est souvent
appelée différentielle de Fréchet de l'application f au point a. On utilise aussi une autre
différentielle, appelée différentielle au sens de Gâteaux. On dit que l'application f d'un
ouvert U d'un espace vectoriel normé E dans un autre espace vectoriel normé F est
différentiable au sens de Gâteaux en un point a de U s'il existe une application linéaire
continue cp E .C(E, F) telle que, pour tout v E E,
lim
f(a + tv) - f(a) = cp(v).
t--+0, tfO
t
L'application linéaire cp est alors appelée différentielle de f au sens de Gâteaux au point
a.
En d'autres termes, f est différentiable au sens de Gâteaux au point a si pour tout vecteur
v E E, elle admet en a une dérivée directionnelle .Cvf(a) dans la direction de v, et si
v 1--+ .Cvf(a) est une application linéaire continue de E dans F.
Lorsqu'une application admet, en un point a, une différentielle au sens de Fréchet, elle
admet aussi en ce point une différentielle au sens de Gâteaux, égale à sa différentielle au
sens de Fréchet.
Ainsi que le montre l'exemple précédent, il existe des applications qui admettent, en un
point, des dérivées directionnelles dans toutes les directions et qui, en ce point, ne sont pas
différentiables au sens de Gâteaux, ni, a fortiori, au sens de Fréchet. On rencontre aussi
des applications qui, en un point, sont différentiables au sens de Gâteaux sans l'être au
sens de Fréchet. Considérons par exemple l'application f: IR 2 -->IR,
{
x6
f(x, y) = ~8 +(y_ x2)2
si (x, y) -::J (0, 0),
si (x, y) = (0, 0).
Soit ( u, v) E IR 2 . Considérons lapplication de IR dans IR, t 1--+ f (tu, tv). Il est facile de
vérifier que
lim
J(tu, tv) - J(O, 0) = 0 .
t--+0, tfO
t
Cela prouve que f est différentiable au sens de Gâteaux à l'origine, et qu'en ce point sa
différentielle au sens de Gâteaux est nulle.D'autre part nous avons, pour tout x E IR- { 0},
f (x, x 2 ) = x- 2 . Par suite, lorsque x tend vers 0, (x, x 2 ) tend vers l'origine de IR 2 , tandis
que f (x, x 2 ) tend vers +oo. L'application f n'est donc pas continue à l'origine, et a fortiori
n'est pas différentiable au sens de Fréchet en ce point.
c) Dérivée ou différentielle. - Certains auteurs (notamment H. Cartan [6]) appellent
dérivée d'une application en un point ce que ·nous avons appelé différentielle de cette
application en ce point, et disent qu'une application est dérivable pour dire qu'elle est
différentiable. Il nous a semblé préférable de réserver le terme de dérivée pour désigner la
dérivée au sens usuel, comme dans l'exemple 1.5.