54
Physique statistique
Une probabilité est une quantité positive et la somme de toutes les probabilités de ces
évènements exclusifs doit être égale à 1 (une des boules est obligatoirement dans l’une
des boîtes). Pour résoudre ce problème, nous n’allons plus considérer un seul système,
mais un ensemble de N systèmes identiques au sens de la physique statistique. Lorsque
N → ∞, nous savons que NP i systèmes correspondront à une situation où la boule
est dans la boîte i. Lorsque nous regardons, système après système, dans quelle boîte
se trouve la boule, nous ne savons pas dans quel ordre les résultats vont apparaître.
Le nombre de possibilités différentes s’évalue comme dans l’exercice 7 du chapitre 2.
Toutes ces possibilités sont équiprobables de par la définition même de notre ensemble
statistique. Leur nombre est égal à :
N!
N
i=1
(NP i )!
(10)
L’information manquante sur l’ensemble des N systèmes est égale à :
I N = k Log
N!
N
i=1
(NP i )!
= k
Log N! −
N
i=1
Log (NP i )!
(11)
Puisque N est très grand (nous devons en toute rigueur avoir un ensemble constitué de
N → ∞ systèmes), nous pouvons utiliser l’approximation de Stirling pour calculer le
logarithme des factorielles (cf. annexe A3.1).
Log n! ≈ n Log n − n
(12)
ce qui conduit à :
I N = k
N Log N − N −
N
i=1
NP i Log (NP i ) +
N
i=1
NP i
(13)
soit :
I N = k
N Log N − N − N Log N
N
i=1
P i − N
N
i=1
P i Log P i + N
N
i=1
P i
(14)
Compte tenu de l’équation (9) cela conduit à :
I N = −kN
N
i=1
P i Log P i
(15)
Ceci représente l’information manquante associée à l’ensemble des N systèmes. Chaque
système de l’ensemble étant équiprobable par définition, l’information manquante par