251
Groupe Souveraineté et sécurité nationale
Périmètre d’étude du groupe de travail
De manière générale, l’Intelligence Artificielle (IA) est un système (code, données et paramètres,
interfaces, système physique, etc.) ayant une capacité à se comporter de manière adaptée dans un
environnement plus ou moins complexe, notamment en élaborant, mémorisant et exploitant des
représentations de cet environnement. On peut distinguer différentes formes d’intelligence selon la
nature de l’environnement et des comportements considérés. Ces aptitudes particulières peuvent être
précisément spécifiées et évaluées, s’il y a consensus sur la manière de déterminer le caractère adapté
des comportements observés.
Au sens étymologique, la souveraineté désigne la capacité du souverain à maitriser les attributs dont il
revendique avoir le contrôle : classiquement frontières, armée, police, monnaie, langue officielle,
justice, etc. De manière plus générale, nous entendrons dans la suite de ce document la souveraineté
d’une entité donnée sur certains attributs comme étant la capacité de cette entité à maîtriser ces
attributs dont elle revendique avoir le contrôle. La souveraineté nationale historique en est le
premier exemple. On parle aussi maintenant de souveraineté européenne, de souveraineté scientifique,
de souveraineté technologique, de souveraineté économique, de souveraineté individuelle et, bien sûr,
de souveraineté numérique.
La notion de Sécurité nationale désigne l'objectif de parer aux risques susceptibles de porter à une
nation. En France, elle est définie (depuis la loi du 29 juillet 2009) par le nouvel article L.1111-1 du
code de la Défense, qui dispose que « la stratégie de Sécurité nationale a pour objet d’identifier
l’ensemble des menaces et des risques susceptibles d’affecter la vie de la Nation, notamment en ce qui
concerne la protection de la population, l’intégrité du territoire et la permanence des institutions de la
République, et de déterminer les réponses que les pouvoirs publics doivent y apporter ».
Le périmètre du groupe de travail 3.1 porte sur les souverainetés telle que décrites précédemment et la
sécurité nationale. En effet, il est important de porter le débat autant au niveau de l’état (souveraineté
et sécurité nationale), qu’au niveau de l’individu (protection de la personne et de ses données
personnelles) et au niveau de l’entreprise (propriété industrielle).
Etat des lieux
Opportunités (points positifs)
x Application de l'IA à la cybersécurité : La majorité des fonctions de (cyber) sécurité
classiques (chiffrement de données, authentification, contrôle d'accès, etc.) ne demandent
pas d'intelligence artificielle, et ne devraient pas y avoir recours. Une caractéristique
essentielle de ces fonctions de sécurité est en effet de faire ce qu'elles sont censées faire, et
uniquement cela. Dans ce cadre, les techniques d’IA peuvent être utilisées pour prouver la
correction et la complétude des programmes implémentant ces fonctions ou des protocoles
utilisés. Dans ce cadre les techniques d’apprentissage peuvent par exemple permettre de
construire les preuves de manière beaucoup plus efficace tout en étant aussi rigoureuses. Par
ailleurs, certains domaines de la cybersécurité, émergeants ou non, peuvent néanmoins
constituer des champs d'application pertinents pour l'intelligence artificielle, en particulier
les systèmes ou algorithmes de fouille et d'analyse de « mégadonnées » et les mécanismes
d'apprentissage. La détection d'activités suspectes ou malveillantes dans les réseaux, la
reconnaissance et la caractérisation de logiciels malveillants, l'analyse de traces d'exécution,
Groupe Souveraineté et sécurité nationale
Périmètre d’étude du groupe de travail
De manière générale, l’Intelligence Artificielle (IA) est un système (code, données et paramètres,
interfaces, système physique, etc.) ayant une capacité à se comporter de manière adaptée dans un
environnement plus ou moins complexe, notamment en élaborant, mémorisant et exploitant des
représentations de cet environnement. On peut distinguer différentes formes d’intelligence selon la
nature de l’environnement et des comportements considérés. Ces aptitudes particulières peuvent être
précisément spécifiées et évaluées, s’il y a consensus sur la manière de déterminer le caractère adapté
des comportements observés.
Au sens étymologique, la souveraineté désigne la capacité du souverain à maitriser les attributs dont il
revendique avoir le contrôle : classiquement frontières, armée, police, monnaie, langue officielle,
justice, etc. De manière plus générale, nous entendrons dans la suite de ce document la souveraineté
d’une entité donnée sur certains attributs comme étant la capacité de cette entité à maîtriser ces
attributs dont elle revendique avoir le contrôle. La souveraineté nationale historique en est le
premier exemple. On parle aussi maintenant de souveraineté européenne, de souveraineté scientifique,
de souveraineté technologique, de souveraineté économique, de souveraineté individuelle et, bien sûr,
de souveraineté numérique.
La notion de Sécurité nationale désigne l'objectif de parer aux risques susceptibles de porter à une
nation. En France, elle est définie (depuis la loi du 29 juillet 2009) par le nouvel article L.1111-1 du
code de la Défense, qui dispose que « la stratégie de Sécurité nationale a pour objet d’identifier
l’ensemble des menaces et des risques susceptibles d’affecter la vie de la Nation, notamment en ce qui
concerne la protection de la population, l’intégrité du territoire et la permanence des institutions de la
République, et de déterminer les réponses que les pouvoirs publics doivent y apporter ».
Le périmètre du groupe de travail 3.1 porte sur les souverainetés telle que décrites précédemment et la
sécurité nationale. En effet, il est important de porter le débat autant au niveau de l’état (souveraineté
et sécurité nationale), qu’au niveau de l’individu (protection de la personne et de ses données
personnelles) et au niveau de l’entreprise (propriété industrielle).
Etat des lieux
Opportunités (points positifs)
x Application de l'IA à la cybersécurité : La majorité des fonctions de (cyber) sécurité
classiques (chiffrement de données, authentification, contrôle d'accès, etc.) ne demandent
pas d'intelligence artificielle, et ne devraient pas y avoir recours. Une caractéristique
essentielle de ces fonctions de sécurité est en effet de faire ce qu'elles sont censées faire, et
uniquement cela. Dans ce cadre, les techniques d’IA peuvent être utilisées pour prouver la
correction et la complétude des programmes implémentant ces fonctions ou des protocoles
utilisés. Dans ce cadre les techniques d’apprentissage peuvent par exemple permettre de
construire les preuves de manière beaucoup plus efficace tout en étant aussi rigoureuses. Par
ailleurs, certains domaines de la cybersécurité, émergeants ou non, peuvent néanmoins
constituer des champs d'application pertinents pour l'intelligence artificielle, en particulier
les systèmes ou algorithmes de fouille et d'analyse de « mégadonnées » et les mécanismes
d'apprentissage. La détection d'activités suspectes ou malveillantes dans les réseaux, la
reconnaissance et la caractérisation de logiciels malveillants, l'analyse de traces d'exécution,