253
favoriser la qualité d’une réponse en sacrifiant le cas échéant la souveraineté économique,
nationale ou individuelle.
x Confiance aveugle dans les propositions du système sous couvert d’une décision
algorithmique.
x Perte du contrôle des données utilisées par le système de l’IA.
x Difficulté à savoir ce qu’arrive réellement à faire une IA. Quelles sont ses capacités exactes ?
Certaines IA sont-elles pus efficace/pertinentes que d’autres ?
x Automatiser et industrialiser les attaques en utilisant de l'IA pour les rendre adaptatives.
x Que le système légal ne suive pas les évolutions et que la France subisse sans pouvoir réagir.
x Les biais des algorithmes et/ou des données, notamment du fait d’une dépendance aux
données, et donc les systèmes sont (très) sensibles à la qualité des données d’entrainement
disponibles, dont rien n’assure la complétude peut provoquer des biais sur les résultats.
x L’atteinte à la dignité humaine et au libre développement de la personnalité.
x Des décisions individuelles automatisées.
x Le profilage facilité par l’apprentissage profond :
o Une évaluation de certains aspects personnels;
o La possibilité de déduire des données beaucoup plus sensibles que les données
brutes d’origine.
x Un renoncement à l’exercice de ses droits.
x Une banalisation de la collecte massive de données.
x Une difficulté d’application de certains principes de la loi « Informatique et libertés ».
x Risque à la souveraineté économique : Une possible dépendance des acteurs économiques
français à la surcouche IA développée par les quelques plus grands opérateurs, qui disposent
des bases d’apprentissage les plus importantes et pertinentes, et par qui les données transitent
forcément, ce qui leur donne un pouvoir considérable. Il s’en suivrait une captation de la
valeur ajoutée produite par les acteurs disposant des systèmes et des technologies clés à base
d’IA. Ce phénomène s’est produit dans le domaine de la culture et serait aujourd’hui
susceptible de se généraliser à tous les secteurs d’activités. Une stratégie industrielle de filière
(maîtrise de ces technologies par un, voire des acteurs français, et constitution d’écosystèmes)
s’avère donc essentielle pour la souveraineté et la compétitivité de notre pays.
x Risque à la sécurité nationale et industrielle : Un usage de l’IA par des sources
malveillantes : l’IA peut être utilisée comme moyens de recueil d’informations par des
organisations criminelles (ingénierie sociale), et faciliter ainsi le vol direct ou indirect de
données à caractère personnel ou industrielles. En outre, les vulnérabilités intrinsèques de l’IA
(systèmes sur lesquels elle repose, et surtout leur fonctionnement) rendent des attaques
nouvelles possibles (exemple : insérer des données erronées dans les antécédents
d’apprentissage, pour faire dévier le résultat du système, en introduisant donc des biais
volontaires et calculés dans les données).
x Risque de souveraineté politique avec l’émergence de nouveaux acteurs sur la scène
internationale.
x Une remise en cause de mesures jugées comme suffisantes jusqu’à présent, du fait d’un
accroissement des capacités (exemple : technologies d’identification automatisée), qui pourrait
par exemple poser un problème de désanonymisation généralisée à l’avenir !
x Dans les menaces peut-être peut-on penser au sujet de la guerre de l’information et des
techniques d’influence (Big Data à des fins électorales, analyse des sentiments sur les réseaux
sociaux, etc.) même s’il faut distinguer ce qui relève de l’IA et du Big Data, mais on peut
imaginer des algorithmes autonomes dans le champ médiatique.
x Séparer les risques liés à la sécurité nationale des risques liés aux OIV, par exemple une perte
de contrôle de l'IA de gestion de la production d'électricité qui laisserait une région sans
électricité.
favoriser la qualité d’une réponse en sacrifiant le cas échéant la souveraineté économique,
nationale ou individuelle.
x Confiance aveugle dans les propositions du système sous couvert d’une décision
algorithmique.
x Perte du contrôle des données utilisées par le système de l’IA.
x Difficulté à savoir ce qu’arrive réellement à faire une IA. Quelles sont ses capacités exactes ?
Certaines IA sont-elles pus efficace/pertinentes que d’autres ?
x Automatiser et industrialiser les attaques en utilisant de l'IA pour les rendre adaptatives.
x Que le système légal ne suive pas les évolutions et que la France subisse sans pouvoir réagir.
x Les biais des algorithmes et/ou des données, notamment du fait d’une dépendance aux
données, et donc les systèmes sont (très) sensibles à la qualité des données d’entrainement
disponibles, dont rien n’assure la complétude peut provoquer des biais sur les résultats.
x L’atteinte à la dignité humaine et au libre développement de la personnalité.
x Des décisions individuelles automatisées.
x Le profilage facilité par l’apprentissage profond :
o Une évaluation de certains aspects personnels;
o La possibilité de déduire des données beaucoup plus sensibles que les données
brutes d’origine.
x Un renoncement à l’exercice de ses droits.
x Une banalisation de la collecte massive de données.
x Une difficulté d’application de certains principes de la loi « Informatique et libertés ».
x Risque à la souveraineté économique : Une possible dépendance des acteurs économiques
français à la surcouche IA développée par les quelques plus grands opérateurs, qui disposent
des bases d’apprentissage les plus importantes et pertinentes, et par qui les données transitent
forcément, ce qui leur donne un pouvoir considérable. Il s’en suivrait une captation de la
valeur ajoutée produite par les acteurs disposant des systèmes et des technologies clés à base
d’IA. Ce phénomène s’est produit dans le domaine de la culture et serait aujourd’hui
susceptible de se généraliser à tous les secteurs d’activités. Une stratégie industrielle de filière
(maîtrise de ces technologies par un, voire des acteurs français, et constitution d’écosystèmes)
s’avère donc essentielle pour la souveraineté et la compétitivité de notre pays.
x Risque à la sécurité nationale et industrielle : Un usage de l’IA par des sources
malveillantes : l’IA peut être utilisée comme moyens de recueil d’informations par des
organisations criminelles (ingénierie sociale), et faciliter ainsi le vol direct ou indirect de
données à caractère personnel ou industrielles. En outre, les vulnérabilités intrinsèques de l’IA
(systèmes sur lesquels elle repose, et surtout leur fonctionnement) rendent des attaques
nouvelles possibles (exemple : insérer des données erronées dans les antécédents
d’apprentissage, pour faire dévier le résultat du système, en introduisant donc des biais
volontaires et calculés dans les données).
x Risque de souveraineté politique avec l’émergence de nouveaux acteurs sur la scène
internationale.
x Une remise en cause de mesures jugées comme suffisantes jusqu’à présent, du fait d’un
accroissement des capacités (exemple : technologies d’identification automatisée), qui pourrait
par exemple poser un problème de désanonymisation généralisée à l’avenir !
x Dans les menaces peut-être peut-on penser au sujet de la guerre de l’information et des
techniques d’influence (Big Data à des fins électorales, analyse des sentiments sur les réseaux
sociaux, etc.) même s’il faut distinguer ce qui relève de l’IA et du Big Data, mais on peut
imaginer des algorithmes autonomes dans le champ médiatique.
x Séparer les risques liés à la sécurité nationale des risques liés aux OIV, par exemple une perte
de contrôle de l'IA de gestion de la production d'électricité qui laisserait une région sans
électricité.