234
a. Comme tout programme informatique, une IA est sujette aux bogues, au
piratage et aux erreurs d’implémentation. Une IA peut aussi être mal conçue
et comporter des erreurs intrinsèques, ou des “angles morts” face à des
situations inédites ;
b. Il est déjà parfois attribué aux programmes de trading automatique la
capacité de perturber les marchés, sans que cela ne soit nécessairement la
seule cause : flash crash de mai 2010 sur le Nasdaq, « perturbation » des
logiciels de Knight Capital Group en août 2012…
c. Les risques de déploiement de logiciels insuffisamment testés semblent
destinés à augmenter.
4. Assurabilité et risque systémique :
a. La diffusion de l’IA fait naître de nouveaux risques et modifie les grands
domaines d’expertise de l’assurance (e-santé, véhicules autonomes…) ;
b. L’assurabilité de ces nouveaux risques reste à construire, en fonction des
contraintes ci-dessus ;
c. En revanche, en l’état de la diffusion de l’IA sur les marchés financiers et
bancaires, l’hypothèse d’un nouveau risque systémique semble lointaine : le
risque principal que pose l’IA est celui d’un manque de maîtrise et d’une
mauvaise utilisation, ou d’un jeu de données test truqué, plutôt que
d’algorithmes transients décidant de prendre leurs libertés ;
d. Les marchés financiers pourraient en revanche faire l’objet d’une
cyberattaque spécifique, voire généralisée, comme celle dont a fait l’objet
l’Estonie dès 2007. Tout comme dans bien d’autres domaines, le déploiement
de l’IA posera des questions nouvelles en termes de cybersécurité.
5. Discrimination et vie privée :
a. La disponibilité et l’utilisation des données, et notamment des données
personnelles, est au cœur du développement de l’IA. En matière financière,
les réglementations LAB-FT se croisent donc avec les réglementations CNIL et
les directives européennes. Ce point est développé ci-dessous.
b. L’utilisation de signaux faibles couplé à l’opacité des décisions algorithmiques
pourrait mener à de nouvelles formes de discrimination, compliquées à
identifier et donc à combattre – en tout cas tôt.
III Enjeux réglementaires
Ainsi qu’il a été évoqué ci-dessus, la sécurité devrait devenir un sujet encore plus important
pour les banques, les compagnies d’assurance, les places financières et leurs régulateurs.
Cependant, l’IA offre également des perspectives importantes dans la détection de fraude /
compliance. Par exemple, la start-up américaine Neurensic offre, grâce à ses algorithmes, de
pouvoir détecter en temps réel des comportements frauduleux sur les marchés financiers. La
capacité de pouvoir détecter automatiquement ces incidents permettrait d’accroître la
sécurité des marchés, limitant ainsi les possibilités de manipulation des cours. Plus
généralement, la détection de fraude, de délit d’initié et d’abus de marché devraient se
trouver facilitées par un audit plus exhaustif et rapide grâce aux données et à l’IA.
a. Comme tout programme informatique, une IA est sujette aux bogues, au
piratage et aux erreurs d’implémentation. Une IA peut aussi être mal conçue
et comporter des erreurs intrinsèques, ou des “angles morts” face à des
situations inédites ;
b. Il est déjà parfois attribué aux programmes de trading automatique la
capacité de perturber les marchés, sans que cela ne soit nécessairement la
seule cause : flash crash de mai 2010 sur le Nasdaq, « perturbation » des
logiciels de Knight Capital Group en août 2012…
c. Les risques de déploiement de logiciels insuffisamment testés semblent
destinés à augmenter.
4. Assurabilité et risque systémique :
a. La diffusion de l’IA fait naître de nouveaux risques et modifie les grands
domaines d’expertise de l’assurance (e-santé, véhicules autonomes…) ;
b. L’assurabilité de ces nouveaux risques reste à construire, en fonction des
contraintes ci-dessus ;
c. En revanche, en l’état de la diffusion de l’IA sur les marchés financiers et
bancaires, l’hypothèse d’un nouveau risque systémique semble lointaine : le
risque principal que pose l’IA est celui d’un manque de maîtrise et d’une
mauvaise utilisation, ou d’un jeu de données test truqué, plutôt que
d’algorithmes transients décidant de prendre leurs libertés ;
d. Les marchés financiers pourraient en revanche faire l’objet d’une
cyberattaque spécifique, voire généralisée, comme celle dont a fait l’objet
l’Estonie dès 2007. Tout comme dans bien d’autres domaines, le déploiement
de l’IA posera des questions nouvelles en termes de cybersécurité.
5. Discrimination et vie privée :
a. La disponibilité et l’utilisation des données, et notamment des données
personnelles, est au cœur du développement de l’IA. En matière financière,
les réglementations LAB-FT se croisent donc avec les réglementations CNIL et
les directives européennes. Ce point est développé ci-dessous.
b. L’utilisation de signaux faibles couplé à l’opacité des décisions algorithmiques
pourrait mener à de nouvelles formes de discrimination, compliquées à
identifier et donc à combattre – en tout cas tôt.
III Enjeux réglementaires
Ainsi qu’il a été évoqué ci-dessus, la sécurité devrait devenir un sujet encore plus important
pour les banques, les compagnies d’assurance, les places financières et leurs régulateurs.
Cependant, l’IA offre également des perspectives importantes dans la détection de fraude /
compliance. Par exemple, la start-up américaine Neurensic offre, grâce à ses algorithmes, de
pouvoir détecter en temps réel des comportements frauduleux sur les marchés financiers. La
capacité de pouvoir détecter automatiquement ces incidents permettrait d’accroître la
sécurité des marchés, limitant ainsi les possibilités de manipulation des cours. Plus
généralement, la détection de fraude, de délit d’initié et d’abus de marché devraient se
trouver facilitées par un audit plus exhaustif et rapide grâce aux données et à l’IA.