129
sont également des défis : élicitation des connaissances, modélisation, combinaison avec des données
individuelles ou de groupe, modèles de raisonnement et de décision, ingénierie ontologique et des
connaissances... Par exemple, sur les aspects d’ontologies, la demande est forte dans de plus en plus de
spécialités médicales ou périphériques aux spécialités (réseaux de soin/santé), avec une partie
handicap (et sa modélisation) qui va inévitablement appeler de plus en plus de recherches (avec le
vieillissement de la population et les maladies chroniques et neurodégénératives), dans un objectif de
partage et d’augmentation de la connaissance. La disponibilité de ressources sémantiques en français
(terminologies, ontologies) est un autre facteur limitant par rapport aux travaux d’analyse de textes en
anglais.
Du point de vue de la recherche, les travaux à renforcer concernent l’aide à la décision, l’apprentissage
de la sémantique et le traitement automatique des langues naturelles.
L’acceptabilité des techniques d’intelligence artificielle passe vraisemblablement par une meilleure
interprétabilité des méthodes et des résultats qu’elles produisent. À titre d’exemple, un système
évolutif qui apprendrait en continu au fur et à mesure de son utilisation est très difficile à faire accepter
pour un marquage CE (Communauté Européenne) ou FDA (Food and Drug Administration), entre
autres à cause de la difficulté de la définition de protocoles de marquage et à cause de la nature de la
validation des performances cliniques qui ne doit pas être remise en cause par une évolution d'un
système. Cette question montre le besoin de sensibilisation du monde de la normalisation à l’IA (et
inversement celle du monde de l’IA aux questions de normalisation). Plus largement, l’acceptabilité
concerne les cliniciens et praticiens, mais aussi les patients, les institutions, les entreprises, etc. Un axe
important concerne le développement de modèles et d’algorithmes qui respectent par construction la
préservation de la vie privée. Il s’agit alors de quantifier avec quel degré ces algorithmes respectent un
modèle de préservation de la vie privée. Avec l’émergence de tels algorithmes, la confiance dans leur
usage sera considérablement renforcée, et ainsi la mise à disposition de grandes masses de données
sensibles (images, génomes, etc.) se trouvera facilitée. La dimension de l’usage doit également être
prise en compte (avec les interfaces notamment) pour une acceptabilité et une utilisation adéquate. Le
bénéfice clinique des systèmes d’IA mis en œuvre doit aussi être prouvé. Les recherches en
informatique médicale évoluent dans ce sens et de nombreux laboratoires des usages se créent en
santé, certains reprenant ou reconstruisant des habitats (sur)connectés, d’autres s’intéressant
directement aux interfaces des systèmes informatiques (comme EVALAB à Lille). Les questions de
visualisation des modèles et des données sont également à prendre en compte pour augmenter
l’acceptabilité. Enfin, les questions de cybersécurité (par exemple pour les dispositifs médicaux)
doivent être traitées car elles sont fondamentales dans le domaine de la santé.
La question de la souveraineté mérite une attention particulière, dans un contexte où les pratiques et
les règles diffèrent considérablement d’un pays à l’autre. L’accès aux données étant une des clés de
l’IA, faudrait-il donner les moyens aux entreprises françaises d’accéder en priorité aux données
françaises ? La question de la réglementation des capteurs de données individuelles par les
smartphones doit également être posée. De telles données peuvent avoir trait à la santé, même si elles
ne sont pas considérées explicitement comme des données de santé (par exemple les données de
localisation des personnes peuvent donner des informations sur la forme physique de l’individu, les
établissements de soin visités, etc.). Enfin, la souveraineté peut se décliner, d’une part, en souveraineté
nationale et, d’autre part, en souveraineté des individus sur leurs données (en lien avec le point
suivant).
Les questions de réglementation et d’éthique sont évidemment particulièrement sensibles dans le
domaine de la santé et de la médecine, avec celle de l’agrément, et évoluent rapidement (loi Jardet
récente par exemple). Nous distinguons ici les questions éthiques, comportant discussion ouverte, mise
en évidence des tensions, débats sur la stratégie considérée comme la meilleure à un instant donné, et
les questions réglementaires qui correspondent à la mise en oeuvre normative éventuelle des stratégies
éthiques et à l'établissement d'un code de déontologie du domaine qui, dès lors qu'il existe, ne prête
plus à une discussion ouverte mais appelle à un respect sanctionné en cas d'infraction. De nombreux
sont également des défis : élicitation des connaissances, modélisation, combinaison avec des données
individuelles ou de groupe, modèles de raisonnement et de décision, ingénierie ontologique et des
connaissances... Par exemple, sur les aspects d’ontologies, la demande est forte dans de plus en plus de
spécialités médicales ou périphériques aux spécialités (réseaux de soin/santé), avec une partie
handicap (et sa modélisation) qui va inévitablement appeler de plus en plus de recherches (avec le
vieillissement de la population et les maladies chroniques et neurodégénératives), dans un objectif de
partage et d’augmentation de la connaissance. La disponibilité de ressources sémantiques en français
(terminologies, ontologies) est un autre facteur limitant par rapport aux travaux d’analyse de textes en
anglais.
Du point de vue de la recherche, les travaux à renforcer concernent l’aide à la décision, l’apprentissage
de la sémantique et le traitement automatique des langues naturelles.
L’acceptabilité des techniques d’intelligence artificielle passe vraisemblablement par une meilleure
interprétabilité des méthodes et des résultats qu’elles produisent. À titre d’exemple, un système
évolutif qui apprendrait en continu au fur et à mesure de son utilisation est très difficile à faire accepter
pour un marquage CE (Communauté Européenne) ou FDA (Food and Drug Administration), entre
autres à cause de la difficulté de la définition de protocoles de marquage et à cause de la nature de la
validation des performances cliniques qui ne doit pas être remise en cause par une évolution d'un
système. Cette question montre le besoin de sensibilisation du monde de la normalisation à l’IA (et
inversement celle du monde de l’IA aux questions de normalisation). Plus largement, l’acceptabilité
concerne les cliniciens et praticiens, mais aussi les patients, les institutions, les entreprises, etc. Un axe
important concerne le développement de modèles et d’algorithmes qui respectent par construction la
préservation de la vie privée. Il s’agit alors de quantifier avec quel degré ces algorithmes respectent un
modèle de préservation de la vie privée. Avec l’émergence de tels algorithmes, la confiance dans leur
usage sera considérablement renforcée, et ainsi la mise à disposition de grandes masses de données
sensibles (images, génomes, etc.) se trouvera facilitée. La dimension de l’usage doit également être
prise en compte (avec les interfaces notamment) pour une acceptabilité et une utilisation adéquate. Le
bénéfice clinique des systèmes d’IA mis en œuvre doit aussi être prouvé. Les recherches en
informatique médicale évoluent dans ce sens et de nombreux laboratoires des usages se créent en
santé, certains reprenant ou reconstruisant des habitats (sur)connectés, d’autres s’intéressant
directement aux interfaces des systèmes informatiques (comme EVALAB à Lille). Les questions de
visualisation des modèles et des données sont également à prendre en compte pour augmenter
l’acceptabilité. Enfin, les questions de cybersécurité (par exemple pour les dispositifs médicaux)
doivent être traitées car elles sont fondamentales dans le domaine de la santé.
La question de la souveraineté mérite une attention particulière, dans un contexte où les pratiques et
les règles diffèrent considérablement d’un pays à l’autre. L’accès aux données étant une des clés de
l’IA, faudrait-il donner les moyens aux entreprises françaises d’accéder en priorité aux données
françaises ? La question de la réglementation des capteurs de données individuelles par les
smartphones doit également être posée. De telles données peuvent avoir trait à la santé, même si elles
ne sont pas considérées explicitement comme des données de santé (par exemple les données de
localisation des personnes peuvent donner des informations sur la forme physique de l’individu, les
établissements de soin visités, etc.). Enfin, la souveraineté peut se décliner, d’une part, en souveraineté
nationale et, d’autre part, en souveraineté des individus sur leurs données (en lien avec le point
suivant).
Les questions de réglementation et d’éthique sont évidemment particulièrement sensibles dans le
domaine de la santé et de la médecine, avec celle de l’agrément, et évoluent rapidement (loi Jardet
récente par exemple). Nous distinguons ici les questions éthiques, comportant discussion ouverte, mise
en évidence des tensions, débats sur la stratégie considérée comme la meilleure à un instant donné, et
les questions réglementaires qui correspondent à la mise en oeuvre normative éventuelle des stratégies
éthiques et à l'établissement d'un code de déontologie du domaine qui, dès lors qu'il existe, ne prête
plus à une discussion ouverte mais appelle à un respect sanctionné en cas d'infraction. De nombreux