29
rences, planification, raisonnement épistémique multi-agents, raisonnement argumentatif, raisonnement sur les émotions, etc. Il n’existe cependant pour ainsi dire pas de système capable d’utiliser de
manière intégrée plusieurs de ces modes de raisonnement. Ceci s’avérerait pourtant très utile si on veut
développer des systèmes d’aide à la personne, d’accompagnement, d’assistance de diverses sortes, où
il est nécessaire de combiner les capacités de plusieurs de ces types de raisonnement.
Enjeux éthique et sociaux, acceptabilité, et protection de la
vie privée
Il sera nécessaire de travailler sur les enjeux éthiques et sociaux des méthodes d’intelligence artificielle. Si une grande partie de ces considérations concernent directement l’éthique et les sciences sociales, et sortent donc du cadre de ce groupe sur la recherche amont en IA, certaines de ces questions
sont des sujets de recherche à part entière en IA.
Les grands défis concernant cette thématique:
Intégration de la préservation de la vie privée dans les méthodes
d’apprentissage et de raisonnement
Il s'agit ici de promouvoir des recherches sur les modèles mathématiques et informatiques de préservation de la vie privée, et leur intégration ``par construction'' dans les algorithmes d'apprentissage automatique, de raisonnement à partir de données, et plus généralement dans les méthodes d'intelligence
artificielle se fondant sur les données.
L'explosion des données personnelles sur la toile et des traces enregistrées par les ordinateurs sur les
activités des personnes, combinée à des algorithmes d'IA de plus en plus puissants, ouvre des perspectives sans précédent sur la détection de risques, la médecine préventive, et l'aide à la personne; mais
augmente considérablement le risque de violation de la vie privée. Des résultats récents ont montré
que le croisement entre jeux de données même anonymisées peut permettre de ré-identifier des personnes. Derrière cette question, se cachent en réalité différents verrous scientifiques : dont (i) la définition de modèles de préservation de la vie privée selon le but et la nature des données (distribuées,
structurées, grandes dimensions, etc), (ii) la définition de formalismes et boites à outils bien fondés
mathématiquement pour l'étude des garanties théoriques de ces modèles (compromis confidentialité/précision par exemple).
Les communautés d'apprentissage automatique et de bases de données se sont emparés de ces verrous
ces dernières années, au travers notamment du modèle de confidentialité différentielle.
Ce sont là des efforts à encourager, en créant les conditions d'une fertilisation croisée entre travaux en
cryptologie, apprentissage et raisonnement à partir des données, algorithmique et complexité, et statistique et probabilités. L'objectif visé doit être que tout algorithme d'IA fondée sur des données vienne
avec des garanties fortes de confidentialité (à l'instar de garanties de convergence pour les algorithmes
d'apprentissage statistique). Il est là question de confiance dans les usages de ces approches, qui si elle
est renforcée favoriserait la mise à disposition de données sensibles (génomes par exemple) dont l'exploitation est porteuse de grandes promesses en termes de découvertes scientifiques et de retombées
sociétales.
Acceptabilité et appropriation
rences, planification, raisonnement épistémique multi-agents, raisonnement argumentatif, raisonnement sur les émotions, etc. Il n’existe cependant pour ainsi dire pas de système capable d’utiliser de
manière intégrée plusieurs de ces modes de raisonnement. Ceci s’avérerait pourtant très utile si on veut
développer des systèmes d’aide à la personne, d’accompagnement, d’assistance de diverses sortes, où
il est nécessaire de combiner les capacités de plusieurs de ces types de raisonnement.
Enjeux éthique et sociaux, acceptabilité, et protection de la
vie privée
Il sera nécessaire de travailler sur les enjeux éthiques et sociaux des méthodes d’intelligence artificielle. Si une grande partie de ces considérations concernent directement l’éthique et les sciences sociales, et sortent donc du cadre de ce groupe sur la recherche amont en IA, certaines de ces questions
sont des sujets de recherche à part entière en IA.
Les grands défis concernant cette thématique:
Intégration de la préservation de la vie privée dans les méthodes
d’apprentissage et de raisonnement
Il s'agit ici de promouvoir des recherches sur les modèles mathématiques et informatiques de préservation de la vie privée, et leur intégration ``par construction'' dans les algorithmes d'apprentissage automatique, de raisonnement à partir de données, et plus généralement dans les méthodes d'intelligence
artificielle se fondant sur les données.
L'explosion des données personnelles sur la toile et des traces enregistrées par les ordinateurs sur les
activités des personnes, combinée à des algorithmes d'IA de plus en plus puissants, ouvre des perspectives sans précédent sur la détection de risques, la médecine préventive, et l'aide à la personne; mais
augmente considérablement le risque de violation de la vie privée. Des résultats récents ont montré
que le croisement entre jeux de données même anonymisées peut permettre de ré-identifier des personnes. Derrière cette question, se cachent en réalité différents verrous scientifiques : dont (i) la définition de modèles de préservation de la vie privée selon le but et la nature des données (distribuées,
structurées, grandes dimensions, etc), (ii) la définition de formalismes et boites à outils bien fondés
mathématiquement pour l'étude des garanties théoriques de ces modèles (compromis confidentialité/précision par exemple).
Les communautés d'apprentissage automatique et de bases de données se sont emparés de ces verrous
ces dernières années, au travers notamment du modèle de confidentialité différentielle.
Ce sont là des efforts à encourager, en créant les conditions d'une fertilisation croisée entre travaux en
cryptologie, apprentissage et raisonnement à partir des données, algorithmique et complexité, et statistique et probabilités. L'objectif visé doit être que tout algorithme d'IA fondée sur des données vienne
avec des garanties fortes de confidentialité (à l'instar de garanties de convergence pour les algorithmes
d'apprentissage statistique). Il est là question de confiance dans les usages de ces approches, qui si elle
est renforcée favoriserait la mise à disposition de données sensibles (génomes par exemple) dont l'exploitation est porteuse de grandes promesses en termes de découvertes scientifiques et de retombées
sociétales.
Acceptabilité et appropriation