268
« générale » ou « forte », susceptible de prendre en compte le contexte et d’apprendre à partir de quelques
exemples.
Continuités et discontinuités
Le déploiement de l’intelligence artificielle dans la société et l’économie en particulier s’inscrit plutôt
dans la suite des transformations numériques à l’œuvre depuis des années. Il inclut aussi les progrès de la
robotique, de la réalité virtuelle ou augmentée, et s’inscrit dans le prolongement de l’économie des
données, dominée à l’échelle mondiale par les plateformes numériques américaines et asiatiques, avec un
retard de la France et de l’Europe plus généralement.
L’IA soulève des questions classiques, qui ont déjà fait l’objet de nombreux travaux par ailleurs. À titre
d’exemple, l’IA se nourrit de données pour faire des diagnostics personnalisés ; elle soulève donc des
questions de données personnelles. L’enjeu est d’arriver à protéger la vie privée tout en tirant parti du
potentiel de l’IA qui suppose d’avoir accès à ces données.
L’IA pose également des nouvelles questions éthiques et d’acceptabilité. Il y a une responsabilité du
concepteur de l’algorithme mais également un impact des données utilisées pour réaliser l’apprentissage.
Enfin, l’IA pose la question de la transparence des interactions humain-machine et de l’explicabilité des
décisions que prennent les dispositifs automatiques. Refus d’un prêt bancaire, accident d’un véhicule
autonome : il devra être possible de demander une explication sur la manière dont ont été prises les
décisions, voire de déterminer des domaines où il est nécessaire que l’humain conserve la décision finale.
C’est un sujet de recherche qui doit accompagner le déploiement de la technologie (cf. encart ci-dessous,
résumant l’annexe 1 “L’intelligence artificielle en quête d’acceptabilité et de confiance”).
Enjeux d’acceptabilité et de confiance dans l’intelligence artificielle
Sous-groupe Acceptabilité et de confiance
Le développement de l’IA est de nature à transformer considérablement la sphère de l’emploi et du
travail, avec notamment pour conséquence la multiplication des systèmes d’IA dans l’environnement
de travail, l’intensification des collaborations entre humains et machines ainsi que l’automatisation
de la fonction de prédiction à travers les secteurs industriels et la délégation croissante à des
machines de tâches et d’activités autrefois réalisées par les humains. Ces collaborations entre
humains et machines vont revêtir toutes sortes de formes. Certains métiers pourront être entièrement
remplacés par des machines autonomes (exemple : conducteurs) tout en créant des nouvelles tâches
de supervision. D’autres resteront entièrement le propre de l’homme car le remplacement de
l’homme par l’IA sera considéré inacceptable, inefficace ou non bénéfique pour la société. Dans
d’autres cas encore, sans doute plus nombreux, des formes de coopération homme-machine verront
le jour dans des environnements de travail où les IA seront des partenaires, des assistants plutôt que
des remplaçants. Des agents autonomes participent déjà à différents types de négociations, de
transactions (exemple : transactions boursières), d’interactions avec les clients, les usagers, les
entreprises et organisations. À court terme, vont être affectés de manière encore plus large les
métiers du calcul et ceux qui suivent une procédure formellement établie. De nouveaux métiers vont
« générale » ou « forte », susceptible de prendre en compte le contexte et d’apprendre à partir de quelques
exemples.
Continuités et discontinuités
Le déploiement de l’intelligence artificielle dans la société et l’économie en particulier s’inscrit plutôt
dans la suite des transformations numériques à l’œuvre depuis des années. Il inclut aussi les progrès de la
robotique, de la réalité virtuelle ou augmentée, et s’inscrit dans le prolongement de l’économie des
données, dominée à l’échelle mondiale par les plateformes numériques américaines et asiatiques, avec un
retard de la France et de l’Europe plus généralement.
L’IA soulève des questions classiques, qui ont déjà fait l’objet de nombreux travaux par ailleurs. À titre
d’exemple, l’IA se nourrit de données pour faire des diagnostics personnalisés ; elle soulève donc des
questions de données personnelles. L’enjeu est d’arriver à protéger la vie privée tout en tirant parti du
potentiel de l’IA qui suppose d’avoir accès à ces données.
L’IA pose également des nouvelles questions éthiques et d’acceptabilité. Il y a une responsabilité du
concepteur de l’algorithme mais également un impact des données utilisées pour réaliser l’apprentissage.
Enfin, l’IA pose la question de la transparence des interactions humain-machine et de l’explicabilité des
décisions que prennent les dispositifs automatiques. Refus d’un prêt bancaire, accident d’un véhicule
autonome : il devra être possible de demander une explication sur la manière dont ont été prises les
décisions, voire de déterminer des domaines où il est nécessaire que l’humain conserve la décision finale.
C’est un sujet de recherche qui doit accompagner le déploiement de la technologie (cf. encart ci-dessous,
résumant l’annexe 1 “L’intelligence artificielle en quête d’acceptabilité et de confiance”).
Enjeux d’acceptabilité et de confiance dans l’intelligence artificielle
Sous-groupe Acceptabilité et de confiance
Le développement de l’IA est de nature à transformer considérablement la sphère de l’emploi et du
travail, avec notamment pour conséquence la multiplication des systèmes d’IA dans l’environnement
de travail, l’intensification des collaborations entre humains et machines ainsi que l’automatisation
de la fonction de prédiction à travers les secteurs industriels et la délégation croissante à des
machines de tâches et d’activités autrefois réalisées par les humains. Ces collaborations entre
humains et machines vont revêtir toutes sortes de formes. Certains métiers pourront être entièrement
remplacés par des machines autonomes (exemple : conducteurs) tout en créant des nouvelles tâches
de supervision. D’autres resteront entièrement le propre de l’homme car le remplacement de
l’homme par l’IA sera considéré inacceptable, inefficace ou non bénéfique pour la société. Dans
d’autres cas encore, sans doute plus nombreux, des formes de coopération homme-machine verront
le jour dans des environnements de travail où les IA seront des partenaires, des assistants plutôt que
des remplaçants. Des agents autonomes participent déjà à différents types de négociations, de
transactions (exemple : transactions boursières), d’interactions avec les clients, les usagers, les
entreprises et organisations. À court terme, vont être affectés de manière encore plus large les
métiers du calcul et ceux qui suivent une procédure formellement établie. De nouveaux métiers vont