292
Afin de répondre aux impacts éthiques et sociaux des systèmes issus de l’IA et de faciliter leur adéquation
et leur appropriation par tous les acteurs du monde du travail, il est important de réfléchir dès maintenant
aux différentes étapes et conditions pour instaurer un climat de confiance.
La confiance se décline à un triple niveau :
(1) la conception : certaines valeurs doivent être prises en compte dès la phase de conception
technologique et intégrées dans celle-ci (“value by design”) ;
(2) l’appropriation : il est nécessaire de faciliter l’apprentissage par l’humain et son acquisition
progressive de la maîtrise technique et cognitive des dispositifs techniques ainsi que l’intégration
significative de ces dispositifs dans la pratique quotidienne ;
(3) l’utilisation : il faut informer les utilisateurs de l’origine automatique ou non de la décision, anticiper
les conséquences possibles de l’adoption de ces systèmes de l’IA par les êtres humains et cerner en quoi
ces systèmes vont redéfinir les modalités concrètes du travail.
Afin de garantir une transition plus aisée de la recherche à la commercialisation, nous proposons au
gouvernement de promouvoir des programmes de recherche qui intègrent des mécanismes de vérification
des résultats à court et moyen terme afin de comprendre les opportunités et les risques réels qui sont
associés au déploiement et à la dissémination de ces technologies. La formation à l’IA et aux mutations est
essentielle. La conduite du changement doit être menée en bonne intelligence avec tous les acteurs :
dirigeants de société et syndicats.
Des ressources suffisantes doivent être consacrées à la résolution des défis éthiques et sociaux
soulevées par le développement et les applications de ces technologies.
De manière générale, l’approche développée doit être graduelle, pragmatique et prudente. Dans
cette perspective, nous formulons diverses recommandations.
1. Code d’éthique : l’éducation des ingénieurs à la réflexion éthique, par toutes les méthodes
pédagogiques y compris le développement d’un code d’éthique, est nécessaire pour encadrer le
développement et la production des systèmes d’IA. À moyen et long terme, cela complètera de façon
réfléchie et informée, le cadre légal existant à l’échelle nationale et européenne. Cette réflexion éthique
des ingénieurs doit être fondée sur les principes de bienfaisance ou non-malfaisance, d’autonomie et de
justice ainsi que sur les principes et valeurs consacrés dans la Charte européenne des droits fondamentaux.
Pourquoi pas une déontologie des ingénieurs en IA ?
Objectif 1 : “la formation” afin d’augmenter la compréhension de l'éthique par les ingénieurs
Moyen : intégrer l’éthique dans le maquettage des formations
Coûts : ECTS
Évaluations : applicabilité de la formation à l’utilisation des ressources de l’éthique
Objectif 2 : “les ressources de l’éthique” afin d’accompagner la conception de l’IA, et la réévaluation
nécessaire
Afin de répondre aux impacts éthiques et sociaux des systèmes issus de l’IA et de faciliter leur adéquation
et leur appropriation par tous les acteurs du monde du travail, il est important de réfléchir dès maintenant
aux différentes étapes et conditions pour instaurer un climat de confiance.
La confiance se décline à un triple niveau :
(1) la conception : certaines valeurs doivent être prises en compte dès la phase de conception
technologique et intégrées dans celle-ci (“value by design”) ;
(2) l’appropriation : il est nécessaire de faciliter l’apprentissage par l’humain et son acquisition
progressive de la maîtrise technique et cognitive des dispositifs techniques ainsi que l’intégration
significative de ces dispositifs dans la pratique quotidienne ;
(3) l’utilisation : il faut informer les utilisateurs de l’origine automatique ou non de la décision, anticiper
les conséquences possibles de l’adoption de ces systèmes de l’IA par les êtres humains et cerner en quoi
ces systèmes vont redéfinir les modalités concrètes du travail.
Afin de garantir une transition plus aisée de la recherche à la commercialisation, nous proposons au
gouvernement de promouvoir des programmes de recherche qui intègrent des mécanismes de vérification
des résultats à court et moyen terme afin de comprendre les opportunités et les risques réels qui sont
associés au déploiement et à la dissémination de ces technologies. La formation à l’IA et aux mutations est
essentielle. La conduite du changement doit être menée en bonne intelligence avec tous les acteurs :
dirigeants de société et syndicats.
Des ressources suffisantes doivent être consacrées à la résolution des défis éthiques et sociaux
soulevées par le développement et les applications de ces technologies.
De manière générale, l’approche développée doit être graduelle, pragmatique et prudente. Dans
cette perspective, nous formulons diverses recommandations.
1. Code d’éthique : l’éducation des ingénieurs à la réflexion éthique, par toutes les méthodes
pédagogiques y compris le développement d’un code d’éthique, est nécessaire pour encadrer le
développement et la production des systèmes d’IA. À moyen et long terme, cela complètera de façon
réfléchie et informée, le cadre légal existant à l’échelle nationale et européenne. Cette réflexion éthique
des ingénieurs doit être fondée sur les principes de bienfaisance ou non-malfaisance, d’autonomie et de
justice ainsi que sur les principes et valeurs consacrés dans la Charte européenne des droits fondamentaux.
Pourquoi pas une déontologie des ingénieurs en IA ?
Objectif 1 : “la formation” afin d’augmenter la compréhension de l'éthique par les ingénieurs
Moyen : intégrer l’éthique dans le maquettage des formations
Coûts : ECTS
Évaluations : applicabilité de la formation à l’utilisation des ressources de l’éthique
Objectif 2 : “les ressources de l’éthique” afin d’accompagner la conception de l’IA, et la réévaluation
nécessaire