288
des objets techniques ainsi que sur l’intégration significative de ces objets dans la pratique
quotidienne.
Remarque : Il y a deux niveaux d’appropriation : celui de l’interface de médiation humain-IA et celui de
la compréhension fine des mécanismes sous-jacents. Cela peut être intéressant en cas de scénario
« d’accident » pour décider de la responsabilité.
II. Impacts éthiques et sociaux
Nous abordons ici les concepts et les idées dont la signification est susceptible d’évoluer sous l’effet de
l’IA (responsabilité, mérite et valeur, créativité), puis les effets positifs (moins d’oubli, moins de perte de
temps, prise en charge de tâches très répétitives ou des routines procédurales sans intérêt, etc) ; enfin, les
effets susceptibles d’être négatifs (manque d’exercices de la mémoire, etc) si la société ne met pas de
garde-fous et ne régule pas l’IA.
a) Changements de concepts
1. Responsabilité
L’entraîneur est celui qui réalise l’apprentissage du système d’IA en lui fournissant des données.
L’entraîneur peut être le concepteur de la machine mais aussi celui qui a construit le corpus de données ou
les utilisateurs conscients ou non conscients du fait que la machine apprend au cours de son utilisation. La
responsabilité sera partagée entre le concepteur, l’entraîneur et l’utilisateur selon des modalités qui
restent à établir. Cela nécessite de modifier le droit pour prendre en compte ce type de partage.
2. Mérite et valeur
La valeur du travail ne sera plus le faire mais le contrôle, la vérification, l’approbation et la
signature. La rémunération reviendra au responsable d’un procédé et pas à celui qui l’exécute (car la
machine exécutera).
3. Créativité
Un système d’IA convenablement programmé peut créer de l’innovation par expérimentation ou par
sérendipité, mais seul l’humain donne un sens à la réalité nouvelle. Il est important de distinguer les
créations des machines et les créations humaines.
b) Risques
Les aspects positifs de l’IA sont nombreux à condition de respecter un certain nombre de valeurs :
une mémoire élargie, moins de perte de concentration ou d’oubli d'information pertinente, un conseil
expert plus efficace, moins subjectif ou arbitraire, mieux justifié, etc, à condition que la machine soit
neutre, loyale et non discriminante. Nous ne développons pas ici tous ces points déjà suffisamment
soulignés et discutés par les acteurs de l’IA mais les risques éthiques. À chaque fois, il faut réfléchir aux
aspects positifs et plus négatifs des situations et trouver les conditions pour transformer ces risques en
atouts.
des objets techniques ainsi que sur l’intégration significative de ces objets dans la pratique
quotidienne.
Remarque : Il y a deux niveaux d’appropriation : celui de l’interface de médiation humain-IA et celui de
la compréhension fine des mécanismes sous-jacents. Cela peut être intéressant en cas de scénario
« d’accident » pour décider de la responsabilité.
II. Impacts éthiques et sociaux
Nous abordons ici les concepts et les idées dont la signification est susceptible d’évoluer sous l’effet de
l’IA (responsabilité, mérite et valeur, créativité), puis les effets positifs (moins d’oubli, moins de perte de
temps, prise en charge de tâches très répétitives ou des routines procédurales sans intérêt, etc) ; enfin, les
effets susceptibles d’être négatifs (manque d’exercices de la mémoire, etc) si la société ne met pas de
garde-fous et ne régule pas l’IA.
a) Changements de concepts
1. Responsabilité
L’entraîneur est celui qui réalise l’apprentissage du système d’IA en lui fournissant des données.
L’entraîneur peut être le concepteur de la machine mais aussi celui qui a construit le corpus de données ou
les utilisateurs conscients ou non conscients du fait que la machine apprend au cours de son utilisation. La
responsabilité sera partagée entre le concepteur, l’entraîneur et l’utilisateur selon des modalités qui
restent à établir. Cela nécessite de modifier le droit pour prendre en compte ce type de partage.
2. Mérite et valeur
La valeur du travail ne sera plus le faire mais le contrôle, la vérification, l’approbation et la
signature. La rémunération reviendra au responsable d’un procédé et pas à celui qui l’exécute (car la
machine exécutera).
3. Créativité
Un système d’IA convenablement programmé peut créer de l’innovation par expérimentation ou par
sérendipité, mais seul l’humain donne un sens à la réalité nouvelle. Il est important de distinguer les
créations des machines et les créations humaines.
b) Risques
Les aspects positifs de l’IA sont nombreux à condition de respecter un certain nombre de valeurs :
une mémoire élargie, moins de perte de concentration ou d’oubli d'information pertinente, un conseil
expert plus efficace, moins subjectif ou arbitraire, mieux justifié, etc, à condition que la machine soit
neutre, loyale et non discriminante. Nous ne développons pas ici tous ces points déjà suffisamment
soulignés et discutés par les acteurs de l’IA mais les risques éthiques. À chaque fois, il faut réfléchir aux
aspects positifs et plus négatifs des situations et trouver les conditions pour transformer ces risques en
atouts.