289
1. Désengagement : l’utilisation de l’IA et de machines autonomes peut conduire à un désengagement de
l’humain. Remplacer le facteur humain par de l’IA pourrait conduire à une déshumanisation des pratiques
et un appauvrissement des interactions sociales, lesquels constituent très souvent la raison d’être de
certains métiers. C’est pour cela qu’il s’agit non pas de remplacer l’humain pour toutes les tâches sociales
(comme par exemple dans la santé) mais de trouver les garde-fous pour accompagner au mieux la
collaboration humain-machine. N’oublions pas que nombre de “décisions” sont actuellement prises
automatiquement sans que le destinataire en soit informé. L’IA peut restituer au moins les traces et les
raisonnements activés.
Exemple : le secteur de la santé et, en particulier celui des soins apportés aux patients malades, aux
personnes en situation de handicap et aux personnes âgées va, dans les prochaines années, être
profondément transformé par le développement de technologies offrant une grande diversité
d’applications allant de l’assistance, au contrôle, jusqu’à l’accompagnement quotidien. La forte dimension
affective au cœur de la relation de soin va évoluer et, dès lors, va modifier à la fois le travail des aidessoignants et thérapeutes ainsi que la vie des patients. Sans contester l’utilité indéniable des IA et des
agents autonomes (robot portant, robot soignant ou robot coach) pour faciliter et soulager le travail des
prestataires de soins, il est important de souligner que le contact humain est l’un des aspects essentiels de
la relation de soin.
2. Déresponsabilisation : dans la continuité du point précédent, l’utilisation de l’IA et de machines
autonomes peut entraîner une déresponsabilisation du travailleur, susceptible de ne plus devenir qu’un
simple relais de la décision de la machine. Dans les cas de plus en plus nombreux de décisions prises sur
la base d’un traitement automatisé de données, l’être humain pourrait avoir tendance à s’en remettre
exclusivement à la proposition de la machine, en évitant d’engager sa responsabilité. Dévier de la solution
préconisée par la machine entraînerait une prise de risque trop grande, susceptible de lui faire encourir
d’éventuelles sanctions en cas de problème.
Exemple : le banquier qui s’en remettrait uniquement à la décision suggérée par la machine sur la base
d’un profil pour accorder ou refuser un prêt à un client. Il y a également un problème de représentation des
échelles : dans le trading par exemple, et la question de la numérosité à travers l’IA semble intéressante à
creuser.
3. Transformation du mérite du travail : l’utilisation de l’IA et de machines autonomes peut
bouleverser radicalement l’évaluation des performances des travailleurs et l’idée de mérite. En
transformant les modalités de réalisation des tâches, les technologies feront évoluer les évaluations du
mérite individuel et donc de l’équité des bénéfices induits par l’effort et des récompenses dues en vertu
des talents acquis par l’individu.
Exemple : comment évaluer les performances d’un joueur d’échecs, d’un chirurgien ou d’un trader assisté
d’une IA ? Qui est à la source de la performance ? Est-ce la technologie, le talent propre de l’humain ou
l’association des deux ? Leur récompense (que ce soit en termes de salaire, de réputation) est-elle juste ?
Est-elle méritée ?
1. Désengagement : l’utilisation de l’IA et de machines autonomes peut conduire à un désengagement de
l’humain. Remplacer le facteur humain par de l’IA pourrait conduire à une déshumanisation des pratiques
et un appauvrissement des interactions sociales, lesquels constituent très souvent la raison d’être de
certains métiers. C’est pour cela qu’il s’agit non pas de remplacer l’humain pour toutes les tâches sociales
(comme par exemple dans la santé) mais de trouver les garde-fous pour accompagner au mieux la
collaboration humain-machine. N’oublions pas que nombre de “décisions” sont actuellement prises
automatiquement sans que le destinataire en soit informé. L’IA peut restituer au moins les traces et les
raisonnements activés.
Exemple : le secteur de la santé et, en particulier celui des soins apportés aux patients malades, aux
personnes en situation de handicap et aux personnes âgées va, dans les prochaines années, être
profondément transformé par le développement de technologies offrant une grande diversité
d’applications allant de l’assistance, au contrôle, jusqu’à l’accompagnement quotidien. La forte dimension
affective au cœur de la relation de soin va évoluer et, dès lors, va modifier à la fois le travail des aidessoignants et thérapeutes ainsi que la vie des patients. Sans contester l’utilité indéniable des IA et des
agents autonomes (robot portant, robot soignant ou robot coach) pour faciliter et soulager le travail des
prestataires de soins, il est important de souligner que le contact humain est l’un des aspects essentiels de
la relation de soin.
2. Déresponsabilisation : dans la continuité du point précédent, l’utilisation de l’IA et de machines
autonomes peut entraîner une déresponsabilisation du travailleur, susceptible de ne plus devenir qu’un
simple relais de la décision de la machine. Dans les cas de plus en plus nombreux de décisions prises sur
la base d’un traitement automatisé de données, l’être humain pourrait avoir tendance à s’en remettre
exclusivement à la proposition de la machine, en évitant d’engager sa responsabilité. Dévier de la solution
préconisée par la machine entraînerait une prise de risque trop grande, susceptible de lui faire encourir
d’éventuelles sanctions en cas de problème.
Exemple : le banquier qui s’en remettrait uniquement à la décision suggérée par la machine sur la base
d’un profil pour accorder ou refuser un prêt à un client. Il y a également un problème de représentation des
échelles : dans le trading par exemple, et la question de la numérosité à travers l’IA semble intéressante à
creuser.
3. Transformation du mérite du travail : l’utilisation de l’IA et de machines autonomes peut
bouleverser radicalement l’évaluation des performances des travailleurs et l’idée de mérite. En
transformant les modalités de réalisation des tâches, les technologies feront évoluer les évaluations du
mérite individuel et donc de l’équité des bénéfices induits par l’effort et des récompenses dues en vertu
des talents acquis par l’individu.
Exemple : comment évaluer les performances d’un joueur d’échecs, d’un chirurgien ou d’un trader assisté
d’une IA ? Qui est à la source de la performance ? Est-ce la technologie, le talent propre de l’humain ou
l’association des deux ? Leur récompense (que ce soit en termes de salaire, de réputation) est-elle juste ?
Est-elle méritée ?