286
o Serons-nous toujours ceux qui supervisent/surveillent ?
o Comment évaluer la responsabilité d’un agent humain ou numérique dans un monde où
l’humain n’aura désormais plus le monopole de la décision et de l’action ?
o Comment créer les conditions d’une coordination des activités et d’une collaboration saines
entre l’homme et les systèmes d’IA ?
Cette annexe à la note Anticiper les impacts économiques et sociaux de l’intelligence artificielle entend
proposer un certain nombre de pistes de réflexion destinées à construire à court et moyen terme une
relation de confiance entre les travailleurs, les organisations et les systèmes d'IA. Elle a également pour
objectif de formuler diverses recommandations visant à garantir le respect des valeurs humaines aux
stades de la conception, de l’acceptation, de l’appropriation et de l’utilisation de ces systèmes.
I. Champ d’application
a) Les métiers bouleversés par l’IA
L’IA va bouleverser de nombreux métiers, comme l’ont fait les machines-outils lors des révolutions
industrielles précédentes. D’innombrables tâches, actions et fonctions pourront être réalisées et
supervisées par une IA. Des agents autonomes participent déjà à différents types de négociations, de
transactions (exemple : transactions boursières), d’interactions avec les clients, les usagers, les entreprises
et organisations. À court terme, vont être affectés de manière encore plus large les métiers du calcul et
ceux qui suivent une procédure formellement établie. Certains métiers pourront être entièrement
remplacés par des machines autonomes (exemple : conducteurs) tout en créant des nouvelles tâches de
supervision. D’autres resteront entièrement le propre de l’homme car l’IA sera considérée comme
inacceptable, inefficace ou non bénéfique pour la société. Dans d’autres cas encore, des formes inédites de
coopération homme-machine verront le jour dans des environnements de travail où les IA seront des
partenaires, des assistants plutôt que des remplaçants. De nouveaux métiers vont également apparaître
comme ceux de concepteur, d’entraîneur ou de gestionnaire (cogniticien) de données et d’informations,
surveillant ou encore réparateur d’IA, etc. La valeur du travail ne sera plus le faire mais le contrôle, la
vérification, l’approbation et la validation.
Exemple : On peut imaginer des phénomènes de retour à des métiers/tâches avec une réalisation
partiellement manuelle et des résultats apparents. Vincent de Gaulejac : « Cette tendance peut s’expliquer
par deux éléments. C’est un double changement, à la fois vers le manuel : du concret vers l’abstrait et il y
a cette volonté de posséder à nouveau ce que l’on fait. Les cadres ont de plus en plus l’impression d’être
pris dans un univers où leur travail ne fait plus sens. » Paru dans Le Monde.
La rémunération reviendra aux concepteurs d’un procédé ou aux entraîneurs, aux vérificateurs et non pas à
celui qui l’exécute car c’est la machine qui exécutera. La signature et la responsabilité finales pourraient
en revanche rester humaines, c’est un choix. Les systèmes d’IA ne prendront pas la place des humains
dans toutes leurs tâches et fonctions. Il sera également nécessaire de créer de nouveaux métiers
d’entraides sociales où l’humain sera au centre.
o Serons-nous toujours ceux qui supervisent/surveillent ?
o Comment évaluer la responsabilité d’un agent humain ou numérique dans un monde où
l’humain n’aura désormais plus le monopole de la décision et de l’action ?
o Comment créer les conditions d’une coordination des activités et d’une collaboration saines
entre l’homme et les systèmes d’IA ?
Cette annexe à la note Anticiper les impacts économiques et sociaux de l’intelligence artificielle entend
proposer un certain nombre de pistes de réflexion destinées à construire à court et moyen terme une
relation de confiance entre les travailleurs, les organisations et les systèmes d'IA. Elle a également pour
objectif de formuler diverses recommandations visant à garantir le respect des valeurs humaines aux
stades de la conception, de l’acceptation, de l’appropriation et de l’utilisation de ces systèmes.
I. Champ d’application
a) Les métiers bouleversés par l’IA
L’IA va bouleverser de nombreux métiers, comme l’ont fait les machines-outils lors des révolutions
industrielles précédentes. D’innombrables tâches, actions et fonctions pourront être réalisées et
supervisées par une IA. Des agents autonomes participent déjà à différents types de négociations, de
transactions (exemple : transactions boursières), d’interactions avec les clients, les usagers, les entreprises
et organisations. À court terme, vont être affectés de manière encore plus large les métiers du calcul et
ceux qui suivent une procédure formellement établie. Certains métiers pourront être entièrement
remplacés par des machines autonomes (exemple : conducteurs) tout en créant des nouvelles tâches de
supervision. D’autres resteront entièrement le propre de l’homme car l’IA sera considérée comme
inacceptable, inefficace ou non bénéfique pour la société. Dans d’autres cas encore, des formes inédites de
coopération homme-machine verront le jour dans des environnements de travail où les IA seront des
partenaires, des assistants plutôt que des remplaçants. De nouveaux métiers vont également apparaître
comme ceux de concepteur, d’entraîneur ou de gestionnaire (cogniticien) de données et d’informations,
surveillant ou encore réparateur d’IA, etc. La valeur du travail ne sera plus le faire mais le contrôle, la
vérification, l’approbation et la validation.
Exemple : On peut imaginer des phénomènes de retour à des métiers/tâches avec une réalisation
partiellement manuelle et des résultats apparents. Vincent de Gaulejac : « Cette tendance peut s’expliquer
par deux éléments. C’est un double changement, à la fois vers le manuel : du concret vers l’abstrait et il y
a cette volonté de posséder à nouveau ce que l’on fait. Les cadres ont de plus en plus l’impression d’être
pris dans un univers où leur travail ne fait plus sens. » Paru dans Le Monde.
La rémunération reviendra aux concepteurs d’un procédé ou aux entraîneurs, aux vérificateurs et non pas à
celui qui l’exécute car c’est la machine qui exécutera. La signature et la responsabilité finales pourraient
en revanche rester humaines, c’est un choix. Les systèmes d’IA ne prendront pas la place des humains
dans toutes leurs tâches et fonctions. Il sera également nécessaire de créer de nouveaux métiers
d’entraides sociales où l’humain sera au centre.