299
bonnes pratiques, norme relative aux critères de transparence…), permettant d’assurer une
transparence objective.
A rebours de l’idée de protection et de secret, les questions liées au mouvement de transparence
relatif aux traitements opérés et à la preuve de ces traitements constituent également un enjeu juridique
pour le développement de l’IA. Le sujet de la transparence est au cœur des débats actuels, en réponse,
notamment, aux craintes exprimées envers l’objectivité des algorithmes susceptibles de biais, de
discriminations, ou encore de risque pour la diversité de l’information sélectionnée. Si ces craintes sont,
dans une certaine mesure, légitimes, un équilibre doit être préservé entre exigences de
transparence des algorithmes et innovation.
Deux obstacles s’opposent à ces exigences. D’une part, la nature fluctuante et évolutive des algorithmes ;
d’autre part, leur valeur d’un point de vue concurrentiel. Comme l’a fort justement souligné le Conseil
supérieur de l’audiovisuel (CSA), « Toute tentative de réguler les algorithmes serait probablement vouée
à l’échec en raison de l’évolutivité de la technologie et du caractère confidentiel et concurrentiel des
développements. »[6] En outre, il est important de noter que la transparence et l’objectivité des résultats
seront fonction du volume et de la nature des données traitées par l’algorithme. Enfin, il serait contreproductif de « perdre » l’individu dans une masse d’information.
A ce stade, il convient donc surtout de définir ce qu’on entend par le terme de « transparence ». A ce
sujet, il existe un relatif consensus sur l’idée de rendre transparent pour l’utilisateur les informations
relatives à l’origine des données utilisées par la machine et la finalité poursuivie. Certains principes
communs, souples et équilibrés pourraient utilement être adoptés par les concepteurs d’IA. A titre
d’exemple, Nicholas Diakopoulos et Sorelle Friedler, de l’Institut de recherche Data & Society, ont
proposé cinq principes pour rendre les algorithmes fiables : responsabilité, explicabilité, exactitude,
l’auditabilité et justiciabilité[7]. Tout comme en matière de données personnelles, la confiance des
utilisateurs dans l’IA (aujourd’hui faible en France[8]) représente un avantage compétitif pour les
entreprises. Certains groupes l’ont d’ailleurs bien compris, puisqu’ils commencent à travailler sur ces
sujets. A titre d’exemple, Google, Facebook, IBM, Microsoft et Amazon viennent de créer un « Partnership
on Artificial Intelligence to Benefit People and Society », en vue de définir ensemble des bonnes
pratiques[9]. De son côté, le fondateur de Tesla et SpaceX, Elon Musk, a créé OpenAI[10].
Bien que n’étant pas spécifiques à l’IA, il faut noter que deux outils législatifs trouvent déjà à s’appliquer,
et constituent plus largement une potentielle source d’inspiration pour le régulateur. En effet, la loi pour
une République numérique impose une exigence de transparence aux administrations quant aux
traitements algorithmiques servant à prendre des décisions individuelles (art. 4 et 6), et a renforcé l’actuel
article L. 111-7 du code de la consommation pour élargir l’exigence de loyauté des plateformes et
l’information des consommateurs, au-delà des seules plateformes de mise en relation (art. 49 & suiv.). En
application de ce texte, tout opérateur de plateforme en ligne est tenu de délivrer au consommateur une
information loyale, claire et transparente sur les conditions générales d'utilisation du service
d'intermédiation qu'il propose, et « sur les modalités de référencement, de classement et de
déréférencement des contenus, des biens ou des services auxquels ce service permet d’accéder ». Par
ailleurs, les opérateurs de plateformes en ligne dont l'activité dépasse un seuil de nombre de connexions
devront élaborer et diffusent aux consommateurs des bonnes pratiques visant à renforcer les obligations
de clarté, de transparence et de loyauté.
De son côté, le règlement général de l’UE sur la protection des données personnelles (« RGPD »)
prévoit que le responsable de traitement doit informer la personne concernée de « l'existence d'une prise
bonnes pratiques, norme relative aux critères de transparence…), permettant d’assurer une
transparence objective.
A rebours de l’idée de protection et de secret, les questions liées au mouvement de transparence
relatif aux traitements opérés et à la preuve de ces traitements constituent également un enjeu juridique
pour le développement de l’IA. Le sujet de la transparence est au cœur des débats actuels, en réponse,
notamment, aux craintes exprimées envers l’objectivité des algorithmes susceptibles de biais, de
discriminations, ou encore de risque pour la diversité de l’information sélectionnée. Si ces craintes sont,
dans une certaine mesure, légitimes, un équilibre doit être préservé entre exigences de
transparence des algorithmes et innovation.
Deux obstacles s’opposent à ces exigences. D’une part, la nature fluctuante et évolutive des algorithmes ;
d’autre part, leur valeur d’un point de vue concurrentiel. Comme l’a fort justement souligné le Conseil
supérieur de l’audiovisuel (CSA), « Toute tentative de réguler les algorithmes serait probablement vouée
à l’échec en raison de l’évolutivité de la technologie et du caractère confidentiel et concurrentiel des
développements. »[6] En outre, il est important de noter que la transparence et l’objectivité des résultats
seront fonction du volume et de la nature des données traitées par l’algorithme. Enfin, il serait contreproductif de « perdre » l’individu dans une masse d’information.
A ce stade, il convient donc surtout de définir ce qu’on entend par le terme de « transparence ». A ce
sujet, il existe un relatif consensus sur l’idée de rendre transparent pour l’utilisateur les informations
relatives à l’origine des données utilisées par la machine et la finalité poursuivie. Certains principes
communs, souples et équilibrés pourraient utilement être adoptés par les concepteurs d’IA. A titre
d’exemple, Nicholas Diakopoulos et Sorelle Friedler, de l’Institut de recherche Data & Society, ont
proposé cinq principes pour rendre les algorithmes fiables : responsabilité, explicabilité, exactitude,
l’auditabilité et justiciabilité[7]. Tout comme en matière de données personnelles, la confiance des
utilisateurs dans l’IA (aujourd’hui faible en France[8]) représente un avantage compétitif pour les
entreprises. Certains groupes l’ont d’ailleurs bien compris, puisqu’ils commencent à travailler sur ces
sujets. A titre d’exemple, Google, Facebook, IBM, Microsoft et Amazon viennent de créer un « Partnership
on Artificial Intelligence to Benefit People and Society », en vue de définir ensemble des bonnes
pratiques[9]. De son côté, le fondateur de Tesla et SpaceX, Elon Musk, a créé OpenAI[10].
Bien que n’étant pas spécifiques à l’IA, il faut noter que deux outils législatifs trouvent déjà à s’appliquer,
et constituent plus largement une potentielle source d’inspiration pour le régulateur. En effet, la loi pour
une République numérique impose une exigence de transparence aux administrations quant aux
traitements algorithmiques servant à prendre des décisions individuelles (art. 4 et 6), et a renforcé l’actuel
article L. 111-7 du code de la consommation pour élargir l’exigence de loyauté des plateformes et
l’information des consommateurs, au-delà des seules plateformes de mise en relation (art. 49 & suiv.). En
application de ce texte, tout opérateur de plateforme en ligne est tenu de délivrer au consommateur une
information loyale, claire et transparente sur les conditions générales d'utilisation du service
d'intermédiation qu'il propose, et « sur les modalités de référencement, de classement et de
déréférencement des contenus, des biens ou des services auxquels ce service permet d’accéder ». Par
ailleurs, les opérateurs de plateformes en ligne dont l'activité dépasse un seuil de nombre de connexions
devront élaborer et diffusent aux consommateurs des bonnes pratiques visant à renforcer les obligations
de clarté, de transparence et de loyauté.
De son côté, le règlement général de l’UE sur la protection des données personnelles (« RGPD »)
prévoit que le responsable de traitement doit informer la personne concernée de « l'existence d'une prise