304
préparatoire a d’ailleurs déjà commencé à propos de leur utilisation. Par ordonnance du 3 août 2016 prise
en application de la loi n° 2015-992 du 17 août 2015 relative à la transition énergétique pour la
croissance verte, le gouvernement a autorisé la circulation sur la voie publique de véhicules autonomes
pour l’expérimentation de ces voitures sans conducteur ou disposant de systèmes d’aides à la conduite.
Le texte constitue un préalable à l’élaboration d’un cadre règlementaire par décret en Conseil
d’Etat.
Dans une vision plus générale de la responsabilité, qui ne doit pas se limiter pas à une question de
réparation de dommages, l’attention doit être attirée sur deux points. Le premier est l’asymétrie des
responsabilités qui se profile entre celle du fabricant de robots incarnés intégrant une IA et celle du
développeur/éditeur d’IA. La responsabilité du fabricant du robot physique (la partie hard) intégrant une
intelligence artificielle (la partie soft dont le fabricant n’est pas le plus souvent propriétaire) pourra être
assez facilement engagée en cas de dommage, le hard et le soft formant un tout, un produit complexe. En
revanche, la responsabilité de l’éditeur sera plus difficile à établir. Il ressort des auditions que les d’IA
mettent contractuellement à disposition du client un simple outil, le système d’apprentissage dépendant
de l’utilisateur-client qui ainsi contribue au processus décisionnel. L’autre point est la possibilité de risques
systémiques. Le développement de l’intelligence artificielle entraînera des situations de « captivité » dans
lesquelles certaines activités dépendront pour leur fonctionnement d’applications de l’IA. De quelles
ressources dispose-t-on si l’IA ne fonctionne plus ou ne fonctionne plus correctement ? L’impact
économique peut dépasser l’approche sectorielle et entamer la souveraineté (numérique) nationale.
Ces deux considérations doivent conduire à réfléchir à la place et au rôle du développeur dans la chaîne.
Il ne s’agit pas d’ajouter un régime de responsabilité et de prendre le risque de brider le développement
économique du secteur, mais des obligations pourraient être imposées sous forme de principes au
développeur d’IA afin de rééquilibrer l’asymétrie des responsabilités et de prévenir les risques
systémiques. On peut penser, en premier lieu, au principe de transparence précité, notamment par
l’explication de protocoles de test et des résultats obtenus sur chaque itération d’IA ou encore l’obligation
d’indiquer l’objectif poursuivi par l’algorithme prédictif – ce qui peut être rapproché du principe,
précédemment évoqué, de finalité du traitement en matière de données personnelles ou de la
transparence exigée dans les algorithmes décisionnels publics par la loi pour une République numérique
(v. art. L. 311-3-1 du Code des relations entre le public et l’administration). Ce principe de transparence
pourrait s’accompagner d’un principe de continuité des services décidée par une autorité administrative
indépendante du type de l’agence européenne chargée de la robotique et de l’intelligence artificielle dont
la création est préconisée dans la résolution adoptée par le Parlement européen. D’autres principes
peuvent être envisagés : principe de neutralité de la base de référence, des tests et des traitements
algorithmiques pour éviter d’aboutir à des résultats discriminatoires notamment ; principe de séparation
des IA pour limiter le risque de propagation de biais viciant une intelligence artificielle ; droit de s’opposer
à un traitement algorithmique ou de contester une décision issue d’un traitement algorithmique…
VI.
Propriété intellectuelle et IA
L’IA peut intervenir dans le processus de création littéraire et artistique à deux titres principaux.
Dans un premier cas de figure, l’IA peut être présentée comme un outil d’aide à la création, dont
l’objet est de fournir une assistance à une personne physique. Les solutions juridiques
traditionnelles sont applicables à cette situation, qui aboutit à l’attribution de la titularité des droits
à la personne physique. Un second cas de figure correspond à la situation où l’IA, de manière
autonome, développerait un résultat susceptible d’être qualifié d’œuvre, sous réserve du critère de
l’originalité. Toutefois, en l’absence d’intervention d’un auteur personne physique, le critère
préparatoire a d’ailleurs déjà commencé à propos de leur utilisation. Par ordonnance du 3 août 2016 prise
en application de la loi n° 2015-992 du 17 août 2015 relative à la transition énergétique pour la
croissance verte, le gouvernement a autorisé la circulation sur la voie publique de véhicules autonomes
pour l’expérimentation de ces voitures sans conducteur ou disposant de systèmes d’aides à la conduite.
Le texte constitue un préalable à l’élaboration d’un cadre règlementaire par décret en Conseil
d’Etat.
Dans une vision plus générale de la responsabilité, qui ne doit pas se limiter pas à une question de
réparation de dommages, l’attention doit être attirée sur deux points. Le premier est l’asymétrie des
responsabilités qui se profile entre celle du fabricant de robots incarnés intégrant une IA et celle du
développeur/éditeur d’IA. La responsabilité du fabricant du robot physique (la partie hard) intégrant une
intelligence artificielle (la partie soft dont le fabricant n’est pas le plus souvent propriétaire) pourra être
assez facilement engagée en cas de dommage, le hard et le soft formant un tout, un produit complexe. En
revanche, la responsabilité de l’éditeur sera plus difficile à établir. Il ressort des auditions que les d’IA
mettent contractuellement à disposition du client un simple outil, le système d’apprentissage dépendant
de l’utilisateur-client qui ainsi contribue au processus décisionnel. L’autre point est la possibilité de risques
systémiques. Le développement de l’intelligence artificielle entraînera des situations de « captivité » dans
lesquelles certaines activités dépendront pour leur fonctionnement d’applications de l’IA. De quelles
ressources dispose-t-on si l’IA ne fonctionne plus ou ne fonctionne plus correctement ? L’impact
économique peut dépasser l’approche sectorielle et entamer la souveraineté (numérique) nationale.
Ces deux considérations doivent conduire à réfléchir à la place et au rôle du développeur dans la chaîne.
Il ne s’agit pas d’ajouter un régime de responsabilité et de prendre le risque de brider le développement
économique du secteur, mais des obligations pourraient être imposées sous forme de principes au
développeur d’IA afin de rééquilibrer l’asymétrie des responsabilités et de prévenir les risques
systémiques. On peut penser, en premier lieu, au principe de transparence précité, notamment par
l’explication de protocoles de test et des résultats obtenus sur chaque itération d’IA ou encore l’obligation
d’indiquer l’objectif poursuivi par l’algorithme prédictif – ce qui peut être rapproché du principe,
précédemment évoqué, de finalité du traitement en matière de données personnelles ou de la
transparence exigée dans les algorithmes décisionnels publics par la loi pour une République numérique
(v. art. L. 311-3-1 du Code des relations entre le public et l’administration). Ce principe de transparence
pourrait s’accompagner d’un principe de continuité des services décidée par une autorité administrative
indépendante du type de l’agence européenne chargée de la robotique et de l’intelligence artificielle dont
la création est préconisée dans la résolution adoptée par le Parlement européen. D’autres principes
peuvent être envisagés : principe de neutralité de la base de référence, des tests et des traitements
algorithmiques pour éviter d’aboutir à des résultats discriminatoires notamment ; principe de séparation
des IA pour limiter le risque de propagation de biais viciant une intelligence artificielle ; droit de s’opposer
à un traitement algorithmique ou de contester une décision issue d’un traitement algorithmique…
VI.
Propriété intellectuelle et IA
L’IA peut intervenir dans le processus de création littéraire et artistique à deux titres principaux.
Dans un premier cas de figure, l’IA peut être présentée comme un outil d’aide à la création, dont
l’objet est de fournir une assistance à une personne physique. Les solutions juridiques
traditionnelles sont applicables à cette situation, qui aboutit à l’attribution de la titularité des droits
à la personne physique. Un second cas de figure correspond à la situation où l’IA, de manière
autonome, développerait un résultat susceptible d’être qualifié d’œuvre, sous réserve du critère de
l’originalité. Toutefois, en l’absence d’intervention d’un auteur personne physique, le critère