254
Enjeux
1. Maîtriser et sécuriser les données
a. Protéger les citoyens
Une frange importante des technologies issues de l'intelligence artificielle
repose sur des techniques d'apprentissage et de deeplearning, lesquelles
nécessitent l'accès à des bases de données. La qualité des résultats d'un
système intelligent dépend en grande partie de celle des données utilisées au
cours de la phase d'apprentissage. En fonction des domaines d'application,
les données utilisées peuvent revêtir un caractère confidentiel ou personnel.
C'est par exemple le cas de données médicales, dont l'exploitation à grande
échelle pourrait permettre des avancées significatives dans le domaine de la
pharmacologie, mais dont l'accès doit évidemment être réglementé et
sécurisé pour garantir le secret médical, ainsi que la santé du patient
potentiellement exposé à des cyber attaques. L'agrégation massive et
l'exploitation par un tiers de données personnelles ou confidentielles,
conjuguée à la perte de maîtrise par leurs « propriétaires » et l'opacité des
traitements, constitue aussi un enjeu de sécurité important. On peut toutefois
noter que ce sujet n'est pas non plus spécifique au domaine de l'intelligence
artificielle.
Le développement de l’IA peut avoir une répercussion indirecte sur l’enjeu
de protection des individus et citoyens. D’une part, les solutions
développées peuvent être déclinées en une offre pour les particuliers.
D’autre part, cela induit une sécurisation des produits vendus au grand
public (exemple de la sécurisation de pacemaker vis-à-vis de cyber
attaques).
b. Permettre une grande maîtrise de ses données aux individus et aux organismes
privés ou publics (principe d’ « autodétermination informationnelle »), pour
qu’ils aient notamment la possibilité de décider eux-mêmes à qui et quand ils
dévoileront des informations :
L’intelligence artificielle (IA) doit être au service des capacités de
développement personnel autonome, nécessaire au fonctionnement
d’une société démocratique. Le périmètre considéré, notamment pour
couvrir la dimension éthique du thème, sous le prisme de la protection de la
vie privée, est celui de la souveraineté « individuelle » : Voir articles de
créations de la CNIL en mettant en avant les points suivants :
Transparence : diminuer l’asymétrie de pouvoir par une information
préalable (sur l’existence du traitement, les objectifs poursuivis, les données
collectées et leur circuit, la logique sous-jacente et les conséquences pour la
personne), l’obtention du consentement spécifique (initial et dans le temps,
face au carrousel de finalités ultérieures) et libre (détaché de l’obtention
d’un service), ainsi que le droit de le retirer, de présenter ses observations,
de contester les décisions et de s’y opposer (y compris un profilage), le droit
de demander une intervention humaine.
Améliorer la confiance envers l’IA :
- Améliorer la phase d’apprentissage des algorithmes : développer
les systèmes adversaires pour améliorer les capacités de prédictions,
contrôler régulièrement l’apprentissage ;
Enjeux
1. Maîtriser et sécuriser les données
a. Protéger les citoyens
Une frange importante des technologies issues de l'intelligence artificielle
repose sur des techniques d'apprentissage et de deeplearning, lesquelles
nécessitent l'accès à des bases de données. La qualité des résultats d'un
système intelligent dépend en grande partie de celle des données utilisées au
cours de la phase d'apprentissage. En fonction des domaines d'application,
les données utilisées peuvent revêtir un caractère confidentiel ou personnel.
C'est par exemple le cas de données médicales, dont l'exploitation à grande
échelle pourrait permettre des avancées significatives dans le domaine de la
pharmacologie, mais dont l'accès doit évidemment être réglementé et
sécurisé pour garantir le secret médical, ainsi que la santé du patient
potentiellement exposé à des cyber attaques. L'agrégation massive et
l'exploitation par un tiers de données personnelles ou confidentielles,
conjuguée à la perte de maîtrise par leurs « propriétaires » et l'opacité des
traitements, constitue aussi un enjeu de sécurité important. On peut toutefois
noter que ce sujet n'est pas non plus spécifique au domaine de l'intelligence
artificielle.
Le développement de l’IA peut avoir une répercussion indirecte sur l’enjeu
de protection des individus et citoyens. D’une part, les solutions
développées peuvent être déclinées en une offre pour les particuliers.
D’autre part, cela induit une sécurisation des produits vendus au grand
public (exemple de la sécurisation de pacemaker vis-à-vis de cyber
attaques).
b. Permettre une grande maîtrise de ses données aux individus et aux organismes
privés ou publics (principe d’ « autodétermination informationnelle »), pour
qu’ils aient notamment la possibilité de décider eux-mêmes à qui et quand ils
dévoileront des informations :
L’intelligence artificielle (IA) doit être au service des capacités de
développement personnel autonome, nécessaire au fonctionnement
d’une société démocratique. Le périmètre considéré, notamment pour
couvrir la dimension éthique du thème, sous le prisme de la protection de la
vie privée, est celui de la souveraineté « individuelle » : Voir articles de
créations de la CNIL en mettant en avant les points suivants :
Transparence : diminuer l’asymétrie de pouvoir par une information
préalable (sur l’existence du traitement, les objectifs poursuivis, les données
collectées et leur circuit, la logique sous-jacente et les conséquences pour la
personne), l’obtention du consentement spécifique (initial et dans le temps,
face au carrousel de finalités ultérieures) et libre (détaché de l’obtention
d’un service), ainsi que le droit de le retirer, de présenter ses observations,
de contester les décisions et de s’y opposer (y compris un profilage), le droit
de demander une intervention humaine.
Améliorer la confiance envers l’IA :
- Améliorer la phase d’apprentissage des algorithmes : développer
les systèmes adversaires pour améliorer les capacités de prédictions,
contrôler régulièrement l’apprentissage ;