199
versions d’IA impliquées sont des non déterminismes dans les interactions. Ce problème peut être
partiellement levé par la communication inter véhicule sous réserve d’interopérabilité.
Ex: variabilité des comportements des véhicules (plus ou moins agressifs)
Verrous non fonctionnels pour l’industrialisation
- Explicabilité. En cas de litige, les technologies devront offrir la possibilité, après rejeu de la situation
enregistrée, de faire comprendre à des humains les alternatives choisies ou non et d’expliquer le choix
retenu.
- Maintenabilité du système. Les releases des algorithmes embarqués pourront tirer parti de bases
d’apprentissage collectées en mode collaboratif et incrémental. Ceci nécessitera d’optimiser
l’information montante et de consolider tous les tests avant mise à jour. En cas de défaillance
décisionnelle avérée, elles devront aussi permettre de rapidement corriger, valider et déployer les
nouvelles versions sur les véhicules concernés
- Optimisation et Embarquabilité. Il est évidemment indispensable de faire fonctionner en temps réel et
de façon déterministe les algorithmes embarqués de perception et fusion de données, notamment basés
sur la vision, et auto-adapter les décisions en fonction du contexte routier. En ingénierie système ceci
impose de définir préalablement les standards « d’hébergeabilité » des algorithmes d’IA, de disjoindre
harware/software par un partitionnement adéquate.
- Cybersécurité
-
Détection d’attaques Zero-Day. Capacité à travailler sur des données cryptées (homomorphique)
3 - Recommandation
1 - Promouvoir une approche logique complémentaire à l'apprentissage pour la prise de
décisions.
Outre la perception, la prise de décisions durant la conduite est un enjeu crucial pour les voitures
autonomes. Son but est, tout en garantissant la sécurité, de marier les objectifs parfois contradictoires
que sont le respect de l'itinéraire, le respect du code de la route et la qualité de conduite. Il semble
crucial d'encourager les approches respectant ces qualités:
- La capacité à justifier du raisonnement qui a été tenu en cas de litige (expliquabilité) ;
- La capacité à modifier/corriger pour créer facilement des variantes de décision (contrôlabilité).
L'approche logique à base de règles (ou autre approche algorithmique logique) a le double avantage
d'être une expertise française, et de ne pas être dépendante de données d'apprentissage.
Cette approche logique ne s’oppose pas à l’approche par apprentissage qui permet de modéliser
des comportements que l’on ne peut appréhender que par l'observation et l'apprentissage
(comportement dans les ronds-points par exemple).
2 - Préciser le code de la route afin de fournir une interprétation sans ambigüité pour le
véhicule autonome.
Le code contient de nombreuses ambigüités qui demandent au conducteur d’interpréter le code de la
route en fonction de la situation qu'il observe. Afin que tous les véhicules autonomes respectent et
interprètent le code de la route d'une manière identique, il est nécessaire de lever ces ambigüités. Une
solution serait que l'État fournisse une interprétation claire des situations ambiguës du code de la route.
Par exemple, en cas de priorité à droite ou d'entrée sur un rond-point, jusqu'à quelle distance (spatiale
et/ou temporelle) du véhicule ayant priorité doit-on réellement la lui laisser ? Ou encore, dans le code
de la route il est interdit de rouler sur le trottoir, sauf en cas d'urgence, mais on ne définit jamais cette
urgence.
versions d’IA impliquées sont des non déterminismes dans les interactions. Ce problème peut être
partiellement levé par la communication inter véhicule sous réserve d’interopérabilité.
Ex: variabilité des comportements des véhicules (plus ou moins agressifs)
Verrous non fonctionnels pour l’industrialisation
- Explicabilité. En cas de litige, les technologies devront offrir la possibilité, après rejeu de la situation
enregistrée, de faire comprendre à des humains les alternatives choisies ou non et d’expliquer le choix
retenu.
- Maintenabilité du système. Les releases des algorithmes embarqués pourront tirer parti de bases
d’apprentissage collectées en mode collaboratif et incrémental. Ceci nécessitera d’optimiser
l’information montante et de consolider tous les tests avant mise à jour. En cas de défaillance
décisionnelle avérée, elles devront aussi permettre de rapidement corriger, valider et déployer les
nouvelles versions sur les véhicules concernés
- Optimisation et Embarquabilité. Il est évidemment indispensable de faire fonctionner en temps réel et
de façon déterministe les algorithmes embarqués de perception et fusion de données, notamment basés
sur la vision, et auto-adapter les décisions en fonction du contexte routier. En ingénierie système ceci
impose de définir préalablement les standards « d’hébergeabilité » des algorithmes d’IA, de disjoindre
harware/software par un partitionnement adéquate.
- Cybersécurité
-
Détection d’attaques Zero-Day. Capacité à travailler sur des données cryptées (homomorphique)
3 - Recommandation
1 - Promouvoir une approche logique complémentaire à l'apprentissage pour la prise de
décisions.
Outre la perception, la prise de décisions durant la conduite est un enjeu crucial pour les voitures
autonomes. Son but est, tout en garantissant la sécurité, de marier les objectifs parfois contradictoires
que sont le respect de l'itinéraire, le respect du code de la route et la qualité de conduite. Il semble
crucial d'encourager les approches respectant ces qualités:
- La capacité à justifier du raisonnement qui a été tenu en cas de litige (expliquabilité) ;
- La capacité à modifier/corriger pour créer facilement des variantes de décision (contrôlabilité).
L'approche logique à base de règles (ou autre approche algorithmique logique) a le double avantage
d'être une expertise française, et de ne pas être dépendante de données d'apprentissage.
Cette approche logique ne s’oppose pas à l’approche par apprentissage qui permet de modéliser
des comportements que l’on ne peut appréhender que par l'observation et l'apprentissage
(comportement dans les ronds-points par exemple).
2 - Préciser le code de la route afin de fournir une interprétation sans ambigüité pour le
véhicule autonome.
Le code contient de nombreuses ambigüités qui demandent au conducteur d’interpréter le code de la
route en fonction de la situation qu'il observe. Afin que tous les véhicules autonomes respectent et
interprètent le code de la route d'une manière identique, il est nécessaire de lever ces ambigüités. Une
solution serait que l'État fournisse une interprétation claire des situations ambiguës du code de la route.
Par exemple, en cas de priorité à droite ou d'entrée sur un rond-point, jusqu'à quelle distance (spatiale
et/ou temporelle) du véhicule ayant priorité doit-on réellement la lui laisser ? Ou encore, dans le code
de la route il est interdit de rouler sur le trottoir, sauf en cas d'urgence, mais on ne définit jamais cette
urgence.