On parle beaucoup des véhicules autonomes, mais est-ce un doux rêve, ou une réalité pour bientôt ? Et quels sont les enjeux techniques, sociétaux et même éthiques et philosophiques qui se cachent derrière ce terme ?

Tout d'abord, il y a voiture autonome et voiture autonome... Les constructeurs automobiles rivalisent en ce moment pour vous vendre divers systèmes d'assistance à la la conduite. Ce ne sont que des arguments commerciaux. L'autonomie totale, c'est un tout autre challenge !

Nous allons donc nous intéresser uniquement au dernier cas : l'autonomie totale, c'est-à-dire l'absence de conducteur.

En fait, a priori un vrai véhicule totalement autonome devrait, par ordre de priorité :

Evident, non ? Hum ! Hum ! Nous allons les voir par ordre inverse, et vous verrez que ce n'est pas si évident que ça :

Taxi vision, une scène de Total recall

Le dernier objectif semble facile : après tout c'est que que font nos GPS. Encore que, dans le cas d'une voiture autonome, que signifie "l'itinéraire le plus approprié" ? Est-ce le plus direct ? Le plus rapide ? Ou le plus sûr ?

Si l'objectif N°1 est "totale sécurité", alors le mieux serait que ma voiture roule à 5 km/h tout au long du parcours en évitant toutes les routes sur lesquelles un accident a déjà été signalé dans le passé !

Hum ! Est-ce vraiment ce que nous voulons ? Non bien sûr. Nous n'hésitons pas à embarquer dans une voiture conduite par un humain même si nous savons que le risque d'accident n'est pas totalement (ou statistiquement) nul. Et, lorsque nous prenons un taxi dans une grande ville, nous admirons (parfois) l'aisance et l'habileté avec laquelle il se faufile dans la circulation.

Le second objectif est encore plus difficile : OK, il faudra que le véhicule détecte les panneaux, feux et et marques de signalisation et sache s'y conformer, mais cela ne suffit pas, loin de là :

après tout, ce n'est pas pour rien que, pour obtenir le permis de conduire, nous devons laborieusement apprendre ledit code, et surtout prouver à l'examinateur, lors du test de conduite final, que nous savons l'appliquer correctement même dans des circonstances que nous n'avions pas vues à l'auto-école.

De plus, pour respecter le code de la route, il faut aussi anticiper les réactions des autres véhicules, en supposant (du moins au départ) que ceux-ci respecteront ledit code. (ce genre de raisonnement du type "je sais que l'autre sais..." s'appelle la logique modale) Sinon, comment franchir avec succès un rond-point sur lequel se trouvent également d'autres véhicules ? Et je ne parle pas de la place de l'étoile à Paris, ni du pire rond-point du monde (qui se trouve en Angleterre) !

Au fait, quel code de la route ? Vu qu'il diffère selon les pays... Re-hum !

Quant au premier objectif "Eviter les accidents...", alors là, c'est une tout autre histoire ! Si cela était si facile, les humains eux-mêmes ne causeraient jamais aucun accident de la route !

En réalité, tout comme pour les voyages en avion, nous sommes prêts à accepter socialement (c'est à dire d'un commun accord tacite) un certain niveau de risque. Dans le cas de voyages en avion, il est admis que le niveau de risque ne doit pas dépasser un incident grave pour dix millions d'heures de vol.

Ceci parce que le commun des mortels (vous et moi) ne passeront au plus qu'une trentaine d'heure en vol dans toute leur vie. Mais nous passons beaucoup plus de temps en voiture qu'en avion ! En moyenne, les Français ont cette année passé environ 250 heures en moyenne dans leur voiture. Soit environ 32000 heures dans toute notre vie.

Mais imaginons maintenant la situation suivante :

Le véhicule s'approche rapidement d'une fourche en Y :
Il s'apprête à tourner à droite. Cela tombe bien car une jeune femme est en train de traverser la voie de gauche au niveau des deux arbres.

Soudain, un ballon suivi d'un enfant traverse en courant la voie de droite !
Même en freinant "à mort" Il est trop tard pour éviter de heurter l'enfant ou la jeune femme, le véhicule doit choisir : s'engager à gauche (et heurter la femme) ou à droite (et heurter l'enfant) ; ou foncer tout droit dans le décor et risquer la vie de ses passagers !

Voila le genre de choses qui donne des cauchemars aux concepteurs de voitures autonomes. Pourtant, ils devront démontrer que le véhicule fera le bon choix dans une situation analogue. Euh... Au fait, c'est quoi, le bon choix ? Et est-ce que vous changeriez d'avis si vous saviez qu'en face (c'est à dire droit devant), il y a un ravin super profond ? Ou bien si je remplace l'enfant par un vieillard ?

Pour savoir quel est le "bon choix" dans ce genre de situations tordues, certains constructeurs organisent déjà discrètement des sondages et des études en utilisant des étudiants en psychologie...

De cette manière, après l'accident, ils pourront démontrer au tribunaux que "Si, si, le choix fait par le véhicule a été conforme aux normes sociales acceptées, d'ailleurs nous avions déjà soumis cet exemple sous forme de quizz à un panel représentatif de la population, qui ont tous choisi la même solution, celle que nous avons implémentée dans le logiciel du véhicule. Donc sorry, pas d'indemnisaion pour la victime..."

Mais revenons à l'objectif numéro 1 et essayons de voir ce qu'il y a derrière :

Je rappelle cet objectif :

Nous savons déjà que "totale sécurité" est un concept impossible à atteindre. De même "en toutes circonstances" ne signifie rien. Vu le nombre de véhicules en circulation sur la planète, tout ce qui est possible finit par arriver, y compris l'inimaginable. De même, d'ailleurs que "autant que possible", qui en réalité n'est pas un objectif mesurable parce qu'il n'impose en réalité aucune contrainte !

On ne demandera pas par exemple, à sa voiture d'éviter la chute d'une météorite (ou d'un pot de fleur !) sur le véhicule ! Bref, il faut reformuler l'objectif.

Et puis, parmi cette liste à la Prévert : "passagers, piétons, cyclistes, trottinettes, autres véhicules, infrastructures environnantes, animaux", comment déterminer des priorités ? Et est-ce seulement souhaitable ? Nous avons vu avec l'exemple ci-dessus à quel point cela pouvait être difficile.

Bon. Cela dit, si le véhicule n'a pas d'autre choix que de heurter un piéton ou un panneau de circulation, il est clair que "assurer la sécurité des humains" est plus important que celle des panneaux !

Et n'en déplaise aux défenseur des animaux, il est probable que si, pour sauver ses passagers d'un danger mortel, le véhicule autonome doive écraser un chien, c'est cette solution qu'il devra choisir. C'est ce que feraient la plupart des conducteurs humains, après tout

Mais... Mettons-nous à la place du constructeur d'une des premières voitures autonomes. ll va se dire :

Mmm... SI un conducteur humain blesse ou tue un autre être humain au cours d'un accident et qu'il n'y a pas d'autre véhicule impliqué, c'est ce conducteur qu'on va tenir responsable, et pas la voiture. Le constructeur ne sera pas inquiété, sauf en cas de défaut majeur de la voiture, par exemple un circuit de freinage de conception défectueuse. Alors, dans le cas d'une voiture autonome et non défectueuse, pourquoi inquiéterait-on le constructeur ?

Oui, pourquoi ? Parce que dans le cas d'une voiture autonome, le "conducteur" est un logiciel conçu par le constructeur ! OK, très bien, se dit alors le constructeur, alors séparons les choses. Le logiciel sera conçu par une société différente, et c'est elle et elle-seule qui sera responsable si ce logiciel cause un accident

Holà ! Pas si vite ! dit alors le concepteur de logiciels : Le logiciel et le matériel de la voiture sont inséparables ! Après tout, une voiture autonome doit être équipée d'un foultitude de capteurs, détecteurs et actionneurs super spécifiques ; le logiciel ne fait que réagir à ce que lui disent ces capteurs, et c'est bien le constructeur de la voiture qui en est responsable ! Ce n'est pas la faute du logiciel si les capteurs n'ont pas su détecter à temps une situation dangereuse !

OK, se disent alors les juristes du constructeur, alors il ne faut pas vendre nos véhicules autonomes, seulement les louer. Et en cas d'accident c'est le loueur qui sera responsable ! Après tout, en cas d'accident aérien, sauf exception, c'est bien la compagnie aérienne qui doit indemniser les victimes, et non le constructeur de l'avion !

Vous voyez que les tribunaux risquent bien d'avoir encore du grain à moudre dans le futur, face à cette dilution des responsabilités...

Et encore ! Lorsque les véhicules deviendront conscients, n'est-ce pas le véhicule lui-même qu'il faudrait punir en cas d'accident "responsable" ? Cf. ma page sur le droit-des-intelligences-artificielles. A ce propos, je ne saurais trop vous recommender la délicieuse nouvelle de SF "Les autos sauvages" de Roger Zelazny, qui date de 1956 !

Bon alors posons-nous la question : qu'est-ce qui est le plus important pour la sécurité d'une voiture autonome ? Préserver la vie des passagers, celle des piétons (et cyclistes, etc.), ou celle des passagers d'autres véhicules ?

Bien évidemment, tout ça en même temps ! Oui, mais est-ce si évident ? Il se pourrait que l'IA du véhicule autonome se trouve à un moment donné dans un cas critique ou un choix est nécessaire. (cf. encore Un exemple cauchemardesque ci dessus)

Et même, il pourrait arriver que l'IA de la voiture autonome se retrouve devant un dilemme du genre :

Vous allez me dire : "Mmm. Cela dépend de la gravité des blessures potentielles ?"

C'est possible :

Par exemple si le risque est de blesser grièvement le cycliste, mais qu'en l'évitant et contrôlant bien la trajectoire le passager du véhicule autonome ne sera que légèrement commotionné, alors il faut éviter le cycliste, quitte à heurter le platane.

Mais si la gravité des blessures potentielles des passagers et du cycliste (en admettant que l'IA de bord soit capable de les calculer !) sont du même ordre, ou inconnues, que faire ?

La situation ressemble de plus en plus à celle que l'auteur de SF Isaac Azimov a décrite dans ses fameuses lois de la robotique. Certes, un véhicule autonome n'est pas un robot, mais en fait si, c'est un robot avec des roues !

En fait, pour piloter vraiment une voiture autonome aussi bien qu'un humain, nous aurions besoin d'une IA qui soit à la fois aussi intelligente qu'un conducteur humain moyen, mais surtout aussi désireuse qu'eux de préserver la vie et la tranquillité d'eprit des êtres humains. En bref, une intelligence artificielle générale, consciente, et amicale. (cf hal > Le but à atteindre)

C'est ce que je décrit dans mon livre L_Esprit-et-la-Machine-Faut-il-avoir-peur-de-l_intelligence-artificielle

Donc il est très probables que les premières voitures autonomes "grand public" ne seront que des aides à la conduite améliorées, et qu'elles ne soient pas exemptes de risques.

Les constructeurs et vendeurs de ces voitures essayeront sincèrement (ou pas...) de minimiser ce risque au maximum en créant des IA et des capteurs toujours plus performants. Finalement, tout dépend de ce qu'ils arriveront à faire. Rappelons que le risque zéro n'existe pas, tout comme avec des conducteurs humains.

Nous ne devrions pas accepter une introduction massive de véhicules totalement autonomes dans la circulation automobile, tant qu'un consensus ne sera pas obtenu sur les très délicats problèmes d'éthique que cela soulèverait.

En ce sens, les essais actuels de véhicules autonomes (en Californie) ne sont acceptés que parce que les gens n'ont pas conscience des risques encourus ni de ces enjeux éthiques.

Ceci étant, nous acceptions quand même la présence de voitures conduites par des humains potentiellement irresponsables, et nous acceptions même qu'il y ait des accidents mortels, parce que après tout la voiture, c'est utile et très souvent indispensable.

Alors ? Et bien au final c'est bien un problème social d'acceptabilité ou pas de véhicules plus ou moins autonomes et plus ou moins conscients de la valeur des êtres humains.

Encore faut-il que les gens aient les moyens de s'informer pour, au minimum, pouvoir réfléchir à tout ça.