Ethiques et puces

Dans une récente chronique ("L’industrie Automobile pourrait bien tuer la voiture"), j’ai tenté d’imaginer ce que seraient les conséquences d’un monde où tous les véhicules en circulation seraient 100% autonomes. J’y décrivais un avenir plutôt sombre pour les marques automobiles, probablement condamnées à disparaître en même temps que la possession personnelle de véhicules motorisés. Cette funeste échéance n’est cependant pas pour de suite, et semble même s’éloigner grâce à la collaboration inattendue de la voiture électrique, dont la mise au point et la diffusion s’avèrent extrêmement gourmandes en investissements, comme expliqué il y a peu par Bertrand Rakoto (voir l’excellente analyse intitulée : "Pourquoi la fée électricité occupe autant l’espace médiatique automobile ?"). En résumé, les mitaines à trou-trous ont donc très probablement encore de beaux jours devant elles.

Ce répit devrait laisser tout le temps nécessaire aux spécialistes de la voiture autonome pour tenter de résoudre un sujet qui les empêche apparemment de dormir, et dont vous avez probablement entendu parler. L’énoncé en est simple : Une voiture sans conducteur doit-elle chercher à éviter un piéton croisant soudainement sa trajectoire quitte à risquer l’intégrité physique de ses passagers ? L’alternative consistant évidemment à ce que celui-ci garde le cap en envoyant valser l’impromptu.
Le thème est suffisamment sérieux pour que le MIT (Massachussetts Institute of Technology) s’y soit intéressé, au travers d’une étude menée depuis 2016 sur une plateforme digitale intitulée "morale machine", accessible en 10 langues dans le monde entier.

Cette même question y est posée à 13 reprises, selon différents scénarios où les victimes potentielles, qu’il s’agisse de piétons ou des occupants du véhicule assassin, sont personnalisées. Si le cœur vous en dit, vous pouvez y participer, même si les chercheurs du MIT ne vous ont pas attendu pour compiler de premiers résultats à partir de plus de 2 millions de réponses.

Autant vous le dire tout de suite, j’avoue ma perplexité quant à la façon dont les données extraites de cette étude seront utilisées pour la mise au point de véhicules gouvernés par circuits imprimés. On y apprend par exemple -Ô surprise- que la culture d’origine des répondants influence fortement leur choix au moment de choisir ceux qui devront mourir et ceux qui survivront. Ainsi achève-t ’on bien les vieillards dans les pays occidentaux enclins au jeunisme, alors qu’on sacrifiera plus volontiers les jeunes générations au profit de nos ainés en Asie. De là à ce que les voitures du futur soient programmées en conséquence en fonction de leur destination, il n’y a qu’un tour de roue que je me garderai bien d’effectuer.

Sans vouloir aucunement concurrencer les experts de la prestigieuse institution américaine, permettez-moi néanmoins de contribuer modestement au débat avec mon propre scénario, mettant en scène une vieille dame accompagnée de son petit-fils de 4 ans, suivis par un teckel à poil ras, tous trois s’apprêtant à traverser sans crier gare, au nez d’un véhicule dépourvu de conducteur.
Ma première intuition, c’est que nos innocents protagonistes ont de bien meilleures chances de survie face à une voiture autonome que s’ils avaient affaire à un véhicule traditionnel commandé par un humain, par nature faillible. A quoi bon en effet recourir à une technologie coûteuse, si celle-ci ne fait pas mieux que le nigaud de service pianotant sur l’écran tactile de son GPS plutôt que de regarder la route ? Alors que le cyborg aura déjà scanné les trois silhouettes sur le trottoir, attentif au moindre signe annonciateur d’une traversée brutale de la chaussée, son alter ego de chair et d’os sera probablement entre train de choisir entre France Info ou Rires & Chansons.
Ce qui signifie qu’une fois au point, la voiture autonome devrait en être en mesure -selon l’affreuse expression consacrée- "d’économiser" un nombre considérable de vies, sans même parler des blessés. Placer cette discussion sur le plan éthique devrait donc avant tout nous inciter à accélérer la mise au point des voitures sans chauffeur, plutôt que de chercher la petite bête aux puces électronique. Je sais, ça ne fera pas plaisir à tout le monde.

Menons néanmoins l’exercice jusqu’au bout, en admettant pour le principe que Mamie soit assez véloce pour mettre la technologie embarquée de "Kitt" en échec, rendant le choc inévitable. Il nous faut maintenant choisir entre jouer aux quilles avec les trois piétons ou précipiter la voiture et son infortuné passager au fossé.
Le passager ? Parlons-en justement ! Supposons dans un premier temps, qu’il s’agisse d’un délinquant multirécidiviste, en fuite à la suite de son dernier méfait. Je ne doute pas un seul instant que même si notre ami canidé était le seul à traverser la route, une écrasante (pardon…) majorité d’entre vous n’hésitera pas à envoyer notre homme expier ses péchés sur un airbag grand ouvert. Même si à bien y réfléchir, la morale, qui ne fait pas forcément bon ménage avec une justice expéditive, y trouverait sûrement à redire. Mais ne nous laissons pas distraire pour si peu, et remplaçons notre brigand par un autre profil. Par exemple un chirurgien dont les mains particulièrement habiles sauvent régulièrement des vies.
Je vous sens d’un seul coup bien embêté.

En ce qui me concerne, je passe mon tour, ce type de problème me paraissant absolument insoluble pour les humanistes du XXIe siècle, au rang desquels j’aimerais beaucoup appartenir. Résoudre ce  terrible dilemme suppose en effet d’établir une hiérarchie entre les différentes parties prenantes, selon des critères qui risquent eux-mêmes d’ouvrir des discussions sans fin. Si vous y parvenez, je vous tire mon chapeau. Mais comptez sur moi pour vous soumettre immédiatement de nouveaux scénarios, jusqu’à ce que de violents maux de tête s’ensuivent. En la matière, les possibilités sont infinies, ce qui explique sans doute pourquoi nos ingénieurs sont sujets à de tels états d’âmes.
Vais-je alors devoir clore cette chronique par un constat d’échec ? Pas si sûr ! Parce que je ne l’aurais pas écrite si je n’avais eu une solution à vous proposer, sur la foi d’un principe au fond assez simple.
La question est mal posée.

Pour le comprendre, imaginez que vous soyez au volant, à la place du robot. Que feriez-vous? Inutile de vous causer des nœuds au cerveau, votre réaction serait de l’ordre du réflexe, qu’elle vous amène à une tentative d’évitement instinctive mais fatale, ou à tout lâcher en attendant le choc. Pas de Comité d’éthique, ni d’analyse hiérarchique sur les mérites comparés de la vieille dame aux cheveux gris contre ceux de l’homme en blouse blanche. Non, juste une décision prise en un éclair de temps face à une situation impromptue. Et c’est bien ce que nous avons ici, et ce à quoi la machine devra réagir : une situation. La seule raison pour laquelle nous introduisons une dimension morale dans la fable de la petite vieille et du chirurgien c’est que nous avons le temps d’y penser. Ce qui ne signifie pas, comme nous l’avons vu, que nous soyons capables de répondre au problème qu’elle pose. Il paraît donc tout aussi vain de demander à une machine de résoudre une question éthique que nous sommes nous-mêmes incapables de solutionner, que de prétendre la programmer pour répondre à l’infinité de situations auxquelles elle pourrait être confrontée.

Un dernier élément enfin, doit être pris en compte. Accepteriez-vous de vous installer à bord d’une voiture instruite à sacrifier ses passager en certaines circonstances ? Avouez qu’une telle perspective pourrait bien porter un coup fatal à une technologie pourtant susceptible de sauver de nombreuses vies, à condition bien sûr, qu’elle soit amplement diffusée.
Pour revenir au cas qui nous préoccupe, et en admettant qu’il ait franchi le point de non-retour au-delà duquel le choc se produira, je ne vois donc aucune raison pour que le véhicule ne maintienne pas sa trajectoire, tout en freinant au maximum de ses possibilités.
Avec un peu de chance, le teckel passera entre les roues.
Jean-Philippe Thery