Voiture autonome: si les freins lâchent, qui doit mourir?

Les voitures autonomes sont pleines de promesses : optimisation du trafic et de la consommation de carburant, gain de temps et d'argent, baisse des accidents, etc. Mais ces véhicules qui peuvent rouler grâce à des algorithmes soulèvent aussi de nombreuses questions. Quelle décision les algorithmes - ou plutôt ceux qui les programment - doivent-ils prendre si, par malheur, la voiture subit une panne de frein à quelques mètres d'un passage piéton ? Faut-il sacrifier les passagers en visant un mur ou continuer tout droit et percuter les piétons ?

Déjà en 2016, une équipe des chercheurs internationaux du CNRS, du MIT, des universités d'Harvard et de Colombie-Britannique avaient décidé d'interroger des internautes pour documenter leurs préférences. À l'époque, les réponses indiquaient que la majorité des sondés préfèrent le scénario impliquant le moins de morts. "Nous nous sommes alors demandé si ces résultats seraient similaires si nous décrivions de manière plus détaillées les piétons et les conducteurs", explique à L'Express Jean-François Bonnefon, directeur de recherche au CNRS à l'école d'économie de Toulouse, chercheur invité au MIT et coauteur de l'étude. Pour le savoir, ses collègues et lui ont lancé la plateforme en ligne Moral Machine, un site proposant aux internautes une série de scénarios à double choix impliquant des dilemmes moraux.

"Nous avons introduit des enfants, des personnes âgées, des voleurs, des médecins, des personnes en surpoids, des sans-abris ou encore le fait que les personnes traversent au feu rouge ou pas, etc, détaille le scientifique français. Nous nous sommes retrouvés avec 26 millions de scénarios différents." En dix-huit mois, ils ont récolté 40 millions de décisions de millions d'internautes venant de 233 pays ou territoires à travers le monde. L'analyse des données, publiée dans une étude qui parait ce jeudi 24 octobre dans la prestigieuse revue Nature, se révèle passionnante, quoique parfois inquiétante.

Heureusement, la quasi-totalité des sondés privilégie la vie humaine plutôt qu'animale et préfère sauver le plus grand nombre de vies et celles des jeunes plutôt que celles des personnes plus âgées. A l'échelle de la planète, les profils les plus préservés sont les bébés en poussette, les enfants et les femmes enceintes. Les chercheurs relèvent aussi que les internautes des pays développés dont les institutions et les lois sont fortes ont tendance à moins sacrifier les personnes qui respectent les feux de signalisation. Mais les résultats montrent des choix beaucoup plus controversés. Les personnes en surpoids sont, par exemple, sacrifiées plus volontiers que les personnes athlétiques (20% de probabilité en plus), tout comme les sans-abris comparés aux personnes riches (40% de plus).

"Quand nous avons lancé le site Moral Machine et que nous avons proposé des personnages en surpoids ou des sans-abris, nous avons reçu de très nombreuses critiques, se souvient Jean-François Bonnefon. Certains nous accusaient d'entretenir les discriminations. Mais comme l'étude était en cours, nous ne pouvions expliquer pourquoi." Or le but des scientifiques n'était pas de dire qu'il faut programmer des algorithmes capables de choisir comme les humains, mais précisément de montrer que le choix de la majorité n'est pas forcément le plus moral. "Même si en tant que chercheur j'essaye de m'abstenir de porter un jugement sur les résultats, évidemment, le biais contre les sans-abris ou les personnes en surpoids est inacceptable", résume le scientifique du CNRS.

Les données de l'étude, intégralement publiées sur Internet, sont principalement destinées aux gouvernements qui envisagent de légiférer sur les voitures autonomes ou les industriels travaillant sur la programmation de ces voitures. "Notre espoir est que les législateurs connaissent les préférences de leurs populations sans forcément les suivre, mais pour anticiper leurs réactions et être pédagogues après coup", espère Bonnefon. Au-delà de l'aspect législatif, les chercheurs soulignent que leurs données, uniques, ont également un intérêt scientifique. C'est en effet la première étude de cas moraux à neuf dimensions [neuf critères manipulés dans chaque scénario] portée sur des millions de sondés répartis sur 233 territoires différents.

Les résultats pays par pays sont d'ailleurs disponibles sur un nouveau site Internet créé spécialement pour l'occasion. Et une fois n'est pas coutume, les résultats français sont particulièrement remarquables. D'abord, l'Hexagone collectionne les premières places. La France est ainsi le premier pays au monde à épargner les plus les jeunes, le deuxième à épargner le plus les femmes et le quatrième à épargner le plus grand nombre. Surtout, c'est quasiment le seul pays occidental à ne pas faire partie du... "groupe occidental".

"Nous avons développé un algorithme qui regroupe les pays dont les résultats sont similaires. Rapidement, nous avons obtenu trois grands groupes : Occident, Orient et Sud. Sauf que la France n'est pas dans le monde occidental", note Jean-François Bonnefon. Où se trouve-t-elle ? Dans le groupe des pays du Sud et plus précisément à côté de... La République Dominicaine, de l'Algérie, du Maroc, ou du département de La Réunion. "C'était amusant car au début les autres chercheurs ne comprenaient pas pourquoi tous ces pays étaient ensemble, heureusement qu'il y avait un Français pour leur expliquer que le point commun était que tous ces territoires sont ou ont été sous influence française !", s'amuse le spécialiste de l'école d'économie de Toulouse.

Si l'explication de ces données fera justement l'objet d'une nouvelle étude, l'équipe de Moral Machine a déjà commencé à se pencher sur ce paradoxe hexagonal. "C'est évidemment surprenant de voir la France s'écarter autant de ses voisins européens, développe Jean-François Bonnefon. Si sur certains aspects, comme le fait de sauver les de personnes et les plus jeunes et donc 'le maximum d'années de vie', cela peut s'expliquer par la 'rationalité française', le fait de sauver aussi systématiquement les femmes est plus énigmatique". La fameuse galanterie française, peut-être ?