De l’art de la divination au royaume de la e-santé

Dans le De divinatione, Cicéron reconnaît une sorte de naturalité dans le désir humain de projection imaginaire dans l’avenir. Pour juguler leurs angoisses, individus et populations procèdent à des mises en forme symboliques, rituelles et procédurales de l’avenir incertain. Cicéron identifiait ces rituels à des pratiques sociales servant à calmer notre appréhension face aux caractère imprévisible des phénomènes naturels et politiques. Toute société engendre nécessairement ses aruspices et ses oracles. La nôtre ne fait pas exception. Du baby-phone au suivi cardiaque en temps réel, notre monde sociotechnique a vu gonfler ces avatars des rituels antiques visant à restreindre – en vain – la part d’incertitude de nos existences.   

 Une méta-étude publiée en septembre 2021 dans le British Medical Journal secouait par exemple les certitudes adossées à l’intelligence artificielle dans le diagnostic du cancer du sein. Sur une quantité significative de projets de détection de cancer réalisé par des technologies de reconnaissance d’image entre 2010 et aujourd’hui, près de 94% étaient inférieures en efficacité à l’interprétation réalisée par deux radiologues. Cette étude venait s’ajouter au catalogue des échecs de l’intelligence artificielle appliquée à la santé.

Selon l’historienne Hannah Zeavin, il n’est pas anodin que l’intelligence artificielle se soit orientée dès ses débuts vers les questions de santé. Elle cite les travaux du chercheur Joseph Weizenbaum qui, dans les années 60, s’aventura avec son projet ELIZA dans la création d’un chatbot psychothérapeute mimant la technique de Carl Rogers, qui consistait à répéter au patient la phrase exacte que celui-ci venait de prononcer. Weizenbaum prétendait révéler avec cette expérience – qu’il jugeait lui-même stupide – la superficialité de la communication humain-machine.

Le chercheur s’aperçut pourtant que la plupart des utilisateurs d’ELIZA se prenaient au jeu de la discussion avec le robot, lui confiant des informations intimes comme s’il s’agissait d’un véritable psychiatre. Cette expérience est allégorique de la diffusion actuelle de la médecine dite prédictive : à travers le rêve d’une médecine centrée sur le patient, l’être humain rejoue une fois encore le fantasme de Pygmalion. Par le biais des technologies de surveillance biométriques, les interactions de soins directes entre êtres humains seraient ainsi limitées à leur minimum, offrant au patient le rêve d’un contrôle paranoïaque sur sa santé. Et aux industriels, le rêve d’une économie de surveillance et d’individualisation des risques moralement acceptable par le plus grand nombre. 

E-santé : augmentons la dose ! 

 Les industriels du secteur auraient en effet tort de se priver d’une telle manipulation de nos angoisses les plus intimes. L’Institut Montaigne et le cabinet McKinsey estimaient dans leur étude de juin 2020 « e-santé : augmentons la dose ! » entre seize et vingt-deux milliards d’euros par an le montant du marché potentiel de la e-santé en France. Les seuls outils d’aide à la décision adossés à l’intelligence artificielle représenteraient, selon cette même étude, entre 3,3 et 4,2 milliards d’euros potentiels par an.

Les différents gouvernements français ont jusqu’à présent accompagné le mouvement, y voyant un double avantage. Le premier portant sur la maîtrise des coûts de santé grâce à des outils de gestions informatisés des flux de patients, des logiciels d’aide à la décision de diagnostic ou au moyen de plateformes centralisées de gestion des « parcours de soin », permettant de renforcer le virage ambulatoire et la réduction du temps de soin hospitalier. 

Le second tenant au potentiel de croissance qui, dans leur esprit, permettrait de concurrencer l’hégémonie numérique sino-américaine grâce à la quantité de données produites par nos généreux systèmes sociaux. Ce double piège solutionniste – un problème aurait par défaut une solution technique plus simple et efficace qu’un arbitrage politique conventionnel – semble pourtant renforcer chaque jour un peu plus la mainmise des GAFAM sur nos vies, comme la vive polémique autour du Health Data Hub a pu en témoigner. 

La data économie repose par principe, comme l’a montré Soshana Zuboff, sur l’extraction toujours plus grande de quantités astronomiques de données comportementales. Des capteurs présents sur nos téléphones, montres connectées, en passant par les informations saisies dans les logiciels de gestion médicales, des pharmacies, des médecins de ville et des hôpitaux, ces données du point de vue du secteur privé, de la médecine prédictive, ont tout intérêt à être centralisées et croisées entre elles, dans des bases de stockage toujours plus grandes, pour optimiser leur valeur économique. Laisser la gouvernance de la numérisation des politiques de santé à l’initiative d’un secteur privé par ailleurs sous hégémonie américaine pose pourtant plusieurs problèmes majeurs au système médical français. 

Le capitalisme de surveillance en embuscade

 Au premier rang de ces problèmes réside l’incompatibilité entre les fondamentaux de la data économie – parfois appelé « capitalisme de surveillance » – et la cybersécurité, que réclame des informations aussi sensibles : la centralisation massive des données augmente mécaniquement les risques de piratage ou de failles. Le collectif Interhop propose a contrario un modèle déconcentré de ces informations dans lequel les données seraient gérées au plus près de leur lieu de collecte, par les hôpitaux et le tissus économique et technologique local.

Mais la numérisation de la santé porte également atteinte à la philosophie même de notre système de soin reposant sur la mutualisation des risques par le financement lié à la cotisation. Les technologies de la médecine prédictive dont l’éventail va du bracelet connecté aux applications d’auto-surveillance en passant par les outils de la médecine génomique, tous adossés à la capture de quantités colossales d’informations personnelles, pointent toutes en direction d’une individualisation des risques.

De nombreux assureurs à travers la planète – l’exemple le plus connu étant celui de Vitality – se servent de ces technologies pour accroitre l’emprise financière sur le comportement de leurs clients, via des systèmes de bonus – malus. La privatisation de notre système actuel de sécurité sociale est donc contenue en germe dans ces technologies. En effet, comment justifier la mutualisation des coûts de santé dans une société où diverses entreprises rendent visibles à votre poignée ou sur votre téléphone l’exemplarité ou la défaillance de votre comportement par rapport à votre prochain ?

Aux États-Unis, selon l’analyste économique Mark Cherry, ces transformations pourraient conduire à la multiplication de réseaux privés intégrés d’accès au soin (appelés Integrated Distribution Networks), constitués par un ensemble de médecins liés à une seule marque de fournisseurs de soins de santé qui coordonnerait à la fois les assurances, les remboursements et le financement de l’hôpital lui-même.

Ces réseaux, rendus possible par les dossiers de santé électroniques (DSE), permettraient d’entrer dans la marchandisation de parcours de soin globaux, objectivables par la surveillance technologique permanente des patients. La rentabilité du système social serait assurée par une orientation assumée vers la médecine ambulatoire et la télémédecine. Ce système en serait-il plus rationnel ? Face aux égoïsmes, rappelons que le système français actuel coûte moins cher à la communauté nationale que le système américain reposant sur un haut degré de privatisation et d’informatisation – qui ne lui a pas particulièrement réussi durant la crise du Covid.

Choisir le bon chemin, beaucoup plus tôt, beaucoup plus rapidement

Cicéron disait que les sociétés humaines ont besoin de représentations imaginaires rassurantes adossées à des rituels, des procédures, qui renforcent le sentiment magique de leur efficacité. Le président de la République, Emmanuel Macron lui-même participe de cette logique quand il déclare dans son discours d’introduction au rapport Villani sur l’intelligence artificielle  prononcé au Collège de France le 29 mars 2018 : « Il y a chez Leibniz cette hypothèse que Dieu calcule pour nous le meilleur monde possible, il y a donc quelque chose d’une option presque prométhéenne qui nous permet de revisiter la conception du monde de Leibniz à travers l’intelligence artificielle qui nous donnerait la capacité de réaliser nous-mêmes ce calcul et à travers des machines apprenantes de pouvoir parcourir beaucoup plus rapidement les chemins du malheur pour choisir le bon chemin, beaucoup plus tôt et beaucoup plus rapidement ».

Il y a dans ce discours une « option » presque divinatoire – pour ne pas dire solutionniste – qui consiste à employer le mot intelligence artificielle en lui donnant la signification magique de ce que Claude Lévi-Strauss appelait la manne, autrement dit la force magique et invisible censée apporter l’abondance en plein désert. Il ne s’agit pas de retirer aux technologies en santé toute utilité sociale ou pratique. Mais bien de savoir reconnaître les usages invocatoires qui en sont faits et qui cachent bien souvent la faiblesse du politique devant les intérêts privés.