Une analyse détaillée vient de le révéler : les patients noirs seraient victimes de discrimination systématique de la part d’un algorithme couramment utilisé dans les hôpitaux américains pour attribuer des prestations de santé. L’étude, publiée dans Science le 25 octobre, conclut que cet algorithme est moins susceptible de faire bénéficier les Noirs que les Blancs de programmes destinés à améliorer les soins des patients présentant des besoins médicaux complexes. Les hôpitaux et les assureurs se servent de cet algorithme et d’autres pour gérer les soins de près de 200 millions de personnes chaque année aux États-Unis.

Les études de ce genre sont peu fréquentes, car les chercheurs n’ont que rarement accès aux algorithmes propriétaires et aux énormes quantités de données médicales sensibles qui sont nécessaires pour pouvoir les tester de façon exhaustive, précise Milena Gianfrancesco, épidémiologiste de l’université de Californie à San Francisco, qui a analysé des sources de discrimination dans des archives médicales électroniques [mais n’a pas participé à la récente étude parue dans Science]. Mais des études plus modestes et des rapports au cas par cas ont déjà établi que des algorithmes étaient à l’origine de décisions injustes ou discriminatoires dans des domaines allant de la justice pénale à l’éducation et la santé. C’est inquiétant, constate Milena Gianfrancesco à propos de la dernière étude en date :

“Il nous faut un meilleur moyen d’évaluer vraiment la santé des patients.”

Ziad Obermeyer, spécialiste de l’apprentissage automatique et de la gestion des prestations de santé à l’université de Californie à Berkeley, et son équipe se sont heurtés au problème alors qu’ils se penchaient sur l’impact de programmes qui proposent des ressources supplémentaires et une surveillance médicale plus poussée aux patients souffrant de plusieurs affections simultanées. Quand Obermeyer et ses collègues ont effectué des tests statistiques de routine avec des données obtenues auprès d’un grand hôpital, ils ont eu la surprise de s’apercevoir que les gens qui s’identifiaient comme noirs se voyaient en général attribuer des indices de risque inférieurs à ceux de patients blancs tout aussi malades qu’eux. Par conséquent, les Noirs avaient moins de chances d’être orientés vers les programmes prévoyant des soins