Docteures en sciences, Aude Bernheim et Flora Vincent ont fondé l’association Wax Science, qui vise à promouvoir la mixité dans les sciences. Elles publient ces jours-ci L’Intelligence artificielle, pas sans elles ! (Belin, collection « Egale à égal » du Laboratoire de l’égalité, 112 pages, 8,50 euros).
Pourquoi vous êtes-vous intéressées à la place des femmes dans les métiers de l’intelligence artificielle (IA) ?
L’IA fait désormais partie de notre quotidien, elle intervient comme aide à la décision dans de nombreux domaines comme l’éducation, la police, la justice, la santé… La question de l’égalité et de l’équité de ces solutions automatiques est un enjeu important. Ecrire du code, c’est comme écrire tout court. On fait des choix, on privilégie une solution, une façon d’aborder le sujet, de traduire une problématique en langage informatique. Or, le manque de femmes dans les métiers de l’intelligence artificielle accroît le risque de biais sexistes liés à ces choix, et empêche de faire émerger une réflexion sur ce sujet.
Comment cela se produit-il ?
Les études de Rosabeth Kanter [professeure à la Harvard Business School] ont montré que, à partir d’un certain seuil de diversité dans une équipe, on assiste à l’émergence de nouveaux points de vue, à des changements de comportements. C’est vrai dans toutes les disciplines. Quand les femmes ont commencé à investir des domaines comme l’histoire ou la géographie, on a vu des sujets émerger, par exemple le rôle des femmes dans ces disciplines.
Dans le domaine de l’algorithmique, les lanceurs d’alerte sont souvent concernés au premier chef par les biais. C’est leur histoire personnelle qui les conduit à questionner le fonctionnement du système et à montrer que le biais est systématique. En 2018, Joy Buolamwini, étudiante noire au MIT [Massachusetts Institute of Technology], s’est intéressée aux logiciels de reconnaissance faciale parce qu’elle a constaté que certains d’entre eux ne marchaient pas bien pour elle. Elle a pu montrer qu’ils étaient adaptés aux hommes blancs et discriminaient les femmes noires.
Existe-t-il des méthodes pour produire des algorithmes inclusifs ?
De nouvelles pistes de recherche se développent à l’interface entre l’éthique des mathématiques et de l’informatique. Les méthodes de construction d’algorithmes équitables commencent à être documentées. Il s’agit de poser des questions précises à chaque étape de leur développement : l’algorithme a-t-il été pensé avec des communautés différentes ? Le jeu d’apprentissage (c’est-à-dire les données à partir desquelles le logiciel est entraîné) est-il représentatif de l’ensemble de la population ? Véhicule-t-il des stéréotypes ?
Il vous reste 30.84% de cet article à lire. La suite est réservée aux abonnés.
