Les programmes de reconnaissance faciale sont efficaces lorsqu'on leur demande d'identifier le genre d'un homme blanc, mais se trompent plus régulièrement s'ils doivent reconnaître le genre des personnes noires, montre une étude du Massachusetts Institute of Technology (MIT).
Pour parvenir à ce résultat, Joy Buolamwivi et son équipe ont analysé la performance de trois logiciels de Microsoft, IBM et de l'entreprise chinoise Megvii (Face++). Les programmes devaient tenter de reconnaître le genre de 1270 personnes, hommes et femmes, provenant de trois pays africains (Afrique du Sud, Sénégal et Rwanda) et européens (Finlande, Islande, Suède).
D'une part, les logiciels ont tous trois identifié beaucoup plus facilement le genre des hommes que celui des femmes, le logiciel chinois allant jusqu'à obtenir 99,3 % de bonnes réponses avec les hommes, mais seulement 78,7 % avec les femmes.
Les choses se sont toutefois corsées en prenant en compte la couleur de peau du visage. Les systèmes se sont montrés particulièrement inaptes pour reconnaître le genre des femmes noires, avec un taux de succès oscillant entre 65,3 % chez IBM et 79,2 % chez Microsoft.
Au total, la majorité des erreurs commises par les logiciels lors du test concernaient des personnes noires, principalement des femmes.
«On ne peut pas avoir des intelligences artificielles qui ne sont pas inclusives. Or, ceux qui créent les technologies sont ceux qui mettent en place les standards», a souligné Mme Buolamwivi, en entrevue avec le «New York Times».
«Nous risquons de perdre des gains obtenus avec le mouvement des droits civiques en raison de notre fausse impression que les machines sont neutres. Nous devons demander plus de transparence», a ajouté l'auteure de l'étude sur un site internet qui lui est consacré.
La chercheuse a envoyé les résultats de son étude aux trois entreprises. IBM et Microsoft ont répondu en indiquant qu'elles cherchent à améliorer leur logiciel respectif.
Reconnaissance par logiciel et par catégories
Microsoft: homme blanc: 100 % – homme noir: 94 % – femme blanche: 98,3 % – femme noire: 79,2%
Face++: homme blanc: 99,2 % – homme noir: 99,3 % – femme blanche: 94 % – femme noire: 65,5 %
IBM: homme blanc: 99,7 % – homme noir: 88 % – femme blanche: 92,9 % – femme noire: 65,3 %
