Même lorsque les développeurs et les utilisateurs de ces technologies n'ont pas l'intention que ces dernières soient discriminatoires, ils le font souvent de toute façon, a déclaré Tendayi Achiume, Rapporteure spéciale des Nations Unies sur le racisme, lors de la présentation de son rapport sur les nouvelles technologies numériques et la discrimination raciale devant le Conseil des droits de l'homme des Nations Unies.

« La technologie n'est ni neutre ni objective », a déclaré Mme Achiume. « Elle est fondamentalement façonnée par les inégalités raciales, ethniques, de genre et autres qui prévalent dans la société, et aggrave généralement ces inégalités ».

Pour la Rapporteure spéciale, « il en résulte une discrimination et un traitement inégal dans tous les domaines de la vie, de l'éducation et de l'emploi aux soins de santé et à la justice pénale ».

Des sociétés comme Facebook ont des modèles économiques et commerciaux qui leur permettent de profiter activement de la désinformation, de la discrimination et de l'intolérance - Tendayi Achiume

Mais le problème des nouvelles technologies numériques ne se limite pas simplement à la promotion du racisme, de la xénophobie et de l'intolérance, a déclaré l'experte indépendante.

« Cela va plus loin que ça. Des sociétés comme Facebook ont des modèles économiques et commerciaux qui leur permettent de profiter activement de la désinformation, de la discrimination et de l'intolérance », a dit Mme Achiume. Elle a également déclaré que de nombreux gouvernements ont adopté des algorithmes « qui discriminent structurellement les groupes marginalisés ».

La Rapporteure spéciale a appelé à un examen plus approfondi de la conception des technologies numériques, à octroyer des réparations pour les personnes touchées par un racisme enraciné et à une interdiction éventuelle de certaines technologies.

Les technologies pour lutter contre la Covid-19 du même type que celles pour discriminer

« La mort de George Floyd et d'innombrables autres personnes a provoqué un soulèvement transnational contre le racisme systémique dans le maintien de l’ordre », a déclaré l’experte. « Une partie de la réponse aux droits de l'homme doit inclure un examen plus approfondi de la façon dont la conception et l'utilisation des technologies numériques renforcent encore ce racisme systémique ».

Notant que la pandémie de Covid-19 a frappé plus durement les minorités raciales et ethniques, l’experte a également averti que la technologie utilisée pour lutter contre la propagation de la maladie « est du même type que celle utilisée pour empêcher ces communautés de jouir pleinement de leurs droits humains ».

« Les obligations des États de prévenir et d’éliminer la discrimination raciale dans la conception et l’utilisation de ces technologies nécessitent d’inclure les minorités raciales et ethniques dans le processus décisionnel de l’industrie de manière non symbolique », a dit Mme Achiume. « Par leurs obligations, ils doivent également exiger des évaluations de l’impact sur les droits humains qui mettent l'accent sur l'égalité et la non-discrimination ».

Pour la Rapporteure spéciale, les États doivent également offrir un éventail complet de recours efficaces à ceux ont fait l'objet d'une discrimination raciale en lien avec les nouvelles technologies numériques.

« Cela inclut l’établissement des responsabilités lorsqu’il y a discrimination raciale et des réparations aux individus et communautés affectés. Comme le montrent les récentes mesures visant à interdire les technologies de reconnaissance faciale dans certaines parties du monde, dans certains cas, l'effet discriminatoire des technologies numériques nécessitera leur interdiction totale », a-t-elle souligné.

Le rapport de l’experte indépendante au Conseil des droits de l’homme comprend des recommandations concrètes pour la mise en œuvre des protections des droits humains contre la discrimination raciale dans la conception et l'utilisation des technologies numériques.

NOTE :

Les Rapporteurs spéciaux de l'ONU font partie de ce que l'on appelle les procédures spéciales du Conseil des droits de l'homme. Les procédures spéciales, le plus grand organe d'experts indépendants du système des droits de l'homme des Nations Unies, est le nom général des mécanismes indépendants d'enquête et de surveillance du Conseil qui s'occupent soit de situations de pays spécifiques soit de questions thématiques dans toutes les régions du monde.

Les experts des procédures spéciales travaillent sur une base volontaire. Ils ne font pas partie du personnel des Nations Unies et ne reçoivent pas de salaire pour leur travail. Ils sont indépendants de tout gouvernement ou organisation et travaillent à titre individuel.