Les réseaux sociaux ont des apports indéniables mais ils sont aussi malheureusement souvent le réceptacle de débordements racistes et sexistes. Ces écarts ne sont bien sûr pas acceptables et tout simplement illégaux. Ils gênent aussi considérablement la capacité d’expression des personnes prises pour cible et perpétuent des stéréotypes et des clichés d’un autre temps. Les plateformes combattent à leur manière les trolls mais leurs systèmes de détection reposent principalement sur le signalement des écarts par des utilisateurs.
L’IA est aussi utilisée pour lutter contre le racisme
Des chercheurs de l’Université de technologie du Queensland en Australie ont mis au point un outil qui pourrait permettre de repérer de manière automatisée les tweets sexistes et ainsi d’agir plus vite contre ce fléau. Concrètement, les scientifiques ont utilisé une base de données comprenant un million de publications. Ils ont affiné cette dernière en repérant des mots clés misogynes ou des insultes.
Leur corpus de travail constitué de 5000 tweets a permis de créer un algorithme d’apprentissage automatique. il est capable de repérer le vocabulaire mais aussi et surtout de percevoir le contexte dans lequel des propos sont tenus. Les scientifiques affirment donc que l’IA peut faire la différence entre une insulte et « l’utilisation amicale d’une terminologie agressive ».
Dans le détail, leur système est capable d’identifier un tweet sexiste avec une précision de 75 %. Cet outil pourrait aussi être ajusté pour repérer les publications racistes, homophobes, ou qui dénigrent les personnes handicapées. Il peut donc encore être amélioré et pourrait pourquoi pas à terme séduire certains géants du web. Ces derniers ont d’ailleurs déjà leurs propres algorithmes de détection qui viennent suppléer le travail de leurs équipes de modération.
Ce n’est bien sûr pas la première fois que l’intelligence artificielle est utilisée pour lutter contre les discriminations. Nous vous parlions notamment l’an dernier de cet algorithme utilisé par la ville de San Francisco. Il vise à supprimer automatiquement toutes les informations contenues dans les rapports de police susceptibles d’identifier la race d’un suspect.
📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.
vous devriez aussi faire un article sur l’entreprise française ProPR Consulting, qui travaille sur ce sujet depuis 1 an environ ! !