Facebook a dû présenter ses excuses après avoir considéré, à tort, qu’une publication sur son site était un discours haineux. Le 5 juillet 2018, nos confrères de Business Insider ont noté que le réseau social a visé un post publié par un journal texan : il contenait des extraits de la Déclaration d’indépendance des États-Unis.
Peu avant le 4 juillet, le journal communautaire The Vindicator a commencé à publier différents extraits de ce texte historique. L’une des publications, contenant les mots « Indian Savages » a alors été identifiée par Facebook comme un élément contraire à ses règles de fonctionnement.
Une formulation considérée raciste
Hors contexte, le réseau social a considéré cette formulation comme raciste. Voici la phrase complète de la déclaration d’indépendance qui a été repérée par Facebook : « Il a excité parmi nous l’insurrection domestique, et il a cherché à attirer sur les habitants de nos frontières les Indiens, ces sauvages sans pitié, dont la manière bien connue de faire la guerre est de tout massacrer, sans distinction d’âge, de sexe ni de condition. »
Bien que la phrase soit raciste et insultante à l’égard des personnes indiennes, le réseau social a reconnu que son algorithme avait fait une erreur en identifiant cette publication comme un discours de haine, n’ayant pas reconnu le contexte du texte.
En avril dernier, Facebook a rendu publiques ses règles internes de modération, avant d’annoncer la possibilité de faire appel d’une décision prise par la plateforme. Ce nouvel incident montre que le site doit encore s’améliorer pour parvenir à identifier correctement les discours haineux.
Nouveauté : Découvrez
La meilleure expérience de Numerama, sans publicité,
+ riche,
+ zen,
+ exclusive.
Si vous avez aimé cet article, vous aimerez les suivants : ne les manquez pas en vous abonnant à Numerama sur Google News.
