Réseaux sociaux et violence : une course contre la technologie

Un suicide sur Periscope, un attentat revendiqué, quelques minutes après le meurtre du couple de policiers de Magnanville, sur Facebook Live... Les applications de vidéo en direct se sont retrouvées pointées du doigt après les événements de ces derniers jours. Dans la continuité des problèmes nouveaux posés par les réseaux sociaux, Periscope, Facebook Live et autres Meerkat apportent une nouvelle touche de complexité au sujet de la violence en ligne. Et cette course technologique, menée par les géants du secteur, oblige ceux-ci à revoir leurs positions historiques.

Aujourd'hui, la loi condamne l'apologie du terrorisme, l'incitation à la haine et à la violence et les mêmes règles s'appliquent sur Internet que dans le monde physique. Mais les grandes plates-formes, généralement des sociétés de droit californien, ont en outre leurs propres règles. Exemple : l'interdiction de la nudité, sur Facebook ou sur l'App Store d'Apple. Là, c'est la technologie qui dicte la règle : les géants bloquent automatiquement la mise en ligne d'images dénudées afin de lutter contre la pédopornographie. Il faut ensuite une intervention humaine pour « débloquer » le contenu. Cela est arrivé dans quelques cas, sur des photos artistiques, par exemple. Et cette logique est aussi en train de s'imposer dans le domaine de la lutte contre la violence et l'incitation à la haine.

L'attitude des géants américains est en train d'évoluer. Il y a encore quelques mois, en effet, leur position était claire : la technologie ne pouvait pas tout faire dans ce domaine. Début 2015, quelques jours seulement après les attentats de « Charlie Hebdo » et de l'Hyper Cacher, la directrice de la politique de contenus chez Facebook, Monika Bickert, affirmait aux « Echos » : « C'est très difficile d'apporter une réponse technologique à ce problème. Une même photo peut être prise dans des contextes très différents. Certains mettront en ligne une photo d'un groupe terroriste pour soutenir son action, d'autres pour le condamner. Dans le premier cas, la photo sera supprimée, dans le second cas, il n'y a pas de raison de l'enlever. L'intervention humaine est donc nécessaire. » Aujourd'hui, le discours a un peu évolué.

« La règle, c'est le signalement. Dès qu'un contenu est signalé une fois par un utilisateur, il y a intervention humaine et nos équipes, disponibles 24 heures sur 24, 7 jours sur 7, jugent si le contenu doit être bloqué. Mais nous commençons à automatiser certaines choses », concède-t-on chez Facebook, qui ne souhaite toutefois pas entrer dans les détails pour éviter de donner des informations à ceux qui utilisent les réseaux sociaux à des buts de propagande.

Evaluer la nature éditoriale

Même son de cloche chez Twitter. « Nous sommes déjà capables d'identifier automatiquement, parmi les contenus qui sont en train d'être diffusés, ceux à caractère sexuel, par exemple, expliquait en mars, lors de son passage à Paris, le jeune fondateur de Periscope Kayvon Beykpour. Nous investissons dans ce domaine et sommes toujours vigilants. » Les avancées en matière d'intelligence artificielle (IA) contribuent aussi à faire évoluer la position de ces géants. Mais évaluer finement la nature éditoriale d'un contenu, écrit comme vidéo, c'est une autre paire de manches que l'IA de reconnaissance d'images sur laquelle Google a avancé ces dernières années. Certes, une pointe d'IA est déjà utilisée à l'heure actuelle et fait remonter des contenus « ?suspects ?» vers des modérateurs, humains eux, chargés d'évaluer leur nature, et s'il faut les supprimer ou non. Mais comme l'illustrent les derniers évènements, les mailles du filet sont trop larges. Pour des contenus très nombreux. Au dernier pointage en novembre, Facebook évaluait à 8 milliards le nombre de vidéos visionnées par ses utilisateurs... sur une seule journée ?!

Au final, le problème est d'autant plus complexe qu'il est humain. Malgré le perfectionnement de ces technologies, il restera difficile de prévoir les comportements des uns et des autres. Enfin, ces problématiques ne sont que la partie visible de l'iceberg. Au fond, les autorités peuvent encore s'accommoder de cette situation, mais redoutent avant tout les informations et renseignements qui se faufilent sous leurs radars et peuvent servir à planifier une attaque terroriste, ou à embrigader des esprits faibles. Redphone, SilentCircle, Chatsecure : toute une palette d'applications de messagerie instantanée promettant une confidentialité totale sont à la disposition de qui veut bien se servir. Même les grands groupes se positionnent, à l'instar de... WhatsApp, qui appartient à Facebook. Début avril, le cryptage de tous les messages des utilisateurs a été généralisé. Un chiffrement dit « de ?bout en bout? » qui rend la missive envoyée uniquement lisible par le destinataire. «? Personne d'autre ne peut lire le message en question [...] que ce soit des cyberdélinquants, des hackers, des régimes totalitaires, même pas nous », avait alors souligné WhatsApp.

Certains en ont même fait un fonds de commerce, à l'instar de Telegram. Lancée par Pavel Dourov, alias le «? Zuckerberg russe ?», cette appli a été pointée du doigt lors des attentats du 13 novembre, car utilisée par les combattants de Daech - elle l'est aussi par des citoyens lambdas dans des pays où il y a peu de transparence sur l'action des autorités. Depuis quelques mois, les utilisateurs de Telegram peuvent aussi créer des chaînes et s'adresser à un nombre illimité de personnes et plus seulement en «? one to one ?» ou dans des conversations de groupe. Idéal pour diffuser de la propagande ou revendiquer des attentats, et l'EI ne s'en prive pas. Une réputation sulfureuse qui ne perturbe en rien la croissance de « ?l'appli ?». Trois ans à peine après son lancement, Telegram compte plus de 100 millions d'utilisateurs actifs mensuels. Déjà le tiers de Twitter.