Dix-sept minutes. C’est la durée pendant laquelle le tueur de Christchurch a diffusé, en direct sur sa page Facebook, les images du massacre qu’il était en train de perpétrer dans deux mosquées de la ville. Sans qu’à aucun moment, le réseau social, si prompt par ailleurs à supprimer les photos de nus, n’interrompe la retransmission.
Efficace pour repérer les images susceptibles de contrevenir aux règles du réseau social, l’algorithme de modération utilisé est en revanche inopérant pour détecter pendant leur diffusion celles filmées en Facebook Live, la fonctionnalité de vidéo en direct du réseau social. Un enjeu de taille pour le géant américain alors que ce format, devenu star depuis plusieurs années, booste l’audience et le temps passé devant leur écran par les internautes. D’autant plus problématique que l’autre algorithme, celui qui choisit de mettre en avant les contenus sur les pages Facebook, pondère avantageusement les vidéos, surtout si elles sont publiées en «natif» via Facebook Live, plutôt qu’en partage depuis YouTube ou d’autres plateformes.
A lire aussi Autour de l'attentat de Christchurch, un dispositif numérique renvoyant à l'extrême droite
Comme à Christchurch, c'est pourtant par le biais d'un signalement – le plus souvent d'autres d'internautes – que l'alarme est donnée. «La police néo-zélandaise nous a alertés sur une vidéo sur Facebook peu après le début du flux en direct et nous avons supprimé le compte Facebook et la vidéo du tireur», a indiqué dans un communiqué Mia Garlick, porte-parole de Facebook en Nouvelle-Zélande, ajoutant que le réseau social travaillait pour supprimer «tout éloge ou soutien envers le crime et le tireur ou les tireurs». Son compte Instagram a lui aussi été supprimé.
Une position affirmée également par les principaux géants du numérique, impliqués dans la dissémination du message de haine. Une situation résumée dans un tweet par Drew Harwell, journaliste du Washington Post : «Le massacre néo-zélandais a été diffusé en continu sur Facebook, annoncé sur 8chan, retransmis sur YouTube, commenté sur Reddit, et copié dans le monde entier avant même que les sociétés de technologie ne puissent réagir.»
Dans un communiqué, la maison-mère de YouTube, Google, a rappelé que «les contenus choquants, violents et explicites n'ont aucune place sur [nos] plateformes et sont supprimés dès qu'ils sont repérés». Twitter a de son côté indiqué avoir suspendu le compte du suspect, s'évertuant à les bloquer ou supprimer les occurrences les plus choquantes des images de la tuerie de Christchurch. Un jeu du chat et de la souris doublé d'un contre-la-montre, de multiples versions de la vidéo macabre continuant d'être repostées à mesure qu'ils les suppriment. Sans modération.