Dans les coulisses de la plateforme de signalement Pharos

Quasiment inconnue du grand public il y a encore quelques années, la plateforme de signalement Pharos est désormais sollicitée très fréquemment par les internautes qui souhaitent dénoncer aux autorités des contenus illicites en tout genre (tweets racistes, vidéos pédopornographiques...). Next INpact a pu découvrir ses coulisses.

Rendez-vous fut donné à Nanterre, dans les locaux de l’Office central de lutte contre la criminalité liée aux technologies de l'information et de la communication (OCLCTIC). Rattachée à la police judiciaire, cette structure est en réalité composée de gendarmes et de policiers. C’est là que sont reçus et traités les près de 3 500 signalements transmis chaque semaine par les utilisateurs du portail « internet-signalement.gouv.fr » – qu'il s'agisse de particuliers ou de professionnels.

Au programme : des escroqueries en ligne, des images pédopornographiques, des blogs contenant de la propagande djihadiste... Pour être plus exact, « il y a deux éléments indispensables pour effectuer un signalement Pharos », nous explique François-Xavier Masson, le commissaire divisionnaire responsable de l’OCLCTIC. Premièrement, « que le contenu soit public ». Deuxièmement, « qu’il soit illicite, ou en tout cas que vous le jugiez illicite ». Autant dire que les agents derrière Pharos – pour « Plateforme d'harmonisation, d'analyse, de recoupement et d'orientation des signalements » – voient passer des choses pour le moins variées, sachant que 188 000 signalements leur ont été adressés en 2015.

Cela signifie aussi qu’il n’est pas nécessaire que le contenu dénoncé aux autorités relève forcément d’une infraction pénale liée à Internet (diffusion de vidéos de happy slapping, sites de piratage de films ou de séries...) pour que celui-ci puisse être examiné par cette structure spécialisée. Les gendarmes et policiers de Pharos sont ainsi parfaitement habilités à traiter des vidéos mises en ligne par des chauffards se vantant de leurs « exploits » – par exemple. Certains se souviendront peut-être d’un des principaux faits divers ayant participé à la récente renommée de la plateforme de l’OCLCTIC : la mise en ligne, sur Facebook, d’une vidéo dans laquelle un individu s’amusait à lancer un chaton contre un mur. L’homme fut finalement condamné à un an de prison ferme.

Next INpact vous propose désormais de découvrir ce qu’il se passe entre ces deux étapes. La première, celle du signalement, et la dernière, celle de la réponse judiciaire venant sanctionner un comportement illicite.

Première étape : le recueil des signalements

Au total, ils sont 25 agents, plus un chef de plateforme pour les superviser, réunis dans un open space où s’affichent fièrement les couleurs de la police et de la gendarmerie. Derrière leurs écrans, et grâce à des prises d’horaire décalées, ils traitent en continu les signalements reçus via la plateforme « internet-signalement.gouv.fr », de 8h à 19h30 (tout du moins les jours de semaine). « Évidemment, le week-end, si on a connaissance d'une actualité ou d'un événement particulier qui nous serait signalé par ailleurs, nous disposons d’alertes qui peuvent conduire des permanents à revenir pour traiter en urgence certains signalements » explique le commissaire Sylvain Brun, adjoint au chef de l'OCLCTIC.

Chaque signalement s’affiche sur un « outil métier » spécifique, développé sur mesure pour les forces de l’ordre. Dans cette sorte de boîte de réception commune, les messages reçus au travers du portail Pharos apparaissent en file indienne, avec une éventuelle priorisation en fonction des émetteurs (notamment s’il s’agit de professionnels de type fournisseurs d’accès à Internet) ou des sujets – atteintes aux personnes, pédopornographie... La vidéo d’une agression sera en ce sens examinée bien plus rapidement qu’un site d’arnaques par exemple.

« Un signalement, ce n'est pas une plainte, ni une enquête, c'est comme un renseignement que vous portez à la connaissance d'un service de police » explique François-Xavier Masson. Tout le monde n’a effectivement pas de connaissances poussées en droit, d’où un nécessaire travail de qualification juridique de la part des policiers et gendarmes de l’OCLCTIC.

Deuxième étape : analyser les signalements

Les personnes sur telle vidéo pornographique sont-elles mineures ? Ce tweet est-il constitutif d’une incitation à la haine raciale ou s’agit-il d’une mauvaise blague ? Les délais de prescription sont-ils écoulés ? Voilà le type de questions que se posent régulièrement les agents de la plateforme Pharos lorsqu’ils doivent analyser les signalements qui leur sont soumis. « Partant de là, vous avez un opérateur derrière, qui est un enquêteur (un policier ou un gendarme), qui va réaliser de premiers éléments d'observation, faire des constatations comme n'importe quel enquêteur pourrait le faire, et voir ensuite si l'on peut qualifier pénalement en vue de l’ouverture d’une enquête », détaille le numéro un de l’OCLCTIC.

La plupart des signalements proviennent de particuliers, ce qui provoque un taux de déchets « important » (entre les choses redondantes, notifiées plusieurs fois par différents internautes, et celles ne pouvant être qualifiées pénalement). « Les signalements des professionnels sont souvent des signalements de qualité, reconnaît néanmoins François-Xavier Masson. Il y a un premier travail de ces associations ou de ces organismes, ce qui fait que lorsqu'ils nous adressent un signalement, globalement, c'est déjà bien mieux travaillé. »

Et pour cause, les intermédiaires – FAI et hébergeurs – disposent généralement de personnels spécialement formés à cet effet. La loi oblige d’ailleurs les acteurs de l’internet à transmettre promptement à Pharos tout contenu qui leur serait signalé comme étant relatif à la pédopornographie, au négationnisme, à l’appel à la haine raciale, au terrorisme... Et même, depuis 2014, au sexisme, à l’homophobie et à l’handiphobie.

Ce qui avait suscité lors des débats parlementaires de nombreuses inquiétudes de la part de certains députés... notamment chez une certaine Axelle Lemaire. « On voit bien que ce dispositif, en l’état, induit un risque de contre-productivité, avec une plateforme de police [Pharos, ndlr] qui pourrait être noyée sous un très grand nombre de signalements, dont certains, en visant des contenus licites, deviendraient inopportuns », faisait alors valoir l’intéressée, quelques semaines avant d’être nommée secrétaire d’État au Numérique.

Mais à en croire les responsables de l’OCLCTIC, les policiers et gendarmes derrière Pharos n’auraient que rarement des difficultés à préjuger de la licéité (ou non) de contenus, quels qu’ils soient. « Ça reste à l’appréciation de l’enquêteur », nous a-t-on expliqué, la suite de la procédure étant justement là pour confirmer ou infirmer leur analyse – éventuellement via un magistrat. Les agents de Pharos sont néanmoins spécialisés dans différents domaines, tels que les messages de haine par exemple, et ont ainsi des compétences (en terme de jurisprudence notamment) leur permettant d’appréhender au mieux les contenus de leur ressort.

Troisième étape : orienter vers le service territorialement compétent

« On fait un travail sur le contenu lui-même, pour essayer de le qualifier, et puis il y a un travail sur l'auteur, pour parvenir à mettre un nom derrière une adresse IP » poursuit François-Xavier Masson. L’objectif, une fois que le signalement est considéré comme pertinent sur le plan pénal : transmettre un dossier « clefs en main » au service qui pourra conduire une enquête de terrain complète. Les destinataires des premiers travaux de l’OCLCTIC sont ainsi particulièrement nombreux (des unités traditionnelles de la police et la gendarmerie, en passant par la DGSI, Cyberdouane ou la DGCCRF, voire jusqu’à Interpol).

Pour cela, les agents de Pharos procèdent à de premières investigations, en partant à la recherche de toutes les « traces techniques » ayant pu être laissées par le suspect. Pour un tweet raciste, par exemple, ils vont effectuer une réquisition auprès du réseau social, afin qu’il leur communique l’adresse IP du titulaire du compte en question. Les FAI seront ensuite sollicités, pour découvrir le nom de l’abonné se cachant derrière cette IP. Les policiers ou gendarmes proches géographiquement de l’intéressé pourront alors prendre le relais, réaliser des auditions et/ou perquisitions, afin de s’assurer que l’utilisateur suspecté est bien à l’origine du message litigieux – et non pas un membre de son foyer ou un tiers ayant piraté son Wi-Fi.

•  Pour plus détails à ce sujet, vous pourrez consulter cette circulaire datant de juillet 2013 (PDF).

De nombreux constats sont également effectués par l’OCLCTIC (captures d’écrans, aspiration de sites...), comme pour figer une scène de crime. Et ce toujours dans l’idée de monter un dossier le plus solide et complet possible.

Dans certains cas, à commencer par la traque de pédophiles, les policiers et gendarmes derrière Pharos sont appelés à prendre des « précautions » particulières. Il ne faudrait pas qu’ils soient démasqués via l’adresse IP du ministère de l’Intérieur... On a néanmoins refusé de nous dire si des solutions de type VPN étaient utilisées.

Des signalements en hausse constante

À titre d’illustration, 188 056 signalements ont été transmis à Pharos en 2015. Voici leur détail :

À noter que 337 de ces signalements (0,18 % de la catégorie « Autres ») concernaient des sites ou forums de piratage, dénoncés pour atteintes présumées au droit d’auteur.

La durée moyenne de traitement d’un signalement ? « Ça peut aller de quelques minutes pour les signalements qui nécessitent une action des plus urgentes [ndlr : personnes en danger, annonces de suicides...] à quelques jours lorsqu'on attend les réponses des réquisitions d'organismes pour compléter l'enquête, répond Sylvain Brun. Mais en général, ça ne dépasse pas quelques jours – grand maximum quelques semaines. »

Et après ?

De manière assez surprenante, le nombre de procédures judiciaires initiées chaque année sur la base du travail des agents de Pharos serait relativement stable, variant « entre 200 et 300 par an » selon François-Xavier Masson. Les signalements reçus par la plateforme sont pourtant en constante augmentation : 137 000 en 2014, 124 000 en 2013, 120 000 en 2012... contre 53 000 en 2009.

Si nos interlocuteurs se montrent assez réticents à nous donner des chiffres très précis, un rapport sénatorial (PDF, pages 20-21) indique qu’en 2013, les signalements reçus via Pharos ont conduit les agents de l’OCLCTIC à effectuer 7 968 transmissions pour information ou traitement aux services compétents, au plan national et international. De ces dossiers, furent ouvertes :

• 371 enquêtes préliminaires ou en flagrance,
• 379 enquêtes pour secours à personne (annonces de suicides imminents, signalement de violences intrafamiliales ou d’abus sexuels),
• 20 procédures de cyber-infiltration en matière de pédopornographie.

Considérées comme des procédures se traitant administrativement, les enquêtes pour secours à la personne ne sont pas comptabilisées parmi les procédures judiciaires évoquées par les responsables de l’OCLCTIC. Ces dernières « connaissent une légère baisse », confirme d’ailleurs Sylvain Brun. Les premières ont quant à elles « plus que doublé, en raison, en partie, des nombreuses menaces à l'intégrité des personnes » liées au contexte terroriste.

S’il semble y avoir un énorme fossé entre le nombre de signalements reçus et celui des enquêtes ouvertes, « ça ne veut pas dire qu'entre les deux, il n'y a rien qui est fait », assure François-Xavier Masson. Beaucoup de notifications concernent parfois le même contenu – un tweet largement relayé, une vidéo qui circule beaucoup sur les réseaux sociaux... « Il y a aussi des signalements qui sont envoyés pour renseignement ou pour action à l'étranger », précise-t-il.

Malheureusement, il est encore plus difficile de savoir quelles suites ont été accordées à ces enquêtes (combien de condamnations, de procès en cours, etc.), même pour l’OCLCTIC. « Si l’on ne prend pas notre téléphone pour savoir ce que c'est advenu, on n'a pas le retour – ou très exceptionnellement, soupire François-Xavier Masson. Et puis parce que parfois ça ne donne rien, ce n'est pas exploité... Quand ça part à l'étranger c'est pareil, on n'a pas de retour : on ne sait pas si ça a été transformé en enquête, si ça a servi... »

Dès lors, comment évaluer l’efficacité de Pharos ? « Notre premier facteur d'efficacité, c'est le fait que la plateforme soit reconnue, utilisée, et ce à bon escient. C'est-à-dire que les gens ont bien compris que ce n'était pas une « police d'Internet », que si on voulait une intervention police-secours, il ne fallait surtout pas faire appel à Pharos » soutient le numéro un de l’OCLCTIC. « Le fait qu’on ait beaucoup de signalements redondants montre aussi que le travail de recoupement est effectué et qu'on est arrivés à un fonctionnement qui commence à trouver sa vitesse de croisière. Donc sur la masse des éléments, on peut dire que l'outil a trouvé sa place et qu’il est pertinent. »

Nous signaler sur Twitter un compte illicite participe à sa diffusion. Pour signaler sans partager: réflexe #PHAROS! https://t.co/3OIQsQlhih

— Police Nationale (@PoliceNationale) 4 juin 2014

Des effectifs renforcés, notamment avec la nouvelle « unité de lutte contre la haine »

Si la question des effectifs alloués à la plateforme a souvent été mise sur le devant de la scène à l’Assemblée nationale, Sylvain Brun affirme que celle-ci ne se pose plus aujourd’hui : « Il est évident que le nombre d'agents doit s'adapter au nombre de signalements, [mais] Pharos a connu depuis sa création une constante augmentation de ses effectifs. »

Le dernier renforcement en date fait suite aux attentats de Charlie Hebdo et de l’Hyper casher. Conformément à ce qu’avait annoncé le Premier ministre, une « unité de lutte contre la haine sur Internet » a été installée, fin 2015, dans les locaux de Pharos. Quatre agents supplémentaires sont ainsi à l’œuvre afin de traiter les nombreux contenus racistes, homophobes, antisémites.... notifiés quotidiennement aux forces de l’ordre. « C'est un « mini-Pharos » au sein de Pharos, mais ce sont les mêmes enquêteurs, qui ont suivi les mêmes formations, et qu'on a affectés plus spécifiquement à cette thématique-là, explique le commissaire. Ils se sont spécialisés – que ce soit en termes de connaissances juridiques ou de liens avec le Parquet –, mais ça reste à la base du travail Pharos. »

D’une manière plus générale, les agents travaillant chaque jour au sein de la plateforme ont des profils relativement différents. « On prend des gens avec une expérience assez diversifiée. Ils viennent de quasiment l'ensemble des directions de la police et de la gendarmerie nationale. Ils ont vraiment des horizons extrêmement variés : il y en a qui ont fait de la sécurité publique, etc. Mais ce sont d’abord des enquêteurs » indique François-Xavier Masson. Son adjoint poursuit : « On sélectionne évidemment ceux qui sont à l'aise avec les réseaux sociaux, Internet... Mais en tout cas on n'exige pas au préalable de qualification technique. Ils ont une formation en interne où on leur apprend à manipuler les différents sites, à procéder aux constatations, etc. Certains d'entre eux peuvent aussi bénéficier de formations spécialisées, par exemple en matière d'enquête sous pseudonyme ou d'investigation sur les réseaux sociaux. »

À en croire nos interlocuteurs, les récentes et nombreuses modifications législatives imposant aux intermédiaires de transmettre de plus en plus de contenus à Pharos (terrorisme, sexisme, homophobie...) n’ont pas eu d’effet notable. Le nombre de signalements transmis par les hébergeurs et FAI resterait en ce sens assez stable (de l’ordre de 3 000 l’année dernière, sur les 188 000 reçus au total).

« Pharos, c'est un peu une caisse de résonance de l'actualité » explique François-Xavier Masson. Son adjoint abonde : « En 2015, avec les attentats, on a eu beaucoup de signalements liés au terrorisme et à la discrimination. L'année d'avant, il y avait eu le mariage pour tous, ce qui avait généré un pic des signalements en matière de discrimination, d'homophobie, ce genre de choses. » Pour le chef de l’OCLCTIC, l’évolution des chiffres de Pharos « donne une assez bonne idée de ce à quoi l'internaute est confronté, ce qui le choque, ce qui circule, etc. Typiquement, on s'est aperçus cette année que tout ce qui avait trait à la pédopornographie avait un peu diminué en proportion, mais que le nombre de signalements, en valeur, restait le même. »

De « réels progrès » avec Twitter, Facebook, Google...

L’installation de la nouvelle unité de lutte contre la haine sur Internet nous amène rapidement à la question de la coopération des hébergeurs, plusieurs associations anti-discriminations ayant encore récemment pointé du doigt la lenteur (voire l’inaction) de Facebook, Twitter et YouTube en matière de retrait de contenus manifestement illicites. « Ce n'est pas du 100 %, c'est évident. Cela dit, le travail de partenariat a porté ses fruits » observe de son côté Sylvain Brun. Suite au déplacement du ministre de l’Intérieur aux États-Unis, courant 2015, les agents de l’OCLCTIC disposent désormais d’un « partenariat privilégié » – dixit les responsables de Pharos – avec les géants américains que sont Twitter, Facebook, Google, Microsoft...

« Quand on signale des contenus à ces plateformes, c'est traité de manière différente, priorisée » explique l’intéressé. Les forces de l’ordre bénéficient pour ce faire d’un interlocuteur précisément identifié. « Pour la plupart [des plateformes partenaires], on a un interlocuteur français. Pour d'autres, on a un interlocuteur européen, et pour certains rares, on a un interlocuteur aux États-Unis. Mais on a à chaque fois un interlocuteur privilégié, poursuit le commissaire. On n'a pas attendu 2015 pour tisser des liens avec les grands acteurs de l'internet, mais la volonté politique du ministre de l'Intérieur a clairement accéléré les choses. Et depuis, on a des contacts privilégiés dans la plupart de ces sociétés. »

Sylvain Brun reconnaît néanmoins que « certains acteurs » (dont il ne donne pas le nom) « sont peut-être moins enclins à retirer un contenu qui ne serait pas qualifié pénalement selon le droit américain. On mène de ce fait un gros travail avec ces partenaires, pour leur faire comprendre qu'en France, la loi est différente et interdit de tenir un certain nombre de propos. Et qu'il faut que ces contenus-là soient retirés selon le droit français. »

Le résultat ? « Ça marche », assure l’adjoint de François-Xavier Masson, tout en concédant que « ça n'a pas encore la réactivité [qu’il] souhaiterait ». Pour lui, de « réels progrès » ont été constatés. « Ce partenariat est bénéfique » insiste-t-il. « On est partis d'une situation où il n'y avait pas du tout d'écho favorable à une situation où nos demandes sont étudiées et souvent suivies d'effets. Quand c'est accepté, ça peut être très rapide – de l’ordre de quelques heures. » Si le contenu est à la fois contraire à la législation française et américaine, cela serait même « quasi-instantané ». « Lorsqu'il y a une appréciation juridique à apporter, que c'est contraire peut-être au droit français mais limite au niveau du droit américain », les délais peuvent cependant être « un peu plus longs »...

De telles difficultés ne se posent pas avec les intermédiaires français. « Les fournisseurs d'accès à Internet français, c'est radical. Eux, ils s'estiment tout à fait soumis à la loi pour la confiance dans l’économie numérique, soutient Sylvain Brun. C'est pareil pour les hébergeurs français : il n'y a aucune difficulté là-dessus. » François-Xavier Masson abonde : « C'est beaucoup plus simple... »

Nous quittons finalement l’open space de Pharos, où se trouve soit dit en passant un poster « Keep calm and block the web », dérivé de la célèbre affiche « Keep calm and carry on » du gouvernement britannique... Et pour cause, les agents de l’OCLCTIC sont également chargés de mettre en œuvre le dispositif de blocage administratif des sites terroristes et pédopornographiques – en vigueur depuis l’année dernière.

Reportage officiel du ministère de l'Intérieur sur l'OCLCTIC