YouTube est une machine à exploiter les enfants

Encore un replay ? Depuis la publication, lundi 3 juin, d’un article à charge dans le New York Times, YouTube se démène de nouveau contre sa réputation de nid à pédophiles. Dans On YouTube’s Digital Playground, an Open Gate for Pedophiles, les journalistes Max Fisher et Amanda Taub soutiennent que le système de recommandation de la plateforme pousse les consommateurs de vidéos à thème sexuel vers des contenus toujours plus « bizarres», « extrêmes » et montrant des individus toujours plus jeunes. Ainsi, quelques clics feraient passer de jeunes femmes en quête d’un sugar daddy à des enfants « jeunes et partiellement habillés ». Malaise.

Les « sphères enfantines » de YouTube n’ont pas que des problèmes de pédophilie. En 2017, l’hébergeur a essuyé deux scandales : l’affaire DaddyOFive d’abord, l’Elsagate ensuite. Dans la première, deux parents « prankaient » violemment leurs cinq enfants pour alimenter leur chaîne YouTube. Ils ont perdu la garde de deux d’entre eux suite au scandale. La seconde a révélé que de nombreuses vidéos présentées comme « pour enfant », tout en couleurs vives et personnages pop, contenaient des images violentes, scatologiques ou vaguement sexuelles.

L’affaire des recommandations pédophiles, le cas DaddyOFive, l’Elsagate et beaucoup d’autres scandales concernant les mineurs sur YouTube ont un point commun : chaque fois, ce sont les mécanismes et les fonctionnalités mêmes de l’hébergeur qui ont permis, voire encouragé, l’exploitation d’enfants.

James Bridle, auteur de New Dark Age: Technology and the End of the Future, a montré en novembre 2017 que les images mises en cause pendant l’Elsagate ont pu naître de l’exploitation des algorithmes de classement de YouTube. Dans l’espoir d’obtenir de bonnes places dans les résultats de recherche et les suggestions, les vidéastes auraient pensé leurs « scénarios » par agglomération de mots-clés à la mode. Le résultat sont ces mélanges impies entre Spider-Man, la Reine des neiges et le « toilet humor ». Cette approche créative par keyword stuffing apparaît dans le titre chaotique de certaines vidéos : « BURIED ALIVE Outdoor Playground Finger Family Song Nursery Rhymes Animation Education Learning Video », « Batman Eat Shit ! Shit Sticky face Elsa and mouth Anna », etc.

Cette méthode est dangereuse parce qu’elle se soucie plus de la capacité d’un contenu à marcher sur YouTube que de sa teneur. Pourtant, elle ne fait que suivre les règles du site. Son but est de créer des vidéos parfaites aux yeux de la plateforme, c’est-à-dire conformes à son impératif de rentabilité : les saynètes grotesques de l’Elsagate se sont propagées parce que les algorithmes de YouTube les ont un jour considérées comme les plus à même d’attirer et retenir leur public, les enfants. Tout le monde sortait gagnant de l’affaire sauf ces derniers, la chair à canon de l’Internet de l’attention. Dans son article, James Bridle se dit choqué par « les niveaux d’exploitation » en jeu, « pas parce que les enfants sont des enfants, mais parce que les enfants sont impuissants. »

C’est également cette impuissance qui a permis à des chaînes comme DaddyOFive de prospérer. Car sur YouTube, les enfants sont exploités comme spectateurs mais aussi comme acteurs. De nombreux « jeunes créateurs » ne sont que les poules aux œufs d’or de proches sans scrupules, façon Macaulay Culkin. Bien sûr, toutes les vidéos d’unboxing, de mukbang ou même d’ASMR présentées par des garçonnets de trois ans ou des préadolescentes ne relèvent pas de la maltraitance. Difficile de croire, cependant, que ces petites célébrités comprennent parfaitement leur situation ou qu’elles ne sont jamais manipulées par leurs proches – ceux qui sont assez grands pour encaisser des revenus.

En France comme aux États-Unis, le travail des mineurs sur Internet est mal encadré par la loi : aucun texte ne garantit leur salaire ou leurs conditions de travail. La nature et les règles de YouTube ne font que rendre ce vide plus inquiétant. Pour rester visibles, les créateurs doivent être productifs. Ryan ToysReview, 20 millions d’abonnés et 22 millions de dollars de revenus annuels, n’a pas neuf ans ans mais sa chaîne diffuse une vidéo par jour. Forbes rapporte que 15% des revenus de la chaîne l’attendront à sa majorité. Est-ce équitable ? Quels sacrifices lui impose-t-on pour cet argent ? YouTube n’a pas l’air de s’en soucier. Interrogé par le Guardian au sujet des protections que la plateforme s’estime tenue de fournir aux enfants-vlogueurs en avril dernier, un porte-parole n’a pas fourni de réponse claire.

Par cette absence de garanties comme par son système hautement compétitif et automatisé, YouTube pousse les créateurs au délire – l’Elsagate et les enfants-influenceurs à sept vidéos hebdomadaires le montrent. On pourrait aussi voir l’influence de cet environnement dans les scandales DaddyOFive ou Toy Freaks. En novembre 2017, YouTube a clôturé cette chaîne suite à des accusations de maltraitance. Son créateur, un quadragénaire américain, effrayait ses filles de sept et neuf ans avec des crapauds ou les habillait en bébé pour des « jeux de rôle » avec simulation d’urination. Une formule extrême, tout droit sortie d’une volonté d’emmener la chaîne vers le succès.

Dans une interview diffusée en 2015, le père de Toy Freaks explique que tout a commencé par de simples « vidéos de famille » : « J’ai commencé à voir des tendances – certaines vidéos étaient plus vues que d’autres. […] Je me suis donc concentré là-dessus, j’ai analysé chaque vidéo, la description, les titres, les tags, tout ce qui concernait la réalisation, ce qui avait fait leur succès, et j’ai essayé de le reproduire, et j’ai eu de la chance ».

Quelques mois plus tard, il étalait de la mousse à raser sur le visage de sa fille en larmes. Ce genre de contenu générait des dizaines de millions de vues – assez pour faire perdre le sens des priorités à un individu avide de succès, sans doute. C’est la logique des vidéos de l’Elsagate appliquée à la famille. Les mécanismes de YouTube auraient donc encouragé, ou au moins rationnalisé l’exploitation d’enfants jusqu’à la maltraitance.

Ultime trait de cynisme, les contenus produits grâce à des enfants sont souvent destinés aux enfants – un public « prescripteur d’achats » dont les annonceurs sont friands. Prenons les vidéos de Ryan Toysreview. Certaines relèvent du vlog, d’autres de l’opération commerciale pure et dure. Le garçonnet fait-il la différence ? Les enfants qui le suivent font-ils la différence ? On peut en douter : face à la télévision, les plus jeunes peinent déjà à identifier et comprendre les intentions des spots publicitaires. Exploiter un enfant pour exploiter d’autres enfants : sur YouTube, c’est possible.

Les pédophiles ne sont que l’une de catégories d’internautes à prendre avantage des mécanismes de YouTube pour tirer le meilleur profit de la naïveté des enfants, et sans doute pas la plus importante. L’exploitation de mineurs à des fins monétaires – que certains n’hésitent pas à comparer à de la prostitution infantile – est d’autant plus répandue que l’hébergeur l’encourage plus ou moins volontairement. Ainsi va la vie sur l’Internet des médias sociaux : pour créer et consommer du contenu, il faut des utilisateurs. Et dans un tel environnement, quels meilleurs utilisateurs que les plus naïfs ?

En dépit de tous ces problèmes, YouTube se démène pour garder une image « family-friendly » : les parents doivent croire qu’ils peuvent laisser leurs rejetons seuls devant lui. C’est que les plus jeunes sont une source de trafic considérable pour la plateforme : à l’heure actuelle, deux des dix vidéos les plus vues de son histoire sont destinées aux enfants et la cinquième chaîne la plus populaire du site, Cocomelon, ne contient que des comptines. En fait, les enfants sont une cible si juteuse que YouTube a créé une application pour eux, YouTube Kids, en 2015. La machine doit continuer à tourner.

VICE France est aussi sur Twitter, Instagram, Facebook et sur Flipboard.