D’où viennent tous ces deepfakes ? En janvier dernier, la célèbre chanteuse Taylor Swift était victime d’une vague de détournement de son visage sur X (ex-Twitter). Des milliers d’images trafiquées, qui la mettaient en scène dans des positions sexuelles, déferlaient sur le réseau social. Même la Maison-Blanche avait réagi, laissant entendre l’idée qu’une loi « devrait être mise en place pour traiter ce problème ».
Peut-on réellement freiner les deepfakes ? Difficile, voire impossible, car comme souvent sur Internet, tout est à portée de main. Les outils pour apposer un visage sur un autre pullulent sur le web et il suffit d’ouvrir les bonnes portes pour tomber sur un vaste marché du deepfake. Numerama s’est penché sur ces services qui font la promotion de détournement à caractère pornographique.
Créer un deepfake est de plus en plus simple
À la fin du mois de février, l’entreprise de cybersécurité CheckPoint a publié un rapport alarmant sur les usines à trafiquer les visages. « On dénombre plus de 3 000 référentiels liés à la technologie deepfake sur des plateformes telles que GitHub (un site dédié aux développeurs). Telegram héberge des centaines de canaux (entre 400 et 500 environ) et de groupes qui proposent des services de deepfake, allant de bots automatisés pour guider les utilisateurs tout au long du processus à des services personnalisés assurés directement par des particuliers. »
« Le prix de ces services varie. Il démarre à 2 dollars la vidéo et peut atteindre 100 dollars pour plusieurs vidéos et tentatives. En d’autres termes, ces contenus trompeurs sont extrêmement abordables » peut-on lire dans le rapport.
Notons aussi qu’il ne s’agit souvent que du premier maillon de la chaine. Une fois l’outil en main, les abonnés ont tendance à produire en masse des contenus obscènes pour le revendre ensuite ou les mettre en ligne sur des sites pornographiques pour en tirer un revenu.
Des applications de deepfake disponibles à tous sur l’App Store
En menant une simple recherche sur Telegram, on tombe sur de nombreuses chaînes qui mettent en avant des applis de deepfake.
La plupart de ces canaux proposent des bots capables d’automatiser le détournement des images. Une chaîne russophone particulièrement populaire propose de réaliser des deepfakes à la chaine pour quelques euros. Le paiement se fait par crypto ou en roubles.
Un autre canal fait la promotion d’applications pour détourner les visages directement sur une vidéo. Les liens redirigent vers des applis disponibles publiquement sur l’App Store (iPhone). Encore une fois, un abonnement de quelques euros suffit pour produire des centaines de deepfakes, y compris des vidéos.
La réalisation de ces vidéos ne prend que quelques secondes. Nous avons essayé de réaliser des vidéos à caractère pornographique – pour notre enquête journalistique uniquement – avec des visages (générés par IA pour ne pas offrir de données). L’application offre le même résultat pour des contenus à caractères sexuels.
Nous avons signalé l’existence de cette application à Apple, la marque nous a indiqué que « les apps peuvent être flaggées aux équipes de review si nécessaire ».
Concrètement, selon les règles de sécurité de l’App Store, le matériel ouvertement sexuel ou pornographique est défini comme « des descriptions ou des présentations explicites d’organes ou d’activités sexuelles destinées à stimuler des sentiments érotiques plutôt qu’esthétiques ou émotionnels ». Puisque l’application n’affiche pas ouvertement de contenus sexuels, elle peut être utilisée librement. Et des applis du genre, il en existe des dizaines.
Snapchat a ouvert la porte aux options de deepfake sur Android et iOS dès 2019. Depuis, n’importe quel éditeur peut proposer une application de « face swap », tout en faisant la promotion de détournements à caractère sexuel des réseaux parallèles.
La grande menace de la désinformation pour les élections
Pour les experts en cyber de Check Point, ces deepfakes de plus en plus accessibles vont perturber les nombreuses élections en 2024 – Européennes dans l’UE, Présidentielles aux États-Unis – ainsi que celles qui suivront lors des prochaines années. « Le recours à la technologie « deepfake » pour interférer dans les élections marque un tournant décisif pour les démocraties du monde entier. À l’approche des élections de 2024 dans de nombreux pays d’Asie, d’Europe et des États-Unis, il est plus que jamais nécessaire de faire preuve de vigilance et de prendre les mesures qui s’imposent » note le rapport.
En France, la loi relative à la lutte contre la manipulation de l’information « s’applique dans l’ensemble de ses dispositions à la lutte contre toutes les fausses informations, y compris celles se fondant sur des hypertrucages ». Quant au détournement pornographique, il est interdit par l’Article 226-8 du Code pénal.
Contacté par Numerama, Marco Eggerling, directeur de la sécurité des systèmes d’information chez Check Point estime que ces outils IA « représentent l’une des plus importantes menaces pour nos sociétés. Les visages de plusieurs jeunes filles mineures d’origine espagnoles ont été détournées pour des contenus pédopornographiques récemment. Imaginez l’impact pour les familles. Des acteurs malveillants pourraient faire pareils avec des candidats politiques pour influencer des élections » ajoute-t-il.
A-t-on un moyen de stopper ce phénomène ? Pas vraiment. « Il faut arrêter de croire tout le contenu que vous voyez sur le web. On ne peut que faire confiance au journalisme traditionnel » affirme Marco Eggerling. Bienvenue dans l’ère de l’incertitude.
Cet article existe grâce à
Cet article a pu voir le jour grâce au financement de nos adhérent·e·s, offrant le temps et les ressources nécessaires à la production d’une information de qualité. Numerama+ permet à Numerama de rester gratuit et éviter de verrouiller le web derrière un mur payant.
Zéro publicité, meilleur confort de lecture, articles résumés par l’I.A et plus encore... Si vous souhaitez soutenir la mission de Numerama et profiter de nombreux avantages exclusifs, adhérez à Numerama+.
Si vous avez aimé cet article, vous aimerez les suivants : ne les manquez pas en vous abonnant à Numerama sur Google News.
