Que ce soit pour tromper ou divertir, le deepfake est devenu un véritable fléau sur les réseaux sociaux. Souvent les vidéos truquées sont vraiment bluffantes de réalisme, impossible alors de distinguer le vrai du faux.
Des chercheurs de l’Information Sciences Institute de l’Université de Californie du Sud ont décidé d’apporter la solution en développant une IA qui est capable de reconnaître les vidéos deepfake.
Les chercheurs ont formé l’IA à rechercher les incohérences visuelles, tels que des mouvements faciaux étranges que l’on retrouve généralement dans les vidéos détournées. Le programme présente également la particularité d’être entièrement automatisé, de manière à pouvoir détecter les vidéos deepfake toute seule, sans avoir besoin de l’intervention humaine.
Les chercheurs ont présenté le développement et le fonctionnement de l’IA dans un document détaillé.
Système d’apprentissage automatique
Pour développer l’intelligence artificielle et l’automatiser, les chercheurs de l’Université de Californie du Sud ont commencé par lui faire « voir » des milliers de vidéos d’une personne, dans le but de lui faire « apprendre » toutes les manières possibles dont le visage d’un humain bouge lorsqu’il parle.
L’IA a ensuite été alimentée avec des images et des vidéos truquées, de manière à ce que le programme puisse faire la différence entre les mouvements faciaux normaux et ceux qui sont étranges.
Le résultat donne lieu à programme de détection avec un taux d’efficacité de 90 %. Comme l’explique Wael Abd-Almageed, co-auteur de l’étude, dans un échange de mail avec le site Vice : « Notre modèle est général pour toute personne puisque nous ne nous concentrons pas sur l’identité de la personne, mais plutôt sur la cohérence du mouvement du visage. »
Un outil utile pour les réseaux sociaux
Pour Wael Abd-Almageed, l’intelligence artificielle que lui et ses collègues ont développée serait d’une aide précieuse pour les réseaux sociaux où le deepfake est le plus présent. Il affirme également que leur programme est parfaitement opérationnel, que les réseaux sociaux n’auront pas besoin de le changer.
« Les réseaux sociaux ne doivent pas former de nouveaux modèles, car nous publierons notre propre modèle », a-t-il expliqué. « Ce que les réseaux sociaux pourraient faire, c’est simplement inclure le logiciel de détection dans leurs plateformes pour examiner les vidéos téléchargées sur ces plateformes. »