Un deepfake d'Ursula Von Der Leyen dans le viseur de la commission européenne

C'est une vidéo qui commence par un extrait  authentique d'un discours prononcé par Ursula Von Der Leyen. La présidente de la Commission européenne y détaille la stratégie de la commission pour l'Intelligence artificielle. Mais au bout de dix secondes, des images d'illustration apparaissent, et c'est une fausse voix, plus vraie que nature, d'Ursula Von Der Leyen, générée par une IA, qui prend le relais.

À l'oreille, impossible de faire la différence. Et pourtant, cette fausse voix sert à promouvoir une arnaque : "Permettez-moi de vous présenter le nouveau programme pour les Européens : chaque résident européen va pouvoir toucher un revenu supplémentaire de 2 000€ par semaine en actions d'entreprises européennes, quel que soit son âge ou ses compétences". Et la vidéo, diffusée début février, renvoie vers un site Internet sur lequel il faut s'inscrire, puis faire un premier virement pour bénéficier du prétendu programme : c'est là que réside l'arnaque.

Vers des enquêtes voire des amendes ?

Ce genre de vidéos appelées "deepfake" et réalisées grâce à des intelligences artificielles de plus en plus performantes sont partagées plusieurs centaines de fois sur Facebook. Et la Commission européenne n'en veut plus, a fortiori à trois mois des élections européennes. Elle a ainsi officiellement demandé jeudi à huit grandes plateformes numériques, dont TikTok, Facebook et YouTube de s'expliquer sur les politiques qu'elles mettent en oeuvre pour limiter la viralité de ces "deepfakes".

Cette demande d'explications est présentée comme une première étape, avant l'ouverture possible d'une enquête, puis à des amendes en cas d'infractions avérées.

La Commission européenne a réclamé jeudi des explications à huit grands services en ligne, dont TikTok, Facebook, Google, YouTube et X, sur la façon dont ils gèrent les risques liés à la diffusion de contenus manipulés ("deepfakes").

A trois mois des élections européennes, Bruxelles s'inquiète notamment de l'impact sur la campagne électorale de ces sons, photos et vidéos truqués grâce à l'intelligence artificielle générative. La Russie est en particulier régulièrement accusée de tentatives de manipulation de l'opinion dans les pays occidentaux via la promotion d'informations truquées sur les réseaux sociaux.

La mise en garde concerne aussi Instagram, Snapchat et le moteur de recherche Bing. "Nous voulons alerter et équiper les plateformes pour qu'elles soient préparées au mieux à toutes sortes d'incidents qui pourraient survenir lors des prochaines élections, en particulier, bien sûr, l'élection du Parlement européen", a expliqué à des journalistes un fonctionnaire européen.

Le nouveau rôle de gendarme numérique de Bruxelles

Le règlement sur les services numériques s'applique depuis fin août aux plateformes en ligne les plus puissantes comme X, TikTok ainsi que les principaux services de Meta (Facebook, Instagram), Apple, Google, Microsoft ou Amazon.

Au total, 22 très grands acteurs de l'internet, dont trois sites pornographiques (Pornhub, Stripchat et XVideos), ont été placés sous la surveillance directe de la Commission européenne, qui a recruté plus d'une centaine d'experts à Bruxelles pour assumer son nouveau rôle de gendarme du numérique.

Les contrevenants s'exposent à des amendes pouvant atteindre jusqu'à 6% de leur chiffre annuel mondial, voire à une interdiction d'opérer en Europe en cas de violations graves et répétées. Dans le cadre des trois enquêtes contre X, TikTok et AliExpress, l'exécutif européen s'efforce de recueillir des preuves, par exemple en envoyant des demandes d'informations supplémentaires, en menant des entretiens ou des inspections. Aucune limite de durée n'est fixée pour ce type d'enquêtes.