Midjourney envisage d'interdire de créer des fausses images de Donald Trump ou Joe Biden

Donald Trump et Joe Biden en train de partager un repas, de s'affronter dans une "bataille d'oreillers" ou encore en train de s'embrasser. Toutes ces scènes incongrues, aussi vraies que nature, sont rendues possibles par Midjourney, une intelligence artificielle générative qui permet la création d'image à partir d'une requête textuelle.

Mais ces deepfakes - concernant les deux présidents américains - ne seront peut-être bientôt que du passé. Midjourney envisage d’interdire à ses utilisateurs la création d'images politiques pour "les 12 prochains mois". Une période qui colle parfaitement avec celle des élections américaines - dont le scrutin final aura lieu le 5 novembre prochain.

C'est dans un canal de discussion sur Discord que le PDG de Midjourney, David Holz, a annoncé la nouvelle, début février.

Pas la seule source d'inquiétude

"Je sais que c'est amusant de créer des photos de Trump. Il est esthétiquement très intéressant. Cependant, il vaut probablement mieux ne pas le faire et se retirer un peu pendant cette élection. Nous verrons", a-t-il déclaré, selon Bloomberg.

À l'approche des élections américaines, les montages utilisant l'intelligence artificielle se multiplient. Et les images générées ne sont pas la seule source d'inquiétude. Un logiciel de clonage de voix, développé par la startup ElevenLabs, a notamment été utilisé pour créer les faux appels de Joe Biden. David Holz et Midjourney semblent vouloir ne pas contribuer au phénomène.

L'intelligence artificielle générative est d'autant plus impressionnante de réalisme depuis la sortie de sa version 6.0 (en décembre 2023). Les portraits sont mieux détaillés, les flous arrières et les rendus de lumière améliorés. L'environnement et les animaux sont - aussi - plus réalistes que jamais.

Midjourney interdit, déjà, les créations qui sont "des représentations irrespectueuses, nuisibles, trompeuses de personnalités ou d’événements publics ou susceptibles d’induire en erreur". Mais selon Bloomberg, il est facile de contourner ces restrictions.