"C’était une erreur": Amnesty International fait son mea culpa après avoir diffusé des images générées par IA

L'organisation assure avoir tiré les leçons de la polémique. Auprès de Tech&Co, la branche française d'Amnesty International annonce que l'ONG de protection des droits humains dans son ensemble n’utilisera plus d’images générées par intelligence artificielle jusqu’à nouvel ordre.

La controverse part du 29 avril. Ce jour-là, Amnesty Norvège publie une série de tweets (depuis supprimés) pour dénoncer la répression policière des manifestations en Colombie en 2021. Ils sont accompagnés de texte décrivant des violences policières, et d’images qu’un rapide coup d’œil permet d’identifier comme générées par IA: visages souvent déformés, caractères illisibles, et mention "illustrations produites par intelligence artificielle" en petits caractères.

Des signaux qui n'auront pas suffi à éviter la polémique. De nombreux internautes ont dénoncé l'utilisation de fausses images en lieu et place des nombreuses photos existantes, prises par de véritables photojournalistes parfois au péril de leur vie. "C'est complètement insensible et irrespectueux des véritables victimes", s'est exclamé sur Twitter Jon Lam, un artiste militant contre les IA génératives d'images.

"Cette solution n'aurait pas dû être retenue"

"Des questions très légitimes", estime auprès de Tech&Co Katia Roux, chargée de plaidoyer sur les questions technologiques pour Amnesty France. "Pour Amnesty France, il est clair que c’est une erreur qui a été commise et qu’il faut l’assumer", affirme-t-elle.

"Cette publication n’aurait jamais dû être produite, ni publiée", affirme la responsable à Tech&Co.

Katia Roux explique la publication avait été initiée par les équipes d'Amnesty basées en en Amérique latine à la suite de concertations avec ses partenaires colombiens (associations, collectifs et ONG). "Les membres impliqués ont décidé d'utiliser des images artificielles pour protéger l'anonymat des personnes qui auraient pu apparaître sur les photos", explique la responsable.

"Mais cette solution n'aurait pas dû être retenue". Elle évoque d'autres possibilités, comme l'utilisation de photos authentiques dont on aurait flouté les visages.

Des IA bannies jusqu'à nouvel ordre

L’indignation avait été particulièrement forte chez certains photojournalistes, qui couvrent ce genre d'événement malgré de grands risques. "J'ai un ami qui a perdu un œil [dans ces manifestations]", s'exclamait Juancho Torres, un photojournaliste travaillant à Bogota et cité par le Guardian.

"Amnesty considère le travail des photojournalistes, qui prennent parfois de très grands risques pour documenter la réalité, comme absolument essentiel", assure Katia Roux à Tech&Co.

C'est pour ces raisons qu'"Amnesty International a décidé de bannir l’utilisation d’images générées par IA dans sa communication jusqu’à nouvel ordre", souligne Katia Roux. Le mouvement a également engagé une réflexion coordonnée au niveau international sur son utilisation des systèmes d'intelligence artificielle.

L'ONG, et en particulier sa branche française, sont très actives dans les débats sur l'utilisation de l'intelligence artificielle, notamment autour de la reconnaissance faciale et biométrique. "Il faut que notre utilisation de ces IA reflète nos positions", poursuit Katia Roux. "Quand on porte un plaidoyer sur ces sujets, on se doit d'être cohérents, exemplaires, et extrêmement vigilants."

Petit à petit, certaines ONG se mettent à utiliser des IA génératives dans leur communication. La branche britannique de WWF a par exemple utilisé une IA pour imaginer les paysages britanniques des prochaines décennies face au réchauffement climatique. Mais pour le moment, leur usage est encore peu répandu.