Intelligence artificielle : premières plaintes déposées auprès de la Cnil contre ChatGPT

Au moins deux plaintes portant sur l'utilisation des données personnelles ont été déposées en France contre le robot conversationnel ChatGPT, déjà visé par diverses procédures dans plusieurs pays. Ces deux plaintes, révélées par le site L'Informé, ont été déposées mardi auprès de la Cnil, le gendarme français des données personnelles.

"On n'est pas anti-tech mais on souhaite une technologie éthique"

La première provient de l'avocate Zoé Vilain, présidente de l'association de sensibilisation aux enjeux du numérique Janus International. Elle l'affirme, "on n'est pas anti-tech, ". Dans sa plainte consultée par l'AFP, Zoé Vilain explique avoir créé un compte sur le site d'OpenAI, l'entreprise californienne à l'origine du logiciel, afin d'utiliser ChatGPT et avoir constaté l'absence de "conditions générales d'utilisation" à accepter, et d'"une quelconque politique de confidentialité".

Auprès de France Inter, l'avocate explique avoir "envoyé début février une demande d'accès à [ses] informations personnelles comme le permet le Règlement européen" et avoir "déposé plainte car à date ils n'ont pas donné droit à [sa] demande." Elle demande donc à la Cnil de l'aider à exercer son droit d'accès à ses informations personnelles collectées par OpenAI, après cette tentative infructueuse effectuée auprès de l'entreprise.

Des données personnelles utilisées ?

Une deuxième plainte a été déposée par David Libeau, développeur très investi dans la protection des données personnelles. Il explique dans sa plainte avoir repéré des informations personnelles le concernant en interrogeant ChatGPT sur son profil. Contacté par France Inter, David Libeau donne des précisions : "J'ai tenté de faire ressortir mon nom et prénom par ChatGPT sans qu'il ne le sache préalablement. Donc je lui ai posé une question et il m'a répondu avec mon nom et mon prénom. Après, j'ai pu demander plus d'informations et là, j'ai vu que ChatPGT donnait de fausses informations qui étaient liées à mon nom et prénom et c'est assez problématique."

Le développeur ajoute avoir été notamment motivé par la décision prise la semaine dernière par les autorités italiennes de bloquer provisoirement ChatGPT. "Vu qu'il y avait une question soulevée par la CNIL italienne, ça m'intéressait de creuser un peu plus le sujet et voir si moi aussi je pouvais trouver des failles dans le système. Ce qui est intéressant, c'est de poser la question à la CNIL et de voir comment elle va se débrouiller avec cette plainte-là et quelles mesures elle va prendre si elle décide de prendre des mesures."

L'intelligence artificielle générative, une technologie utilisée par ChatGPT pour générer des réponses et qui a été entraînée sur de gigantesques corpus de textes glanés sur Internet, a tendance à inventer certains faits, de l'aveu même de ses concepteurs. D'après David Libeau, cela contrevient à l'article 5 du Règlement européen sur les données personnelles (RGPD), selon lequel les informations sur des personnes doivent être exactes, et tout traitement de données doit être loyal.

ChatGPT est bloqué depuis la semaine dernière en Italie

Vendredi dernier, l'Italie est donc devenue le premier pays à bloquer provisoirement ChatGPT, en raison notamment de craintes sur la sécurité des données personnelles, l'absence d'une note d'information aux utilisateurs, et l'absence de filtre pour vérifier l'âge des utilisateurs. D'autres autorités européennes, dont celles de la France, de l'Irlande ou de l'Allemagne se sont depuis rapprochées de leur homologue italienne pour établir une position commune sur ChatGPT.

Mardi, le Commissariat à la protection de la vie privée du Canada a lui annoncé qu'il ouvrait une enquête sur OpenAI, toujours à propos des informations à caractère personnel. L'IA générative est également sous le coup de plaintes d'artistes et de photographes de presse qui veulent pouvoir accepter ou refuser que leurs œuvres soient utilisées pour l'entraînement d'un modèle.