Comment réguler l’utilisation de ChatGPT ? Quand il s’agit de corriger des copies de collégiens, les termes du débat sont simples. Ils deviennent vertigineux quand le fautif est un juge et la «copie» une sentence judiciaire. Au Brésil, le Conseil national de justice (CNJ), organe public chargé de veiller au bon fonctionnement du système judiciaire, a dû demander au magistrat Jefferson Rodrigues de s’expliquer quant à une décision truffée d’erreurs. Rédigée à l’aide de l’intelligence artificielle, elle multipliait les références erronées.
L’affaire a été révélée lorsque l’avocat de la partie perdante a découvert l’erreur, avant de saisir la justice, d’après le média brésilien Mundo Conectado. Parmi les fautes notées, des éléments de jurisprudence inexistants attribués au Tribunal supérieur de justice (STJ) – une des plus hautes instances judiciaires au Brésil – utilisés pour rendre la décision.
Une «simple erreur»
Jefferson Rodrigues aurait confié l’élaboration de cette sentence à un «collaborateur de confiance» qui s’est aidé de l’outil ChatGPT, d’après un document du CNJ. Les erreurs «ont eu lieu en raison de l’utilisation d’un outil virtuel qui s’est révélé inadéquat», s’est expliqué ce juge fédéral de l’Etat d’Acre. Il a attribué cette «simple erreur» à «la surcharge de travail» des magistrats brésiliens. Face à la polémique, le CNJ, qui avait initialement choisi de classer l’affaire, a décidé de rouvrir l’enquête, plaçant l’incident sous haute surveillance.
«Nous pensons qu’il s’agit du premier cas de ce type», a estimé le Conseil national de justice. L’organe a donné 15 jours au magistrat pour fournir plus d’explications. Le recours à l’intelligence artificielle est de plus en plus courant dans les tribunaux brésiliens, selon le conseil. La technologie est supposée accélérer et faciliter le travail du système judiciaire, mais n’a pas encore été encadrée par la loi dans le pays.
Ce genre de problèmes s’était déjà fait jour chez les voisins colombiens, quand le juge Juan Manuel Padilla avait admis s’être aidé de ChatGPT, qui remplissait alors «seulement» un travail de «secrétaire» d’après le magistrat. L’affaire portait sur la demande d’une mère souhaitant que son fils soit exempté du paiement des rendez-vous médicaux, des traitements et du transport vers des centres hospitaliers. «Le mineur autiste est-il dispensé de payer des frais de modération pour ses thérapies ?», a donc demandé le juge à ChatGPT, selon la transcription de sa décision. Question à laquelle l’application a répondu : «Oui, c’est exact. Selon la loi en vigueur en Colombie, les mineurs ayant reçu un diagnostic d’autisme sont exemptés du paiement de frais de modération pour leurs thérapies». Suivant la réponse de l’intelligence artificielle, Padilla a statué en faveur de l’enfant et sa famille. Ce coup-ci, l’IA avait tout bon.