Les algorithmes prédictifs, le casse-tête annoncé pour les juges et avocats

Qu’est-ce qu’un algorithme prédictif ?

Un algorithme prédictif est un programme informatique qui exécute instantanément une succession de calculs mathématiques. Son but : analyser, interpréter et doter de sens d’innombrables données pouvant émaner de sources diverses. Quand ses données sont issues d’une multitude d’individus, on parlera de Big Data.

Quels sont les domaines d’application ?

Bien évidemment, les algorithmes prédictifs sont utilisés pour des usages de commerce électronique. Ils servent ainsi à apprécier la réceptivité des prospects à une offre personnalisée, offre qui aura été élaborée en fonction d’un profilage effectué via l’infinité de traces laissées sur les réseaux. On pense ainsi à Amazon qui a mis en place un algorithme grâce auquel la plateforme envoie au client un produit qu’il pourrait vouloir acheter près de chez lui avant même qu’il le commande.

D’autres domaines sont également visés par l’usage de ces algorithmes : la médecine prédictive, permettant de préciser le profil type des personnes à risque, la police prédictive, optimisant le déploiement des forces de police par l’analyse des données de la criminalité...

Quels sont les risques ?

Avant tout, l’algorithme prédictif n’est pas neutre ! Il est le résultat de la programmation effectuée par une entreprise et son paramétrage, souvent secret (couvert par le secret des affaires), permet d’influer sur le ranking de certaines pages.

En pratique, nombre de moteurs de recherches tentent de transformer l’audience de leur outil principal en clients pour leurs services annexes : on sait que la plupart d’entre eux affichent des publicités dans la marge droite de la fenêtre de résultats, mais Google est monté d’un cran en proposant, directement dans cette même fenêtre, une liste de produits qui peuvent être acquis par l’internaute qui aura cherché "Dell", "Sony", etc. Cette liste est dite "sponsorisée" et identifiée comme telle car elle provient d’un contrat de publicité entre les marchands et Google… mais dans les faits elle aboutit à une relégation au second plan – en bas de page – des liens "normaux". Le service de publicité Google fait ainsi directement concurrence au moteur de recherche du même nom, qui se trouve être le plus puissant du marché.

L’encadrement législatif des algorithmes prédictifs

Face à ce risque d’influence invisible, le Conseil d’Etat a proposé en 2014 de mettre en place des garanties de procédure et de transparence, lorsque des données personnelles sont utilisées par un algorithme mais aussi pour contrôler les résultats produits par les algorithmes, notamment pour détecter des discriminations illicites.

Dans cette optique, la dernière version du projet de loi pour la République numérique traite de cette question puisque le projet d’article L. 111-7 du Code de la consommation relatif à la loyauté des plateformes en ligne énonce :

"Est qualifiée d’opérateur de plateforme en ligne toute personne physique ou morale proposant, à titre professionnel, de manière rémunérée ou non, un service de communication en ligne reposant sur :

"1° Le classement ou le référencement, au moyen d’algorithmes informatiques, de contenus, de biens ou de services proposés ou mis en ligne par des tiers ;

"2° Ou la mise en relation de plusieurs parties en vue de la vente d’un bien, de la fourniture d’un service ou de l’échange ou du partage d’un contenu, d’un bien ou d’un service.

"Tout opérateur de plateforme en ligne est tenu de délivrer au consommateur une information loyale, claire et transparente sur les conditions générales d’utilisation du service d’intermédiation qu’il propose et sur les modalités de référencement, de classement et de déréférencement des contenus, des biens ou des services auxquels ce service permet d’accéder. L’opérateur fait apparaître clairement l’existence d’une relation contractuelle avec la personne référencée, d’un lien capitalistique avec elle ou d’une rémunération à son profit, dès lors qu’ils influencent le classement ou le référencement des contenus, des biens ou des services proposés ; [...]".

Même si, pour l’heure, il ne s’agit encore que de projets législatifs, des juges à l’étranger se sont déjà positionnés sur cette épineuse question.

Le "predictive coding", le "e-Disclosure"/e-Discovery et le Juge anglais

Le 16 février 2016, une jurisprudence importante de la High Court of Justice de Londres Pyrrho Investments Ltd v MWB Property Ltd & Ors est venue confirmer l’intégration du Predictive coding dans le cadre du "e-Disclosure" à l’anglaise, c’est-à-dire la communication électronique des preuves. Bien sûr, cette chronique n’a pas pour objectif d’expliquer les arcanes procédurales en Angleterre. Cependant, il faut noter que, désormais, dans le cadre de procédures d’e-Discovery Outre Manche mais aussi Outre Atlantique et donc dans un contexte de Common Law, les pièces échangées entre les parties (par exemple des mails) peuvent dépasser allégrement le million. Dans le cas d’espèce, le nombre de fichiers électroniques transmis par une partie à l’autre dépassait les 17,6 millions, réduits à 3,1 millions une fois les doubles de documents contenus dans les enregistrements supprimés. De facto, le traitement de cette quantité de données n’était pas humainement faisable dans une optique contentieuse.

Une règle de Procédure civile anglaise (Civile Procedure Rules - Part 31) permet de déterminer le caractère raisonnable ou non d’une recherche via des outils informatiques lorsque l’une des Parties est confrontée à une telle quantité d’informations.

La question de la licéité du recours à un logiciel d’algorithme prédictif (plus efficace qu’une recherche par mots-clés et renvoyant au standard d’un "Senior Lawyer" comme étalon afin de juger de la performance du logiciel) par une des Parties dans le cadre de la recherche des informations pertinentes pour la défense de ses intérêts, s’est donc posée. Le Juge a considéré que le recours à ce logiciel était valable eu égard aux intérêts financiers en jeu (plusieurs dizaines de millions de livres pour le litige) et à la réduction du budget juridique (2/3 de moins de frais d’avocat). En outre, dans le cas d’espèce, les Parties ont accepté expressément de recourir à ce logiciel.

Reste la question du paramétrage de ces algorithmes, de leur impartialité mais aussi de leur auditabilité...

Pascal Agosti, Avocat associé, Docteur en droit