Attention aux apprentis sorciers du « Big Data »

Internet a profondément modifié notre relation au temps. Notre dépendance à la connexion nous ancre dans le présent immédiat. Internet a, de plus, fait disparaître le passé. En effet, les supports de données deviennent permanents (alors que dans le passé, ils pouvaient disparaître physiquement) et immédiatement accessibles (alors que dans le passé, ils pouvaient être enfouis sous d’autres supports), ce qui nous oblige à réinventer un droit à l’oubli.

Mais c’est maintenant notre futur qu’Internet met en jeu avec l’ère des « Big Data ». L’essor d’Internet a entraîné l’explosion du volume des données collectées et conservées. Le terme « Big Data » désigne un outil qui permet le traitement desdites données (cet outil traite, avec une haute vélocité, de gros volume et une grande variété de données).

Les « Big Data » posent déjà, vis-à-vis de l’individu, un problème au niveau de la collecte et du traitement des données personnelles. Les outils juridiques existent, et cette question sera donc probablement rapidement réglée, au moins au niveau français ou européen puisque la protection de telles données n’existe pas aux Etats-Unis.

Prédictions

Ce qui doit nous préoccuper aujourd’hui, c’est l’usage qui sera fait de ces « Big Data ».

Ils nous permettront certes d’appréhender différemment le présent. Lors d’un événement sportif par exemple, le supporter aura accès, en temps réel, à toutes les données concernant la compétition ou les sportifs. Les « Big Data » nous permettront aussi de mieux connaître le passé. Elles seront alors une version très élaborée des statistiques.

Mais prédire le futur représente un enjeu encore plus fort. Il existe déjà des « Big Data », et c’est louable, destinées à prévoir des catastrophes naturelles (tremblements de terre, tsunami, etc.…) ou des risques épidémiques. Une telle utilisation permet de prévenir ou de protéger les populations et donc de réduire les pertes humaines.

Le danger est que les « Big Data » soient aussi utilisées pour prédire des comportements humains à venir.

Aux Etats-Unis, une start-up propose déjà aux policiers de s’abonner à la base de données Predpol (pour Predictive Policing, www.predpol.com) qui a pour objet de fournir des prédictions sur les lieux et les moments où certains futurs délits (cambriolage, vols de voiture et vol dans les lieux publics) vont se commettre.

Manipulations génétiques

Cette base de données regroupe les archives de délinquance d’une ville depuis une dizaine d’années. Elle est mise à jour en continu. Ce sont les algorithmes créés par Predpol qui fournissent les prédictions. Pour le moment, cette application exclut les données personnelles des délinquants (et donc le profilage).

Limiter les comportements humains à venir à une simple probabilité en fonction des expériences passées est, en soi, assez réducteur. Cela consiste à aller de l’avant en marche arrière en regardant dans le rétroviseur. C’est aussi la négation de l’aléa, consubstantiel au futur. De surcroît, le cœur de la prédiction repose sur les algorithmes qui sont généralement gardés précieusement secrets. Qui en garantira la fiabilité et l’intégrité ?

Ce produit est présenté aujourd’hui comme une simple aide à la décision. Mais qu’en sera-t-il demain ? Jusqu’où ira-t-on ? Une fois que les « Big Data » auront permis de prédire un délit avec une fiabilité acceptable, ne conviendrait-il pas ensuite de prédire le profil du délinquant ? Puis de constituer des « Big Data » d’ADN de délinquants pour déceler le gène criminel ? Puis enfin, d’éradiquer ledit gène de la surface de la terre dans le meilleur des cas par des manipulations génétiques ?

Prédire l’avenir est un des grands rêves des apprentis sorciers. Ces rêves ne sont pas sans danger lorsqu’ils concernent le futur de l’humanité. Il est urgent de réfléchir sur la dimension éthique de l’usage des « Big Data » à des fins de prédictions des comportements humains.

Fabrice Lorvo (Avocat au cabinet FTPA)