Des chercheurs de l’Université de Chicago ont mis au point un nouvel algorithme qui devrait épauler, guider et surveiller les forces de l’ordre dans leur travail. Un nouvel algorithme permet de prédire les lieux de crimes et de révéler des biais dans les interventions policières aux États-Unis. En clair, cette technologie serait capable de prédire les lieux et dates de crimes dans plusieurs villes américaines. D’après les scientifiques, elle serait fiable à 90%. Deux objectifs Ce modèle prédictif s’est “entraîné” avec les données liées aux crimes de 2014 à 2016 de la ville de Chicago, aux États-Unis. Le logiciel a ensuite réussi à prédire “de façon rétroactive les crimes perpétués lors des semaines suivantes” rapporte BFM. L’équipe a ensuite réalisé des essais dans sept autres villes. D’après la revue scientifique Nature, la précision de la localisation se fait dans une zone de 300 mètres et avec une semaine d’avance. “La prédiction du crime et la police prédictive ont suscité la controverse, les derniers algorithmes basés sur l’intelligence artificielle ne donnant qu’un aperçu limité du système social du crime”, expliquent les scientifiques dans la revue. C’est ainsi qu’ils assurent que “si les modèles prédictifs peuvent renforcer le pouvoir de l’État par le biais de la surveillance criminelle, ils permettent également de surveiller l’État en traçant les biais systémiques dans l’application de la loi“. Éviter de reproduire des discriminations Les algorithmes ne sont pas neutres et peuvent être à l’origine d’inégalités. En effet, ils se basent sur des données et des résultats réalisés et choisis par des êtres humains. Ainsi, si, par exemple, la police de Chicago a effectué des arrestations sur la base de discriminations raciales, le risque est que l’intelligence artificielle, qui apprend et fait évoluer son comportement sur la base de ces données, reproduise le même schéma problématique. Pour lutter contre ce biais, le logiciel n’identifie pas de potentiels suspects, mais plutôt des endroits potentiels où pourraient avoir lieu des crimes. Aussi, pour assurer la transparence du processus, les chercheurs ont rendu le logiciel et ses données publics. Ainsi, d’autres scientifiques peuvent analyser et étudier l’ensemble. L’objectif est que ces derniers puissent notifier l’équipe en cas de biais ou autres problèmes. “De telles prédictions nous permettent d’étudier les perturbations des modèles de criminalité qui suggèrent que la réponse à l’augmentation de la criminalité est biaisée par le statut socio-économique du quartier, drainant les ressources politiques des zones socio-économiquement défavorisées, comme démontré dans huit grandes villes américaines”, concluent les scientifiques.