La face (très) noire de l'intelligence artificielle

Dernièrement, on l'aura noté, s'alarmer des fantaisies prométhéennes du transhumanisme est devenu aussi banal que de vanter les vertus de la méditation ou des câlins aux troncs d'arbres. En revanche, plonger dans le grand bain de l'intelligence artificielle (IA) aux fins d'interroger les conséquences de cette numérisation du monde l'est beaucoup moins. C'est à ce projet ambitieux que s'attelle depuis plusieurs années l'essayiste Eric Sadin. Le titre du dernier livre de cet observateur reconnu du monde digital laisse peu d'ambiguïté sur ses conclusions : L'Intelligence artificielle ou l'enjeu du siècle. Anatomie d'un antihumanisme radical.

L'IA, acronyme désormais fameux condensant à lui seul toute la puissance de l'hypermodernité et du progrès, concourrait ainsi à notre perte. Et avec notre complicité tacite, tant les bénéfices et le confort qu'elle offre nous entretiennent dans une indolence pernicieuse. "Le libre exercice de notre faculté de jugement et d'action se trouve substitué par des protocoles destinés à infléchir chacun de nos actes ou chaque impulsion du réel en vue de leur insuffler la bonne trajectoire à suivre, écrit Eric Sadin. L'humanité se dote à grands pas d'un organe de dessaisissement d'elle-même, de son droit à décider, en conscience et en responsabilité, des choix qui la regardent. Un statut anthropologique et ontologique inédit prend forme."

Le propos - c'est là toute son originalité - dépasse la question rebattue du pillage des données individuelles, de l'opacité des logiciels ou du "grand remplacement" des salariés par les robots. Nulle glose, non plus, sur IA "faible" ou "IA" forte, car, déjà, l'entreprise de démolition de l'humain est en cours, assure Sadin. S'immisçant dans chaque interstice de la société et du quotidien des individus, ce nouveau mode de rationalité serait en passe de devenir un "principe technique intégral". Sa capacité à décrypter le réel mieux que n'importe quel esprit humain troublé par sa subjectivité le rend en effet plus que convaincant, irrésistible. Mieux : ses analyses, constamment améliorées grâce aux logiciels de machine learning permettant aux dispositifs d'auto-apprendre en permanence, lui confèrent une fiabilité, une "autorité" inédite dans l'histoire des techniques.

En conséquence de quoi, nous laissons l'IA conditionner nos comportements et nos choix, depuis le GPS recommandant de sortir de l'autoroute, alors que nul bouchon ne se profile à l'horizon, jusqu'au suivi d'un traitement médical. Un "nouveau régime de vérité" s'instaure, s'inquiète Eric Sadin, qui délégitime l'incertitude et l'hésitation, alors même que nous croyions en avoir fini, depuis Nietzsche, avec les doxas éternelles.

Il est sûr que dès l'instant où vient à s'imposer la technologie, dont la finalité est de "servir à" (améliorer les conditions de travail, d'existence, etc.), celle-ci tend à imprimer aux sociétés son principe fonctionnel et utilitaire. Pour Sadin, c'est déjà chose faite. La singularité des êtres, la place laissée au hasard et à l'intuition pèsent désormais peu de poids dans les processus de décision. Des "agents conversationnels" font passer des entretiens d'embauche ; des logiciels déterminent l'octroi de prêts aux particuliers ou président à la libération de détenus dont ils ont calculé les risques de récidive...

En Chine, raconte Sadin, une expérimentation est en cours, afin d'"évaluer scientifiquement" les comportements sociaux des individus. Chaque citoyen dispose d'un capital de 1 000 points, qu'il voit fondre s'il fraude dans les transports, paie ses factures en retard, fume dans des lieux interdits, etc. Pour le reconstituer, il doit attester de son sens civique en donnant son sang ou en aidant les autres. Cette expérience est révélatrice, aux yeux de l'auteur, de ce qu'augure, à terme, le règne de l'IA : une civilisation dans laquelle une foultitude de dispositifs, pilotés par les Gafa, orienteront l'action humaine en fonction de normes éthiques prétendument imposées au nom du bien commun. Une seule issue : la révolte.

Dans ce réquisitoire argumenté, adossé à maintes références philosophiques, les lecteurs de Jacques Ellul reconnaîtront la pensée de cet intellectuel libertaire, dont Sadin réinterprète le titre le plus connu, La technique ou l'enjeu du siècle. Ellul, théologien et spécialiste de Marx disparu en 1994, se forgea une solide réputation d'original en dénonçant à contre-courant, pendant les Trente Glorieuses, la "sacralisation" de la technique.

Sadin, lui, jouit d'un contexte plus favorable. Militants ou intellectuels, ils sont nombreux, en ce siècle de tourments, à fustiger l'alliance des technosciences et d'un libéralisme utilitariste omnipotent. Eric Sadin pointe à raison l'affinité entre la logique comparative de l'IA au coeur de nos usages - des logiciels nous trouvent le "meilleur" prix, le "meilleur" gîte de vacances - et le principe de mise en concurrence propre à l'économie de marché. Mais sa dénonciation obsédante du techno-libéralisme vire parfois à la caricature. L'intelligence artificielle permet aussi de gagner sur la maladie et de sauver des vies. Admettre ses incidences positives n'eût rien ôté à la nécessité de la considérer avec la plus grande circonspection.

L'Intelligence artificielle ou l'enjeu du siècle, L'Echappée, 298 p., 18 euros.