L’un des pionniers de l’IA quitte Google pour alerter contre son invention: “C’est terrifiant”

Après avoir travaillé chez Google pendant plus d’une décennie, Geoffrey Hinton a récemment décidé de partir, selon ses propres termes, pour partager librement ses inquiétudes sur l’intelligence artificielle. Une partie de lui regrette donc l’œuvre de sa vie, explique-t-il au New York Times: “Je me console en me disant que si je ne l’avais pas fait, quelqu’un d’autre l’aurait fait”.

En 2012, le pionnier de l’IA à l’université de Toronto a mis au point, avec deux de ses doctorants, la technologie qui est devenue la base intellectuelle des systèmes d’IA, considérée aujourd’hui par les plus grandes entreprises du secteur (Google, Microsoft, etc.) comme essentiels à leur avenir. Leur petite entreprise a été rachetée par Google, et M. Hinton - qui développe l’intelligence artificielle depuis les années 1970 - est devenu l’une des voix les plus respectées dans le monde de l’IA au cours de la dernière décennie.

Mais lundi, le Britannique de 75 ans, qui a reçu le prix Turing en 2019 (assimilé au “prix Nobel de l’informatique”), a rejoint le camp des sceptiques. Il estime désormais que la volonté des grandes entreprises de créer des produits basés sur l’intelligence artificielle est préoccupante.

Les dangers de l’IA sont nombreux, estime-t-il. De la désinformation, une perte de 300 millions d’emplois dans le monde et même un risque pour l’humanité à long terme. “Il est difficile de voir comment on peut empêcher les mauvais acteurs de l’utiliser à des fins malveillantes”, affirme le pionnier de l’IA, qui a longtemps pensé que cette invention serait positive.

En peu de temps, les systèmes d’IA de Google et d’OpenAI ont fait d’immenses progrès en utilisant d’énormes quantités de données. “Regardez ce qu’il en était il y a cinq ans et ce qu’il en est aujourd’hui”, déclare-t-il à propos de la technologie de l’IA. “C’est terrifiant. Dans certains domaines, les systèmes d’IA de Google et d’OpenAI éclipsent déjà l’intelligence humaine”, selon M. Hinton. “Ce qui se passe dans ces systèmes pourrait être bien supérieur à ce que ce qui se passe dans le cerveau”.

Selon M. Hinton, jusqu’à l’année dernière, Google gérait la technologie de l’IA en “bon père de famille” et se montrait très prudent quant à la diffusion de technologies susceptibles de causer des dommages. Mais maintenant que son rival Microsoft a équipé son moteur de recherche Bing d’un chatbot, le plaçant sur le chemin de Google, ce dernier fait tout son possible pour déployer une technologie similaire.

Selon M. Hinton, la course mondiale entre Google, Microsoft et d’autres entreprises technologiques concurrentes pourrait devenir incontrôlable, et ne pourrait être arrêtée sans une réglementation. C’est pourquoi, selon lui, les plus grands scientifiques du monde doivent travailler ensemble sur les moyens de réguler la technologie. “Je ne pense pas qu’il faille développer encore plus cette technologie tant que l’on n’est pas sûrs de pouvoir la contrôler”, déclare-t-il.

Dans un premier temps, M. Hinton craint qu’en l’absence de réglementation, Internet soit inondé de photos, de vidéos et de textes falsifiés. “Le citoyen moyen peut devenir incapable de savoir ce qui est vrai et ce qui ne l’est pas”. À long terme, il craint des conséquences pour l’humanité lorsque des “robots tueurs” (des machines conçues pour tuer de manière entièrement autonome) verront la “lumière artificielle du jour”. M. Hinton est donc fermement opposé à l’utilisation de l’intelligence artificielle lors des guerres. Ce n’est pas pour rien qu’au cours de sa carrière, il est parti des États-Unis - où il a travaillé comme professeur d’informatique dans les années 1980 - pour le Canada: il ne voulait pas prendre l’argent du Pentagone, qui finançait à l’époque la majeure partie de la recherche sur l’intelligence artificielle.

Lorsqu’on lui demandait comment il pouvait travailler sur des technologies potentiellement dangereuses, Hinton répondait toujours en citant le “père de la bombe atomique” Robert Oppenheimer : “Si vous voyez quelque chose qui est techniquement beau, vous allez de l’avant et vous le faites”.

Aujourd’hui, son discours a changé. “L’idée que cette technologie puisse devenir plus intelligente que l’homme n’a convaincu que quelques personnes”, explique M. Hinton. “La plupart des gens pensaient que cela prendrait beaucoup de temps. Moi aussi. Je pensais qu’il faudrait encore 30 à 50 ans, voire plus. Il est évident que je ne le pense plus aujourd’hui”.