L’un des pionniers de l’IA quitte Google pour alerter contre son invention: “C’est terrifiant”
Après un travail long d’un demi-siècle, il fait partie des fondateurs de la technologie de l’intelligence artificielle. Aujourd’hui, Geoffrey Hinton (75 ans) a décidé de quitter Google pour mettre en garde contre les dangers de son invention.
Après avoir travaillé chez Google pendant plus d’une décennie, Geoffrey Hinton a récemment décidé de partir, selon ses propres termes, pour partager librement ses inquiétudes sur l’intelligence artificielle. Une partie de lui regrette donc l’œuvre de sa vie, explique-t-il au New York Times: “Je me console en me disant que si je ne l’avais pas fait, quelqu’un d’autre l’aurait fait”.
Le pionnier devenu sceptique
En 2012, le pionnier de l’IA à l’université de Toronto a mis au point, avec deux de ses doctorants, la technologie qui est devenue la base intellectuelle des systèmes d’IA, considérée aujourd’hui par les plus grandes entreprises du secteur (Google, Microsoft, etc.) comme essentiels à leur avenir. Leur petite entreprise a été rachetée par Google, et M. Hinton - qui développe l’intelligence artificielle depuis les années 1970 - est devenu l’une des voix les plus respectées dans le monde de l’IA au cours de la dernière décennie.
Mais lundi, le Britannique de 75 ans, qui a reçu le prix Turing en 2019 (assimilé au “prix Nobel de l’informatique”), a rejoint le camp des sceptiques. Il estime désormais que la volonté des grandes entreprises de créer des produits basés sur l’intelligence artificielle est préoccupante.
Il est difficile de voir comment on peut empêcher les mauvais acteurs de l’utiliser à des fins malveillantes
Les dangers de l’IA sont nombreux, estime-t-il. De la désinformation, une perte de 300 millions d’emplois dans le monde et même un risque pour l’humanité à long terme. “Il est difficile de voir comment on peut empêcher les mauvais acteurs de l’utiliser à des fins malveillantes”, affirme le pionnier de l’IA, qui a longtemps pensé que cette invention serait positive.
En peu de temps, les systèmes d’IA de Google et d’OpenAI ont fait d’immenses progrès en utilisant d’énormes quantités de données. “Regardez ce qu’il en était il y a cinq ans et ce qu’il en est aujourd’hui”, déclare-t-il à propos de la technologie de l’IA. “C’est terrifiant. Dans certains domaines, les systèmes d’IA de Google et d’OpenAI éclipsent déjà l’intelligence humaine”, selon M. Hinton. “Ce qui se passe dans ces systèmes pourrait être bien supérieur à ce que ce qui se passe dans le cerveau”.
Course
Selon M. Hinton, jusqu’à l’année dernière, Google gérait la technologie de l’IA en “bon père de famille” et se montrait très prudent quant à la diffusion de technologies susceptibles de causer des dommages. Mais maintenant que son rival Microsoft a équipé son moteur de recherche Bing d’un chatbot, le plaçant sur le chemin de Google, ce dernier fait tout son possible pour déployer une technologie similaire.
Selon M. Hinton, la course mondiale entre Google, Microsoft et d’autres entreprises technologiques concurrentes pourrait devenir incontrôlable, et ne pourrait être arrêtée sans une réglementation. C’est pourquoi, selon lui, les plus grands scientifiques du monde doivent travailler ensemble sur les moyens de réguler la technologie. “Je ne pense pas qu’il faille développer encore plus cette technologie tant que l’on n’est pas sûrs de pouvoir la contrôler”, déclare-t-il.
Le citoyen moyen peut devenir incapable de savoir ce qui est vrai et ce qui ne l’est pas
Dans un premier temps, M. Hinton craint qu’en l’absence de réglementation, Internet soit inondé de photos, de vidéos et de textes falsifiés. “Le citoyen moyen peut devenir incapable de savoir ce qui est vrai et ce qui ne l’est pas”. À long terme, il craint des conséquences pour l’humanité lorsque des “robots tueurs” (des machines conçues pour tuer de manière entièrement autonome) verront la “lumière artificielle du jour”. M. Hinton est donc fermement opposé à l’utilisation de l’intelligence artificielle lors des guerres. Ce n’est pas pour rien qu’au cours de sa carrière, il est parti des États-Unis - où il a travaillé comme professeur d’informatique dans les années 1980 - pour le Canada: il ne voulait pas prendre l’argent du Pentagone, qui finançait à l’époque la majeure partie de la recherche sur l’intelligence artificielle.
“Plus intelligents que les humains”
Lorsqu’on lui demandait comment il pouvait travailler sur des technologies potentiellement dangereuses, Hinton répondait toujours en citant le “père de la bombe atomique” Robert Oppenheimer : “Si vous voyez quelque chose qui est techniquement beau, vous allez de l’avant et vous le faites”.
Aujourd’hui, son discours a changé. “L’idée que cette technologie puisse devenir plus intelligente que l’homme n’a convaincu que quelques personnes”, explique M. Hinton. “La plupart des gens pensaient que cela prendrait beaucoup de temps. Moi aussi. Je pensais qu’il faudrait encore 30 à 50 ans, voire plus. Il est évident que je ne le pense plus aujourd’hui”.
Gratis onbeperkt toegang tot Showbytes? Dat kan!
Log in of maak een account aan en mis niks meer van de sterren.Aussi dans l'actualité
-
Apple lance de nouvelles tablettes et une nouvelle puce meilleure en IA
-
La police s’oppose aux messageries chiffrées de bout en bout: “Les criminels peuvent communiquer en toute sécurité”
Le service de police européenne Europol et les responsables des polices nationales d’Europe s’opposent au chiffrement de bout, assurant seuls émetteur et destinataire sont à même d’avoir accès à des messages échangés. Ils craignent que ce procédé donne les coudées franches aux criminels. -
“Des petits frais”: les nouveaux utilisateurs de X devront payer pour publier des messages
Les nouveaux utilisateurs de X (ex-Twitter) devront payer de “petits frais” pour publier sur la plateforme pendant une durée de trois mois, a suggéré lundi soir le patron du réseau social, Elon Musk, dans un message. -
La chienne à l’origine du phénomène internet du “Doge” et du dogecoin est morte
Kabosu, une chienne de la race japonaise shiba inu dont une photo était devenue un célèbre “mème” sur internet et qui a inspiré le logo de la cryptomonnaie Dogecoin, prisée par Elon Musk, est morte vendredi au Japon, a annoncé sa propriétaire. -
TikTok bientôt interdit aux États-Unis? La Chambre des représentants lance un ultimatum au réseau social
La Chambre américaine des représentants a lancé un ultimatum à TikTok samedi en adoptant une proposition de loi qui peut interdire TikTok aux États-Unis si le très populaire réseau social ne coupe pas ses liens avec sa maison-mère ByteDance, et plus largement avec la Chine.
-
Guide-epargne.be
Pourquoi certains comptes d'épargne sont-ils plus rentables que d'autres? Et comment choisir le meilleur compte?
-
Mise à jour
L’application myGov.be est désormais disponible pour tous les Belges: quelles sont ses fonctionnalités?
Le fédéral a lancé mardi l’application myGov.be, à la fois portefeuille virtuel de documents officiels et guichet électronique pour faire parvenir des requêtes à l’administration. Le “wallet” a été testé en début d’année par plus d’une centaine de citoyens. Il est désormais accessible à tous, sans obligation. -
Monenergie.be
Les enfants qui n'éteignent jamais les lumières: quel coût annuel y est lié?
Une source d’irritation classique dans la plupart des ménages: les enfants qui refusent d’éteindre la lumière en quittant une pièce. “Tu ne sais pas ce que cela nous coûte?”, répliquent leurs parents. Mais connaissez-vous bien la réponse vous-même? Ci-dessous, Monenergie.be a fait le calcul.