L’un des pionniers de l’IA quitte Google pour alerter contre son invention: “C’est terrifiant”
Après un travail long d’un demi-siècle, il fait partie des fondateurs de la technologie de l’intelligence artificielle. Aujourd’hui, Geoffrey Hinton (75 ans) a décidé de quitter Google pour mettre en garde contre les dangers de son invention.
Après avoir travaillé chez Google pendant plus d’une décennie, Geoffrey Hinton a récemment décidé de partir, selon ses propres termes, pour partager librement ses inquiétudes sur l’intelligence artificielle. Une partie de lui regrette donc l’œuvre de sa vie, explique-t-il au New York Times: “Je me console en me disant que si je ne l’avais pas fait, quelqu’un d’autre l’aurait fait”.
Le pionnier devenu sceptique
En 2012, le pionnier de l’IA à l’université de Toronto a mis au point, avec deux de ses doctorants, la technologie qui est devenue la base intellectuelle des systèmes d’IA, considérée aujourd’hui par les plus grandes entreprises du secteur (Google, Microsoft, etc.) comme essentiels à leur avenir. Leur petite entreprise a été rachetée par Google, et M. Hinton - qui développe l’intelligence artificielle depuis les années 1970 - est devenu l’une des voix les plus respectées dans le monde de l’IA au cours de la dernière décennie.
Mais lundi, le Britannique de 75 ans, qui a reçu le prix Turing en 2019 (assimilé au “prix Nobel de l’informatique”), a rejoint le camp des sceptiques. Il estime désormais que la volonté des grandes entreprises de créer des produits basés sur l’intelligence artificielle est préoccupante.
Il est difficile de voir comment on peut empêcher les mauvais acteurs de l’utiliser à des fins malveillantes
Les dangers de l’IA sont nombreux, estime-t-il. De la désinformation, une perte de 300 millions d’emplois dans le monde et même un risque pour l’humanité à long terme. “Il est difficile de voir comment on peut empêcher les mauvais acteurs de l’utiliser à des fins malveillantes”, affirme le pionnier de l’IA, qui a longtemps pensé que cette invention serait positive.
En peu de temps, les systèmes d’IA de Google et d’OpenAI ont fait d’immenses progrès en utilisant d’énormes quantités de données. “Regardez ce qu’il en était il y a cinq ans et ce qu’il en est aujourd’hui”, déclare-t-il à propos de la technologie de l’IA. “C’est terrifiant. Dans certains domaines, les systèmes d’IA de Google et d’OpenAI éclipsent déjà l’intelligence humaine”, selon M. Hinton. “Ce qui se passe dans ces systèmes pourrait être bien supérieur à ce que ce qui se passe dans le cerveau”.
Course
Selon M. Hinton, jusqu’à l’année dernière, Google gérait la technologie de l’IA en “bon père de famille” et se montrait très prudent quant à la diffusion de technologies susceptibles de causer des dommages. Mais maintenant que son rival Microsoft a équipé son moteur de recherche Bing d’un chatbot, le plaçant sur le chemin de Google, ce dernier fait tout son possible pour déployer une technologie similaire.
Selon M. Hinton, la course mondiale entre Google, Microsoft et d’autres entreprises technologiques concurrentes pourrait devenir incontrôlable, et ne pourrait être arrêtée sans une réglementation. C’est pourquoi, selon lui, les plus grands scientifiques du monde doivent travailler ensemble sur les moyens de réguler la technologie. “Je ne pense pas qu’il faille développer encore plus cette technologie tant que l’on n’est pas sûrs de pouvoir la contrôler”, déclare-t-il.
Le citoyen moyen peut devenir incapable de savoir ce qui est vrai et ce qui ne l’est pas
Dans un premier temps, M. Hinton craint qu’en l’absence de réglementation, Internet soit inondé de photos, de vidéos et de textes falsifiés. “Le citoyen moyen peut devenir incapable de savoir ce qui est vrai et ce qui ne l’est pas”. À long terme, il craint des conséquences pour l’humanité lorsque des “robots tueurs” (des machines conçues pour tuer de manière entièrement autonome) verront la “lumière artificielle du jour”. M. Hinton est donc fermement opposé à l’utilisation de l’intelligence artificielle lors des guerres. Ce n’est pas pour rien qu’au cours de sa carrière, il est parti des États-Unis - où il a travaillé comme professeur d’informatique dans les années 1980 - pour le Canada: il ne voulait pas prendre l’argent du Pentagone, qui finançait à l’époque la majeure partie de la recherche sur l’intelligence artificielle.
“Plus intelligents que les humains”
Lorsqu’on lui demandait comment il pouvait travailler sur des technologies potentiellement dangereuses, Hinton répondait toujours en citant le “père de la bombe atomique” Robert Oppenheimer : “Si vous voyez quelque chose qui est techniquement beau, vous allez de l’avant et vous le faites”.
Aujourd’hui, son discours a changé. “L’idée que cette technologie puisse devenir plus intelligente que l’homme n’a convaincu que quelques personnes”, explique M. Hinton. “La plupart des gens pensaient que cela prendrait beaucoup de temps. Moi aussi. Je pensais qu’il faudrait encore 30 à 50 ans, voire plus. Il est évident que je ne le pense plus aujourd’hui”.
Gratis onbeperkt toegang tot Showbytes? Dat kan!
Log in of maak een account aan en mis niks meer van de sterren.Aussi dans l'actualité
-
Un pirate éthique sauve les données sensibles de milliers de Belges en dévoilant une faille de sécurité
-
Guide-epargne.be
Pourquoi certains comptes d'épargne sont-ils plus rentables que d'autres? Et comment choisir le meilleur compte?
Entre le compte d’épargne le plus rentable et le moins rentable, il y a un écart de 2,8 points de pourcentage au niveau des intérêts globaux. Il vaut donc vraiment la peine de comparer. Mais d’où provient cette différence? Et comment choisir un compte d’épargne fort rentable qui vous convient? Ci-dessous, Guide-epargne.be vous montre la voie à suivre. -
ByteDance ne compte pas vendre l’application TikTok malgré l’ultimatum américain
La maison-mère chinoise de TikTok, ByteDance, a annoncé jeudi n’avoir aucune intention de vendre son application malgré une nouvelle loi américaine qui l’oblige à couper ses liens avec le réseau social sous peine d’interdiction aux États-Unis. -
Comment le groupe de hacker russe “sandworm” est en passe de devenir une menace mondiale
Sandworm, un groupe de pirates informatiques actif en Ukraine et lié aux services de renseignement russes, est en passe de devenir une menace mondiale importante, a averti mercredi une importante société de cybersécurité. -
Le danger des “neurotechnologies”, ces appareils capables d’enregistrer l’activité du cerveau, voire de l’influencer
Une ONG américaine a mis en garde mercredi contre les dangers liés aux “neurotechnologies” pour le grand public, c’est-à-dire la commercialisation d’appareils capables d’enregistrer l’activité du cerveau, voire de l’influencer, sans garde-fous suffisants pour les consommateurs.
-
La mésaventure d’un directeur d’école illustre les dangers de l’IA
-
Mise à jour
L’application myGov.be est désormais disponible pour tous les Belges: quelles sont ses fonctionnalités?
Le fédéral a lancé mardi l’application myGov.be, à la fois portefeuille virtuel de documents officiels et guichet électronique pour faire parvenir des requêtes à l’administration. Le “wallet” a été testé en début d’année par plus d’une centaine de citoyens. Il est désormais accessible à tous, sans obligation. -
Monenergie.be
Les enfants qui n'éteignent jamais les lumières: quel coût annuel y est lié?
Une source d’irritation classique dans la plupart des ménages: les enfants qui refusent d’éteindre la lumière en quittant une pièce. “Tu ne sais pas ce que cela nous coûte?”, répliquent leurs parents. Mais connaissez-vous bien la réponse vous-même? Ci-dessous, Monenergie.be a fait le calcul.