Mis sous pression par ses salariés, Google renonce à un contrat avec l’armée américaine sur l’intelligence artificielle

Développer l’intelligence artificielle pour optimiser les systèmes de repérage des drones militaires. Telle est l’ambition du projet Maven que mène Google en collaboration avec le Département de la Défense américaine. Lorsque ce projet a été révélé, par voie de presse, en mars dernier, le sang des salariés du géant d’Internet, dont le mantra est "Don’t Be Evil" (ne faites pas le mal), n’a fait qu’un tour.
Depuis, plus de 4 000 employés (sur 80 000) de la firme de la Silicon Valley ont signé une pétition pour mettre fin au projet. De plus, plusieurs directeurs se sont publiquement opposés à ce programme et des chercheurs ont démissionné avec fracas de la société. Les assurances données par Diane Greene, responsable du Cloud chez Google, sur le fait que ces développements technologiques "ne seront pas utilisés pour faire voler des drones (ou) lancer des missiles", n’ont pas suffi à convaincre.
Crise d’identité
La tension est devenue si importante au sein de l’entreprise que le New-York Times, qui s’est procuré des échanges internes dans l’entreprise et a été contacté par certains des frondeurs du puissant moteur de recherche, parle d’une "crise d’identité chez Google" et de "grande nervosité" sur ce sujet au niveau de la direction.
Dans une note interne, Fei-Fei Li, directrice scientifique sur l’intelligence artificielle chez Google, écrit : "Évitez à tout prix toute mention ou implication de l’intelligence artificielle (…) Son utilisation dans des armes est probablement l’un des sujets les plus sensibles – sinon le plus sensible. C’est de la viande rouge donnée aux médias pour trouver tous les moyens d’endommager Google", rapporte le quotidien américain.

Finalement, début juin, Diane Greene, directrice du département Google Cloud Business, a annoncé que ce programme ne sera pas reconduit en 2019. Si pour l’heure, le géant ne renonce qu’à un contrat de 10 millions de dollars, c’est à un marché potentiellement très profitable que l’entreprise tourne le dos. Google s’attendait à un contrat de plus de 250 millions de dollars annuels. Puis, en cas de commandes, les gains se seraient comptés en milliards. Déjà, d’autres géants comme Amazon sont sur les rangs pour prendre la place de Google.
Le risque de l’intelligence artificielle
Un sacrifice qui devrait permettre à Google de retrouver son calme. Par exemple, Meredith Whittaker, spécialiste de l’intelligence artificielle chez Google et directrice de recherche à l’université de New York, écrit publiquement sur Twitter : "Je suis incroyablement heureuse de cette décision et j’ai un profond respect pour les nombreuses personnes qui ont travaillé et pris des risques pour que cela arrive. Google ne devrait pas être dans le business de la guerre".

I am incredibly happy about this decision, and have a deep respect for the many people who worked and risked to make it happen. Google should not be in the business of war. https://t.co/aVK0U5kyJv

— Meredith Whittaker (@mer__edith) 1 juin 2018

Au-delà de Google, la question de l’utilisation de l’intelligence artificielle dans le champs militaire inquiète énormément outre-Atlantique. Durant l’été 2017, des grands promoteurs du numérique avaient tiré le signal d’alarme sur le sujet des applications militaires de l’intelligence artificielle. Dans une lettre adressée aux Nations unies, 116 entrepreneurs, dont Elon Musk, fondateur de Tesla et SpaceX, ainsi que Demis Hassabis et Mustafa Suleyman, fondateurs de DeepMind (filiale de Google), appelaient l’organisation internationale à légiférer sur les armes autonomes (armes non dirigées par un être humain).
Ludovic Dupin, @LudovicDupin