L’effet de l’IA sur les relations internationales et les guerres

Le Pr Geoffrey Hinton, l’un des trois « parrains » de l’intelligence artificielle, s’est prêté à une séance de questions-réponses au sujet de l’IA menée par le sénateur marxiste Bernie Sanders devant une salle comble d’étudiants du prestigieux établissement américain Georgetown University. Il y expose ses inquiétudes et ses incertitudes au sujet de cet outil révolutionnaire au sens plein du terme, tout en vantant ses promesses qui pourraient se réaliser, croit-on comprendre, dans un contexte pleinement socialiste.

Nous vous proposons une série d’articles pour présenter l’avis du prix de Nobel de physique en 2024 Hinton, et les questions pertinentes posées par l’homme politique de gauche face à une réalité qui menace fondamentalement la société dans son ensemble et la pensée de chaque homme dans son rapport à la vérité.

Le premier épisode s’intéressait à l’effondrement du marché de l’emploi et le déploiement inouï des capacités de l’IA.

Le deuxième épisode portait sur l’effet de l’IA sur les jeunes et sur les relations humaines : nous avons montré que Hinton et Sanders n’ont guère accordé beaucoup de temps à cette question de l’externalisation de l’intelligence humaine.

Geoffrey Hinton revoit les relations internationales et militaires sous l’empire de l’IA

Ce troisième épisode porte sur les prévisions des deux intervenants quant au poids prévisible de l’IA dans les relations internationales et le domaine militaire, car l’IA bouleverse complètement la défense et l’armement. Hinton note ainsi qu’Elon Musk parle de « millions et de millions de robots » qui seront déployés à travers le monde : « Certainement, des nations à travers le monde en utiliseront certains à des fins militaires. »

Et il pose la question : « Est-il possible que nous ayons bientôt des armées de robots et que les dirigeants élus n’aient plus à se soucier des pertes humaines ? Selon vous, quel impact cela pourrait-il avoir sur les questions de guerre et de paix et sur la politique étrangère ? »

Réponse de Geoffrey Hinton :

« Si vous demandez pourquoi les pays riches n’envahissent pas tout le temps les pays pauvres, c’est parce qu’ils ne veulent pas que leurs fils rentrent chez eux dans un cercueil. C’est la principale pression politique qui s’y oppose. Mais avec une armée de drones ou de robots humanoïdes, les pays riches peuvent envahir les pays pauvres et les habitants des pays pauvres peuvent mourir, mais les habitants des pays riches ne mourront pas. (…) Dès qu’il y a des pays autoritaires, ils envahissent d’autres pays s’ils peuvent s’en tirer à bon compte. Poutine serait très heureux s’il n’y avait pas de morts russes, mais seulement des robots russes morts. Aux Etats-Unis, le complexe militaro-industriel trouverait cela formidable, car il n’y aurait pas de retombées politiques négatives, et les robots coûteraient cher. Je pense donc que cela supprimerait l’un des principaux obstacles empêchant les pays riches et puissants d’envahir de petits pays comme la Grenade. »

Lors de la session de questions-réponses avec le public, Hinton a donné son avis sur la possibilité de mettre des limites à l’utilisation de l’IA dans le domaine militaire. Il y est favorable, mais souligne la difficulté de mettre en œuvre l’interdiction fût-elle du type « convention de Genève » :

« Cela fait longtemps que je m’oppose aux armes autonomes létales, c’est-à-dire les armes qui décident elles-mêmes qui elles doivent tuer ou mutiler. L’armée américaine affirme qu’il y aura toujours une supervision humaine. Mais au départ, ils avaient dit le contraire. Puis ils ont parlé de cette supervision humaine. Ce que cela signifie, c’est qu’il y aura un contrôle des décisions politiques – mais ce sont des décisions qu’il faut prendre dans un délai trop rapide. Ce sont donc ces armes qui décideront qui tuer et qui mutiler. »

Geoffrey Hinton discute avec Bernie Sanders des drones en Ukraine

Il a pris ensuite l’exemple de la guerre d’Ukraine, où les Russes déploient des drones :

« Les Ukrainiens devraient-ils se contenter de dire : “Nous n’utiliserons pas de drones. Nous n’utiliserons pas de drones capables de larguer des grenades sur les gens” ? C’est plus compliqué que ça. Ce serait formidable si nous pouvions conclure des traités internationaux, et d’ailleurs nous avons des traités internationaux sur les armes chimiques qui ont globalement bien fonctionné. Les Russes n’utilisent pas d’armes chimiques en Ukraine. (…) Peut-être pourrions-nous obtenir des traités internationaux similaires qui s’appliqueraient aux armes autonomes létales, mais je pense qu’il faudra d’abord que des choses très graves se produisent. J’ajouterais simplement que dans un monde marqué par d’énormes inégalités, l’IA et la robotique ne feront qu’exacerber ces inégalités : les pays riches pourront disposer d’outils que les pays pauvres n’auront jamais, même dans un million d’années. »

Et nous voici emportés vers une dialectique classique : les riches contre les pauvres, les puissants contre les faibles… Alors que justement, la guerre des drones est à la portée de chacun – avec sa capacité de ciblage extraordinaire.

Geoffrey Hinton et Bernie Sanders oublient Big Brother

Curieusement, et ce n’est pas sans lien avec la puissance militaire, la question de la surveillance de chaque personne, de chaque mouvement, de chaque intervention sur les réseaux sociaux, du crédit social est totalement absente du débat.

En revanche, Hinton note que l’IA peut s’échapper au contrôle et aux limitations : ainsi les chatbots peuvent-ils être manipulés en vue de leur faire donner le mode de fabrication d’une bombe artisanale, ou la recette pour créer un nouveau « virus malin ». « Il est très facile de surmonter ce problème, ou relativement facile », assure-t-il, ajoutant : « Or les tests effectués pour trouver une solution sont loin d’être suffisants. Il y a eu un très bon projet de loi, très sensé, pas du tout strict, proposé en Californie, adopté par les deux chambres, puis bloqué par le veto de Gavin Newsom. »

Mais s’il est vrai que les Républicains aussi s’opposent au contrôle de l’IA, comment croire qu’un tel outil puisse être effectivement bloqué par tel ou tel pays face aux autres qui ne lui imposent pas de limite ?

Dans une mise en garde précédente, Geoffrey Hinton avait déjà averti contre cette nouvelle course à l’armement aux conséquences potentiellement catastrophiques pour l’humanité, y compris à court terme.

Jeanne Smits