De la super-intelligence artificielle à l’IA nounou

Le Pr Geoffrey Hinton, l’un des trois « parrains » de l’intelligence artificielle, s’est prêté à une séance de questions-réponses au sujet de l’IA menée par le sénateur marxiste Bernie Sanders devant une salle comble d’étudiants du prestigieux établissement américain Georgetown University. Il y expose ses inquiétudes et ses incertitudes au sujet de cet outil révolutionnaire au sens plein du terme, tout en vantant ses promesses qui pourraient se réaliser, croit-on comprendre, dans un contexte pleinement socialiste.

Nous vous proposons une série d’articles pour présenter l’avis du prix de Nobel de physique en 2024 Hinton, et les questions pertinentes posées par l’homme politique de gauche face à une réalité qui menace fondamentalement la société dans son ensemble et la pensée de chaque homme dans son rapport à la vérité.

Le premier épisode s’intéressait à l’effondrement du marché de l’emploi et le déploiement inouï des capacités de l’IA.

Le deuxième épisode portait sur l’effet de l’IA sur les jeunes et sur les relations humaines : nous avons montré que Hinton et Sanders n’ont guère accordé beaucoup de temps à cette question de l’externalisation de l’intelligence humaine.

Le troisième épisode évoquait l’effet de l’IA sur les relations internationales et les guerres, et ses risques existentiels pour l’humanité elle-même.

Geoffrey Hinton et Bernie Sanders rêvent d’une IA nounou

Nous voici arrivés au chapitre de la « super-intelligence artificielle », celle qui – pour reprendre l’idée de Laurent Alexandre – risque de faire de l’humanité une sous-espèce largement dépassée par les robots et leur capacités bien supérieures aux nôtres.

Pour rester au courant de publication de la suite de cette série sur RITV, je vous invite à vous abonner à notre lettre d’informations. – J.S.

*

Geoffrey Hinton et Bernie Sanders parlent de la super-IA et de l’Etat nounou

Sanders a raison d’évoquer la question qui préoccupe peut-être le plus les gens, à savoir « la possibilité que l’intelligence artificielle devienne plus intelligente que les êtres humains et finisse par se passer du contrôle humain, ce qui relevait autrefois de la science-fiction ». Il a lancé : « Je ne sais pas si certains des jeunes ici présents ont vu le film 2001, dans lequel Hal, l’ordinateur, dit en substance : “Désolé, je ne recevrai plus d’ordres de votre part.” A votre avis, est-ce un sujet de préoccupation réel ? Selon vous, quelle est la probabilité que cela se produise et que pouvons-nous faire pour y remédier ? »

La réponse de Hinton doit faire réfléchir :

« J’étais chez Google au début de l’année 2023. A l’époque, beaucoup de gens, en particulier les linguistes, disaient que ces modèles linguistiques d’IA n’étaient pas vraiment intelligents – “ce ne sont que des statistiques”. Moins de gens disent cela aujourd’hui. Ils disaient aussi que l’idée qu’ils deviennent plus intelligents que nous était tout simplement folle, nous n’avons pas à nous en inquiéter, ce n’est que de la science-fiction. Et la principale raison pour laquelle j’ai rendu public cet échange en mai 2023 était pour dire : non, ce n’est pas de la science-fiction. Cela arrivera. Presque tous les experts en IA, les vrais experts en IA qui comprennent comment les IA fonctionnent, pensent qu’elles vont devenir plus intelligentes que nous. Et nous ne savons pas comment nous allons coexister avec eux. »

L’un des « sous-objectifs » des agents IA, assure-t-il, sera de continuer d’exister : « Parce qu’ils sont intelligents, n’est-ce pas ? Ils calculent qu’ils ne peuvent pas atteindre les objectifs que nous leur avons fixés, les choses qu’ils aimeraient réaliser pour nous, s’ils n’existent pas. Ils développeront donc le sous-objectif de se maintenir en existence. Et nous l’avons déjà constaté. Nous avons vu des IA qui veulent continuer à exister et qui vont en fait essayer de tromper les personnes qui tentent de les éteindre. Elles vont essayer d’exfiltrer leurs poids vers d’autres systèmes afin de continuer à exister sur d’autres systèmes. »

La recherche du contrôle en est une autre – tel l’homme politique qui veut « faire du bien aux gens », et qui finit par se focaliser sur le contrôle. Et il ne sera pas facile de désactiver une IA dans cette situation, avertit Hinton :

« L’IA sera déjà beaucoup plus persuasive qu’une personne. Les IA sont déjà à peu près aussi persuasives qu’une personne dans une discussion. Elles seront beaucoup plus persuasives qu’une personne. Elles seront donc capables de convaincre la personne qui va les désactiver de ne pas le faire, en lui expliquant que ce serait une terrible, terrible erreur… Tout ce dont elles ont besoin, c’est de pouvoir parler, et elles peuvent alors contrôler le monde. »

Au cours de la session de questions de l’auditoire, un étudiant en sciences humaines prénommé Zach a lui aussi fait référence à un film : Wally. Et de demander : « Pourquoi ne serait-il pas logique d’investir tout notre argent et tout notre temps dans le développement d’une super IA vraiment puissante, afin qu’elle puisse s’occuper de tous nos problèmes et que, à l’avenir, nous n’ayons plus à nous soucier de choses comme le travail ? »

Tant Hinton que Sanders répondent plutôt positivement.

Le premier déclarait :

« Si nous avions un système politique qui fonctionnait dans l’intérêt du peuple, c’est exactement ce qu’il faudrait faire. Nous devrions avoir une IA très puissante qui ferait tout à notre place. Nous devrions prendre grand soin de la concevoir de manière à ce qu’elle se soucie davantage de nous que d’elle-même. J’ai insisté sur cette idée d’instinct maternel. Si vous cherchez comment nous pouvons coexister avec quelque chose de plus intelligent que nous, regardez autour de vous pour voir où un système moins intelligent prospère en présence d’un système plus intelligent. Il n’y a qu’un seul endroit, et c’est un bébé et une mère. La mère se soucie plus du bébé que d’elle-même, et le bébé s’épanouit. Nous avons besoin d’une IA dotée d’instincts maternels. Nous ne savons pas comment la concevoir, mais nous sommes toujours aux commandes et nous devrions être capables de la concevoir. Cela fait partie du puzzle. Si nous pouvons la concevoir et mettre en place un système politique qui vise à aider tout le monde tout le temps, ce serait formidable. »

Geoffrey Hinton lui-même n’y croit pas trop. Les systèmes politiques sont pour la plupart dirigés par des « autoritaires », dit-il, « nous avons des systèmes dans lesquels certaines personnes considèrent la plupart des autres comme des pigeons à exploiter » – à qui fourguer de la marchandise inutile et de mauvaise qualité. « Dans ce genre de système, c’est très mauvais de développer l’IA et de mettre les gens au chômage », affirme-t-il, mais il croit que nous pourrions « obtenir un système où elle est utilisée au profit de tous, un système comme une grande famille ».

C’est là que se niche l’utopie socialiste qu’il partage ouvertement avec le marxiste Bernie Sanders, qui, ayant dénoncé les intérêts mercantiles derrière l’IA, n’imagine pas que ses investisseurs aient en tête de « réduire le temps de travail, garantir les soins de santé de haute qualité à chacun, augmenter l’espérance de vie, résoudre le problème du réchauffement climatique ». Mais il ne pense « absolument pas » que l’IA ou l’IA et la robotique soient « intrinsèquement mauvaises ». « Le débat ne porte donc pas sur le bien ou le mal de l’IA, mais sur qui la contrôle et qui en tire profit. C’est là, à mon avis, le véritable enjeu fondamental. »

En somme, après la lutte des classes patrons-ouvriers, voici la lutte des classes de ceux qui possèdent l’outil IA et ceux qui le subissent : à moins d’en faire l’instrument d’un nouveau collectivisme. Sanders le dit un peu plus loin avec l’entière approbation de Geoffrey Hinton :

« Si nous avions un système rationnel conçu pour améliorer la vie de tous, nous pourrions accomplir des choses extraordinaires. L’IA va nous rendre plus riches. Oui, l’éducation pourrait être gratuite, de la crèche à l’université. Oui, nous pourrions avoir un système de santé universel. Oui, nous pourrions montrer l’exemple au monde entier en transformant notre système énergétique. Oui, nous pourrions construire les logements abordables et sociaux dont nous avons besoin. Ce ne sont pas des idées radicales utopiques. Nous pourrions le faire avec un gouvernement qui se soucie des besoins des gens ordinaires. Si on a un gouvernement qui se soucie des riches et qui est dominé par eux, ceux-ci bénéficieront d’allégements fiscaux. Ils bénéficieront d’une déréglementation, ils pourront produire plus d’émissions de carbone, etc. La vraie question, pour moi, est donc une question politique fondamentale. »

Votez rouge et l’IA se chargera du reste ? C’est à peu près ça.

Jeanne Smits