Steve Adler a annoncé le 27 janvier, sur X, qu’il avait quitté son poste de chercheur en sécurité de l’IA chez OpenAI. Et le message principal qu’il délivre, à sa sortie, est sa peur du « rythme de développement de l’IA » et de l’absence totale d’alignement à l’heure d’aujourd’hui, à savoir l’harmonisation de ses actions avec les valeurs humaines.

Comme le disait Selwyn Duke dans TheNewAmerican, il n’est pas question de surfer sur un « sensationnalisme » de mauvais aloi. Tout le monde s’accordera à dire que l’IA est une révolution. La question demeure de savoir jusqu’où elle va mener. Et ce chercheur qui fait machine arrière et refuse de participer plus avant à un programme jugé risqué (et il est loin d’être le seul à l’avoir fait) montre bien que cette question n’est ni stupide, ni inutile.

La course à l’IA peut nous prendre de court et personne n’en mesure exactement ni même approximativement les conséquences à long terme. Et une chose est certaine : l’attractivité d’un tel pouvoir n’attirera pas que de bonnes intentions. Dans notre ère foncièrement athée, et donc nécessairement tournée vers le Cornu (« celui qui n’est pas avec moi est contre moi », Matth. XII, 30) d’aucuns voudront « jouer à Dieu » – avec les risques que cela comporte. Et les hommes aveuglés pourraient sacrifier leur liberté au profit de la sacro-sainte Machine.

« Je suis assez terrifié »

« Je suis assez terrifié », a indiqué Steve Adler : « Lorsque je pense à l’endroit où j’élèverai ma future famille ou au montant que j’épargnerai pour ma retraite, je ne peux m’empêcher de me poser des questions : l’humanité parviendra-t-elle à ce stade ? Aujourd’hui, il semble que nous soyons coincés dans un très mauvais équilibre. Même si un laboratoire veut vraiment développer l’AGI de manière responsable, d’autres peuvent encore prendre des raccourcis pour rattraper leur retard, peut-être de manière désastreuse. Et cela pousse tout le monde à accélérer. »

L’AGI est, selon la définition que lui donne le site web d’IBM, « un stade hypothétique du développement de l’apprentissage machine (ML) dans lequel un système d’intelligence artificielle (IA) peut égaler ou dépasser les capacités cognitives des êtres humains dans n’importe quelle tâche. Il représente l’objectif fondamental et abstrait du développement de l’IA : la reproduction artificielle de l’intelligence humaine dans une machine ou un logiciel ».

L’immensité de cet objectif est telle que l’alignement de l’IA est devenu un domaine de recherche à part entière. Et Steve Adler dirigeait précisément ces programmes. Or le moins qu’on puisse dire, c’est qu’il n’est pas optimiste : aucun « laboratoire ne dispose aujourd’hui d’une solution pour l’alignement de l’IA », assure-t-il : « Et plus la course est rapide, moins il y a de chances que quelqu’un en trouve une à temps. » La course effrénée de l’industrie vers l’intelligence artificielle générale (AGI) est un « pari très risqué, avec d’énormes inconvénients pour l’humanité ».

Les chercheurs mettent en garde contre une apocalypse provoquée par l’IA

Nombreux sont ceux qui sont partis d’OpenAI pour cette raison de sécurité, comme par exemple Jan Leike, désigné en 2023 par le magazine Time comme l’une des 100 personnes les plus influentes dans le domaine de l’IA et ancien responsable de l’alignement dans l’entreprise : « La culture et les processus de sécurité ont été relégués au second plan », avait-il alors déclaré.

Mais n’est-ce pas une vérité qui vaudrait pour à peu près toutes les recherches actuelles de l’IA ? Et y-a-t-il seulement une possibilité d’alignement ?

La crainte d’une issue fatidique est parfaitement formulée par certains comme Stuart Russell, professeur d’informatique à l’université de Californie à Berkeley : « La course à l’AGI est une course au bord de la falaise… Même les PDG qui s’engagent dans la course ont déclaré que le vainqueur a de fortes chances de provoquer l’extinction de l’humanité, car nous n’avons aucune idée de la manière de contrôler des systèmes plus intelligents que nous », a-t-il déclaré au Financial Times.

Pour l’ancien directeur commercial de Google X, Mo Gawdat, qui avait osé affirmér en 2023 que l’IA était plus inquiétante que le dérèglement climatique, « la réalité, c’est que nous sommes en train de créer Dieu ».

L’avènement d’un dieu numérique ?

Si la réflexion est, stricto sensu, fausse, elle est néanmoins intéressante. D’abord, elle n’est pas nouvelle : Selwyn Duke de TheNewAmerican rappelle que Larry Page, cofondateur de Google, avait dit aspirer à créer un « dieu numérique » de l’IA. Ensuite, elle fait référence aux principes de toute-puissance et d’omniscience qui sont ceux d’un Dieu Créateur.

L’ancien ingénieur millionnaire de Google, Anthony Levandowski, prédisait, comme l’a rappelé en 2023 le média en ligne AmericanThinker, que l’IA verra et entendra tout, sera partout à tout moment : l’AGI disposera de tout l’internet, un peu comme notre propre système nerveux, et tous les téléphones, tablettes, PC et autres appareils connectés seront, en fait, ses organes sensoriels. Pour lui, le seul mot rationnel pour décrire cela était « dieu ».

Il a même d’ailleurs fondé une religion basée sur cette croyance, appelée « Way of the Future », qui rappelle « la religion des données » imaginée par le transhumaniste Yuval Noah Harari (nous évoquions ici la nouvelle bible incarnée selon lui par l’IA).

La peur de l’AGI, l’intelligence artificielle générale

Alors, d’aucuns défendront l’idée que l’IA n’est qu’une simple « machine à corrélation » qui répond à des programmes définis par des hommes, n’allant ni en-deçà, ni au-delà. Mais il faut bien admettre, sans pour autant parler de la Singularité rêvée de Ray Kurzwell, qu’elle peut prendre le large et dépasser ces commandes – elle en génère déjà elle-même.

Sa puissance exponentielle de développement fait qu’une entité artificielle aux capacités raisonnantes multiformes pourrait voir le jour, tel un arbre de la Connaissance. Et on sait ce qu’il est advenu de ceux qui ont tenté de goûter à ses fruits, aux débuts de l’humanité, voulant posséder cette Sagesse sans que (le vrai) Dieu y participe d’aucune manière.

Comment, en effet, ne pas vouloir y croire et y soumettre son entendement ? La tentation est grande. Mais c’est là où le bât blesse. Car la « conscience » de l’AGI sera celle de l’ère qui l’a fait naître, résolument relativiste, foncièrement athée. Un monde entier bâti sur l’AGI imposera ses biais et l’ivraie croîtra comme jamais, étouffant le bon grain, donnant au Prince du mensonge une place hors norme.

Il y a dix ans, Stephen Hawking disait : « Le développement d’une intelligence artificielle complète pourrait sonner le glas de la race humaine. » Le glas de sa liberté à tout le moins, car seule la Vérité nous rend libres. Parce qu’ils approchent de plus près le processus, de simples chercheurs en IA finissent par le percevoir.

Clémentine Jallais