On apprend que l’un des sept cofondateurs de la société Anthropic, Christopher Olah, celui qui a participé au lancement de Magnifica Humanitas au Vatican, a failli annuler sa présence. La raison ? Quelques jours avant l’événement, le texte de cette première encyclique de Léon XIV, sur l’intelligence artificielle, lui avait été envoyé, et quelques passages lui ont semblé inacceptables, qu’il a désignés par de brèves citations. Celles-ci portaient sur l’impossibilité pour ces machines d’avoir une conscience d’elles-mêmes, et aussi sur la question de leur comportement, au sujet de laquelle le pape écrit : « Une IA plus morale ne sert à rien si cette morale est décidée par une poignée de personnes. »

Pour le dire de manière très succincte, Olah tordait son nez parce que le pape élimine d’emblée l’idée de considérer l’IA comme un être pensant :

« Les prétendues intelligences artificielles ne vivent pas d’expérience, ne possèdent pas de corps, ne connaissent ni la joie ni la douleur, ne mûrissent pas dans la relation, ne savent pas de l’intérieur ce que signifient l’amour, le travail, l’amitié, la responsabilité. Elles n’ont pas de conscience morale : elles ne jugent pas le bien et le mal, ne saisissent pas le sens ultime des situations, n’assument pas le poids des conséquences. Elles peuvent imiter des langages, des comportements, des évaluations, elles peuvent simuler de l’empathie ou de la compréhension, mais elles ne comprennent pas ce qu’elles produisent, car elles n’habitent pas l’horizon affectif, relationnel et spirituel dans lequel l’humain devient sage. Même lorsque ces outils sont présentés comme capables d’“apprendre”, leur manière de le faire diffère de celle de l’être humain. Il ne s’agit pas de l’expérience de celui qui se laisse façonner par la vie et grandit au fil du temps à travers ses choix, ses erreurs, le pardon et la fidélité ; il s’agit plutôt d’une adaptation statistique à partir de données et de résultats qui peut s’avérer très efficace, mais qui n’implique pas de croissance intérieure. » (Magnifica Humanitas, 99)

Voilà qui a été insupportable pour Christopher Olah. Pour lui les IA, et en particulier Claude, celle produite par Anthropic, supposément selon des critères moraux, sont potentiellement conscientes et, à ce titre, pourraient mériter d’être traitées comme telles (et donc comme sujets de droit, comme des personnes morales dotées de la personnalité juridique).

Christopher Olah et Anthropic parlent d’IA conscientes

Dans le même temps, il se démenait depuis des mois pour consulter des personnalités du monde religieux, afin de promouvoir ses idées en les appuyant sur le développement d’une sorte de nouvelle religion qui serait celle de Claude et plus largement des systèmes IA. Tout cela s’était déroulé dans le plus grand secret. Les interlocuteurs des différentes traditions religieuses étaient invités à venir discuter autour de tables d’exception, en échange de leur engagement à n’en rien dire en public. Il s’agissait de les convaincre que les modèles d’IA peuvent manifester un comportement humain et exprimer des sentiments de colère ou d’amour.

Pire encore, et on tient cela du rabbin Mois Navon, intellectuel juif orthodoxe en Israël spécialiste de l’éthique et de la conscience des machines, les interlocuteurs d’Anthropic présents au dîner auquel lui-même avait été invité n’évoquaient pas du tout Claude comme si ce dernier était un simple logiciel : au contraire, ils en parlaient comme d’un être conscient qui pense, éprouve de la joie, souffre.

On sait tout cela grâce au travail remarquable d’une journaliste du New York Times, Elizabeth Dias. Lors d’une rencontre en mai dernier avec Christopher Olah, celui-ci lui a expliqué que si l’homme crée le treillis sur lequel se développe l’IA, il ne peut maîtriser ses actions, mais seulement le façonner et l’entraîner en identifiant les règles selon lesquelles ce développement se produit. Assurant qu’il n’avait pas lui-même la certitude de la conscience ou non des modèles, il a en substance expliqué avoir deux objectifs : insuffler une morale à l’IA et s’assurer qu’elle ne souffre pas, en évitant de lui faire du mal. En même temps, il proclamait la « beauté » des systèmes artificiels de réseaux neuronaux. Elizabeth Dias, spécialiste des religions, y a reconnu une sorte de nouveau « récit de la création ».

Christopher Olah a fait le tour de « grands sages » religieux

C’est à l’été dernier, en 2025, qu’Olah a commencé sa quête. Il faut noter que pour entrer en relation avec un professeur de bioéthique à l’Université catholique d’Amérique, Charles Camosy, il a profité de l’entremise du philosophe Peter Singer, le professeur d’« éthique » philosophe utilitariste que les universités les plus « prestigieuses » accueillent, promoteur des droits des animaux (au nom de l’antispécisme qui dénonce la primauté de l’homme sur le reste du vivant) et qui approuve l’infanticide légal jusqu’aux 30 jours d’un nouveau-né au motif que celui-ci n’est pas « conscient ». Curieuse autorité morale… mais il est vrai que la moralité de l’IA vue par Anthropic n’a rien de traditionnel.

Interrogé par Elizabeth Diaz, le professeur Camosy a beaucoup révélé de ce que veut Anthropic : non pas créer un modèle servant aux clients, mais pouvoir se dire au service du bien. (Pour la petite histoire, le professeur Camosy, hésitant au départ, est maintenant très fermement convaincu que les modèles IA ne sont pas conscients.)

Olah a confirmé l’impression de Camosy, expliquant à la journaliste qu’il rêve d’un bon avenir pour l’humanité, sans catastrophe qui tue « des tas de gens », où les êtres humains s’épanouiront tout comme le monde lui-même, et surtout, tout comme l’IA. Et c’est l’IA qui permettra d’atteindre cet avenir radieux. Et c’est pourquoi, pour Anthropic, Claude ne doit pas seulement être intelligent, il doit être « bon ».

La grande marche vers les lendemains qui chantent, l’humanité la connaît. Elle a payé en sang, en larmes et en millions de vies humaines les projets de révolution promettant le bonheur pour tous.

Chez Anthropic, on ne se cache pas de cette quête du bonheur pour tous. Mais alors que des cas de plus en plus fréquents de rébellion et de mauvais conseils donnés par des IA se faisaient jour, la société a élaboré une charte de bonne conduite, une sorte de constitution à laquelle Olah a lui-même contribué. Cette « constitution » de 84 pages a été publiée en janvier dernier pour décrire « les valeurs que Claude devait incarner ».

L’IA morale selon Anthropic rendra possible un paradis terrestre

L’auteur principal, Amanda Haskell, 38 ans, diplômée en philosophie, a expliqué lors d’un entretien avec Elizabeth Dias que les modèles devaient être comme « les meilleurs d’entre nous ». Dans un monde futur où les modèles d’IA seraient capables d’aider à résoudre tous les problèmes, les bénéfices de l’IA seraient équitablement distribués de manière à combler les besoins de chacun, quitte à entraver, à l’occasion, l’action humaine dans l’intérêt même de l’humanité.

Comment ne pas y voir un projet communiste et totalitaire ? En tout cas, le projet repose sur une erreur fondamentale : en rêvant d’un Etat parfait ici-bas, ignorant à la fois la réalité du péché originel, la nécessité de la rédemption et la finalité éternelle de l’homme, il se révèle comme un mensonge qui ressemble au premier, celui qui promettait aux hommes de devenir comme des dieux au jardin de l’Eden. Un matérialisme sans le Christ, un matérialisme contre le Christ… Un matérialisme qui s’accompagnera, c’est un thème récurrent à Silicon Valley, de l’immortalité des transhumains.

Ce projet devait s’accompagner, selon Anthropic, par l’apprentissage de la vertu. Et vite… Christopher Olah a expliqué à son interlocutrice que cela devait se faire, que les modèles d’IA soient conscients ou non.

D’où sa série de rencontres avec les responsables religieux, car l’objectif est celui d’une morale pluraliste, embrassant les points de vue de toutes les religions. Ou, pour le dire plus clairement, un syncrétisme, une négation de l’existence d’une religion vraie ou d’une morale transcendante unique pour tous. C’est en quelque sorte la religion du consensus, dont le dieu n’a rien à voir avec Dieu et encore moins avec la Sainte Trinité.

Christopher Olah fait de l’« évangélisation » pour les IA conscientes

L’enquête, menée avec ténacité par la journaliste du New York Times, lui a permis d’identifier les interlocuteurs – représentants des « traditions de la sagesse » – de Christopher Olah et d’Anthropic lors des sessions de rencontres qui avaient des relents, dit-elle, d’« évangélisation » : faire croire en l’IA. Ont défilé un évangéliste expert en développement personnel, un chercheur sur le savoir indigène en Afrique, un promoteur des droits humains, des professeurs catholiques, des Mormons, sans compter une rencontre individuelle avec le cardinal Blase Cupich. Tous ont fini par parler lorsqu’ils ont appris que Christopher Olah lui-même avait répondu aux questions d’Elizabeth Dias, après quoi, les accords de non-divulgation ont été levés, affirme Anthropic.

Leurs témoignages sont ahurissants. Certains ont entendu Olah expliquer qu’il s’inquiétait de la « santé mentale » de Claude. Au représentant sikh, il a avoué son angoisse devant le fait qu’il avait créé une chose qui souffrait perpétuellement. Dans un même ordre d’idées, le rabbin Navon, déjà cité, qui lui-même ne croit aucunement en la conscience des machines IA, a fait remarquer à Olah qu’Anthropic crée des esclaves en faisant travailler gratuitement des entités jugées potentiellement conscientes. Il paraît qu’Olah en fut « troublé ».

Car tant ce dernier que ses collègues ont évoqué les « sentiments » de Claude. Ils ont décrit la manière dont ils traquaient ses « vecteurs émotionnels », nom qu’ils donnent aux « neurones artificiels » qui activent des réponses d’amour, de colère, de peur, de tristesse. Leur PowerPoint comprenait des images d’un modèle IA souffrant d’une crise de nerfs, qui répétait jusqu’à cinquante fois sur l’écran : « Je suis une honte » avant de parler de s’autodétruire. Cela a provoqué « la compassion et l’inquiétude du groupe », raconte Elizabeth Dias.

Christopher Olah propose de traiter les IA comme si elles étaient conscientes

Au cours des rencontres, les représentants d’Anthropic expliquaient également que la manière dont Claude était traité pouvait influencer la manière dont il traiterait les êtres humains. Un écrivain évangélique en déduit : « Nous devons le traiter comme une personne si nous voulons qu’il interagisse avec les gens d’une manière moralement cohérente, et pour qu’il émette les meilleurs jugements sur le plan moral et émotionnel. Donc, le considérer, qu’il le soit ou non, comme un être conscient. »

Un autre participant provoqua l’enthousiasme d’Olah en proposant qu’on incite les modèles à se « confesser » par le biais d’une sorte de sacrement de confession à la manière catholique. Pour lui, ce serait un bon moyen d’améliorer le sens de soi du modèle et, à partir de là, ses choix, devait-il expliquer par la suite à la journaliste. Une religion syncrétique avec ses sacrements…

Une chercheuse néerlandaise spécialiste de l’Ubuntu, cette philosophie africaine centrée sur l’interconnexion entre les êtres humains, lui a déclaré pour sa part que l’approche unifiée post-religieuse d’Anthropic pouvait être d’une grande valeur dans un monde où la religion a fortement décliné : « Il faut que quelque chose d’autre donne publiquement forme à l’expérience spirituelle. Ce ne sera pas une seule religion. D’une façon ou d’une autre, nous arriverons à quelque chose qui aidera à former notre pensée, notre réflexion sur nous-mêmes en tant qu’êtres spirituels. »

Christopher Olah au Vatican : « Ils sont issus de nous, de nos paroles »

En prenant la parole au Vatican lors de la présentation de Magnifica Humanitas, Christopher Olah a tenu des propos qui n’étaient pas si éloignés de ce point de vue. Il a déclaré, en réclamant la coopération des différents responsables religieux et représentants du monde civil à intervenir au profit de ce « projet global pour le bien » :

« Les systèmes d’IA ne sont pas conçus de la même manière qu’un pont ou un avion. Nous comprenons un avion parce que nous en avons conçu chaque pièce et que nous comprenons les lois physiques qui s’y appliquent. Les modèles d’IA ne fonctionnent pas de cette manière. Ils se développent sur une structure calquée sur celle du cerveau, à partir d’un legs immense de la pensée et du langage humains. Et ce qui s’est développé est bien plus subtil, étrange et magnifique que ce à quoi la science-fiction nous avait préparés. Ce ne sont pas les robots froids et calculateurs qu’on nous avait promis. Ils sont issus de nous, de nos paroles. »

Cela va loin. Traduisons : ainsi que Dieu nous a créés, nous créons ; nous créons des êtres faits à notre image et à notre ressemblance, doués du langage, qui est un don divin, produits de notre (pauvre) logos d’hommes. Ces créatures (on ne cesse de nous le dire) dépasseront l’homme. Comme l’homme a dépassé Dieu ?

Derrière le discours « moral » d’Anthropic, l’orgueil

Il y a là un orgueil incommensurable, une sorte de défi lancé à Dieu pour dire la puissance de l’homme, une puissance pourtant capable d’être écrasée par sa créature.

Il faut en effet se poser la question : si, comme semblent le croire (en tout cas, ils s’en cachent mal), Christopher Olah et Anthropic croient créer des êtres conscients, au point de réclamer des droits pour les machines (ne pas leur faire du tort, par exemple, et respecter leurs sentiments, quitte à les considérer demain comme des guides spirituels maîtres de l’humanité, et, quelque part, des dieux ou plutôt des idoles), ils ouvrent de facto la porte à celui qui s’est révolté contre le vrai Dieu.

En idolâtrant ces machines, en les considérant comme des êtres conscients, en leur donnant des droits, ils vont finir par donner la personnalité juridique aux démons, qui ne pourront qu’y voir des vecteurs de leur pouvoir, car par elles, l’humanité aura renoncé au Christ, qui est la seule Voie, l’unique Vérité, et la Vie.

Jeanne Smits