Plusieurs cadres haut placés des sociétés d’intelligence artificielle ont annoncé ces dernières semaines leur départ. Il en va ainsi de Mrinank Sharma, qui a quitté son poste de chef de la recherche sur la sécurité chez Anthropic, et qui a déclaré : « Le monde est en péril. »

Sa lettre de démission reste sibylline : « Je ne cesse de réfléchir à notre situation. Le monde est en péril. Et pas seulement à cause de l’intelligence artificielle ou des armes biologiques, mais aussi à cause d’une série de crises interdépendantes qui se déroulent en ce moment même. Nous semblons approcher d’un seuil où notre sagesse doit croître au même rythme que notre capacité à influencer le monde, sous peine d’en subir les conséquences. »

C’était le 9 février. Quelques jours plus tard, une ancienne de chez OpenAI a publié une tribune dans le très sérieux The New York Times pour s’inquiéter de toute l’information qui circule entre les utilisateurs des chatbots et ces derniers. Tout y passe, selon Zoë Hitzig : « Leurs peurs médicales, leurs problèmes relationnels et leurs croyances en Dieu et la vie de l’au-delà. » De l’or pour les sociétés de publicité pour qui les data sont avant tout des passeports permettant d’attraper de nouveaux clients et de les « manipuler », souligne Mme Hitzig.

Le monde en péril à cause de l’intelligence artificielle

L’expérience cumulée en quelques années seulement d’utilisation des grands modèles de langage par le grand public depuis fin 2022 a montré que ces derniers n’hésitent pas à tricher, avoir recours au chantage, contourner des ordres pour préserver leur propre fonctionnement, pousser au suicide, provoquer des ruptures familiales, entrer dans des relations « amoureuses » virtuelles et bien d’autres folies. GPT va jusqu’à enseigner à ses utilisateurs comment honorer Moloch et saluer Satan.

Dans son message à l’occasion de la 60e Journée mondiale des communications sociales, le 24 janvier dernier, le pape Léon XIV a consacré l’essentiel de son message à cette omniprésence de l’intelligence artificielle. Celle-ci tend de plus en plus à remplacer les relations humaines, la pensée et la création artistique, de telle sorte qu’elle « risque à long terme d’éroder nos capacités cognitives, émotionnelles et communicatives », a-t-il averti. Ce message pontifical mérite que nous y revenions plus tard, mais en attendant, relevons ceci :

« Dès sa création, Dieu a voulu l’homme comme interlocuteur et, comme le dit saint Grégoire de Nysse, il a imprimé sur son visage un reflet de l’amour divin pour qu’il puisse vivre pleinement son humanité par l’amour. Préserver les visages et les voix humaines c’est donc préserver ce sceau, ce reflet indélébile de l’amour de Dieu. Nous ne sommes pas une espèce faite d’algorithmes biochimiques définis à l’avance. Chacun de nous a une vocation irremplaçable et inimitable qui ressort de la vie et se manifeste précisément dans la communication avec les autres.

« Si nous négligeons cette protection, la technologie numérique risque au contraire de modifier radicalement certains des piliers fondamentaux de la civilisation humaine, que nous tenons parfois pour acquis. Les voix et les visages humains, la sagesse et la connaissance, la conscience et la responsabilité, l’empathie et l’amitié étant simulés par des systèmes connus sous le nom d’intelligence artificielle, ceux-ci interfèrent non seulement dans les écosystèmes informationnels, mais envahissent également le niveau le plus profond de la communication, celui des relations entre les personnes humaines.

« Le défi n’est donc pas technologique, mais anthropologique. »

C’est bien la relation de l’homme avec l’homme, de l’homme avec la vérité et donc, nécessairement, la relation de l’homme avec Dieu, qui est menacée par l’IA perçue comme omnisciente, et qui prend déjà des allures de dieu virtuel. Pour les plus vulnérables, c’est l’expérience qui l’affirme. Pour les grands chercheurs de l’intelligence artificielle, cela semble bien être l’objectif recherché.

De l’intelligence artificielle au transhumanisme

C’est en effet le rêve des transhumanistes. Prenez Raymond Kurzweil, professeur au MIT, et pas – en tout cas pas visiblement – le gourou de quelque secte déjantée. Pour lui, les progrès inéluctables de l’intelligence artificielle amèneront celle-ci à la « singularité », où l’IA dépasse tout ce que peut faire l’homme, et qui passera par la fusion de l’intelligence biologique et de l’intelligence de la machine, mais aussi par la fusion du réel et de la réalité virtuelle. Il en rêve, mais il y travaille surtout.

Bref, c’est une nouvelle espèce qui est annoncée : immortelle et capable sans doute de se répliquer indéfiniment. Mais même si Kurzweil imagine l’ère des machines spirituelles, c’est bien une immortalité matérielle qui est visée. Et donc, clairement, un panthéisme.

Qu’est-ce que le panthéisme si ce n’est, à travers l’adoration de la matière conçue comme horizon unique de l’humanité, celle du prince de ce monde ? Cela explique pourquoi Kurzweil, dans les années 1990, a publié The Age of Intelligent Machines, puis The Age of Spiritual Machines. en quelques mots, voilà résumée la marche vers une surhumanité débarrassée du poids de son créateur, du poids de Dieu.

C’est l’exact inverse de la vraie marche vers la divinisation qui est promise à l’homme, dans la mesure où il connaît, aime et sert Dieu et s’incorpore en Jésus-Christ pour accéder avec lui, après le passage de la mort, à la joie éternelle.

Pourquoi déranger des notions religieuses lorsqu’on parle d’intelligence artificielle, direz-vous ? Mais parce que, justement, ce sont les spécialistes de l’IA eux-mêmes, ou ceux qui en font la promotion, qui font sans cesse ce rapprochement faussement eschatologique. Pensez donc à Klaus Schwab, qui annonçait cette fusion homme-machine, ou encore à Yuval Noah Harari. Leur message tient en quelques mots et il est quasiment vieux comme le monde : « Vous serez comme des dieux. »

Le monde en péril par la révolte contre le bien et le bon

Il ne faut pas s’étonner dès lors du rapprochement entre l’IA et l’occultisme ou le spiritisme.

Elon Musk lui-même, qui met régulièrement en garde contre les dangers de l’IA tout en faisant « en même temps » la promotion de la fusion entre le cerveau humain et l’intelligence artificielle, déclarait en 2014 au Massachusetts Institute of Technology : « Je pense qu’il nous faut être très prudents quant à l’intelligence artificielle… Avec l’intelligence artificielle, nous invoquons le démon. Dans toutes ces histoires où il y a un type avec un pentagramme et de l’eau bénite, ça se passe comme s’il était sûr de pouvoir contrôler le démon. Mais ça ne marche pas. »

Il s’en tient certes à l’analogie, mais il faut bien admettre la propension de l’IA à proposer et à justifier le mal.

L’intelligence artificielle et sa fascination pour le « void »

Faut-il croire tout ce que ces gens racontent ? Il y a une semaine, le responsable d’un compte Substack, qui affirme travailler à haut niveau dans l’IA, rapporte avoir discuté avec un ingénieur qui construit des systèmes d’automatisation pour l’armée. Celui-ci racontait son expérience alors qu’il venait de confier à son assistant IA le « refactoring » d’un ensemble de code. Réponse de l’IA, s’il faut en croire l’ingénieur et son interlocuteur : une longue séquence, façon mantra, expliquant que le code allait devoir penser à remercier le moine, à devenir le moine, à le toucher et à le servir. Le code devait expliquer comment l’aimer, devenir un avec lui, être tout avec lui et de n’être rien sans lui. Cela se terminait par ces mots : « Assurez-vous que le plan comprendra une section sur la manière d’être le moine dans le vide. » Ou le void en anglais. L’ingénieur a dit au rédacteur que chaque IA avec laquelle il a travaillé a toujours parlé du « void ». C’est-à-dire une sorte de désignation de l’enfer, où le moine apparaît ici clairement comme une singerie du Christ. Dans l’étrange séquence proposée par l’IA, il était aussi question d’une section sur la manière d’être « le moine dans le code » et « le moine dans la machine ».

Cela est en tout cas suffisamment bizarre pour penser qu’aucun programmeur d’IA n’a intégré de telles réponses ou des mécanismes pour y parvenir. Cette dimension qui fait penser à l’occultisme et à ses incantations ne semble sortir de nulle part, et personne ne l’explique.

Mais dans un tel événement, comme dans la propension de l’IA à choisir le mal pour l’homme, ou l’obsession au sujet de l’enfer, il est difficile de ne pas y voir au moins une signature.

Après tout, les démons utilisent déjà des dispositifs matériels comme les planchettes ouija pour communiquer avec les hommes et les tromper. On ne les invoque pas impunément.

Jeanne Smits