Déçue, très déçue. C’est ainsi que je pourrais résumer ma réaction à la première encyclique du pape Léon XIV, Magnifica Humanitas, sur la protection de la personne humaine à l’ère de l’intelligence artificielle, qui a paru avec beaucoup de retard sur le calendrier annoncé et qui devait se pencher de manière précise sur la question de l’IA cruciale à notre époque. En définitive, on a affaire à autre chose : une vision mise à jour de la doctrine sociale de l’Eglise, mais sans continuité réelle avec sa source d’inspiration, l’encyclique Rerum Novarum de Léon XIII, que son successeur sur la chaire de Pierre avait pourtant invoquée comme modèle peu après son élection comme expliquant son choix de nom pontifical.

Je n’ai donc pas commencé ma lecture de Magnifica Humanitas sans relire d’abord Rerum Novarum, qui non seulement est une vive dénonciation du socialisme et une forte affirmation du droit de propriété, mais qui affirme précisément, avec le principe de subsidiarité, la nécessité pour l’autorité de faire respecter la famille, antérieure à toute société et à qui il faut « de toute nécessité attribuer certains droits et certains devoirs absolument indépendants de l’Etat ». Et qui prône un ordre social spécifiquement chrétien.

L’encyclique de Léon XIV semble quant à elle lire la subsidiarité à l’envers, comme la concession de droits par l’autorité aux familles et aux corps intermédiaires. S’adressant à tous les hommes de bonne volonté, elle met moins l’accent sur le devoir de respecter d’abord la loi divine, que sur le devoir de respecter les droits de l’homme. Et elle parle bien plus de la « destination universelle des biens » que du droit qu’elle ne contredit pas, mais fait apparaître comme une concession, avec en arrière-plan l’idée que l’un des gros problèmes de l’IA est qu’elle relève – à travers ses concepteurs, ses brevets et son développement – de la propriété privée.

Magnifica Humanitas : l’IA selon Léon XIV n’est pas si mauvaise…

Il y aurait beaucoup de choses à dire sur l’horizontalité du propos, qui ne correspond ni au style ni au fond des documents et des déclarations spirituelles, très christocentriques de Léon XIV. On est dans la logique assumée de la constitution pastorale Gaudium et Spes et de Populorum Progressio, encyclique de Paul VI, avec leur grand optimisme au sujet de l’humanité tout entière et sa capacité à vivre dans la « fraternité », et dans un certain irénisme qui conduit à taire les énormes problèmes posés par la conduite du monde sous la coupe d’autorités supranationales, telle l’ONU, dont la politique comprend ouvertement la promotion de la culture de mort.

Quant à l’intelligence artificielle, il faut d’abord prendre acte de ce qui semble être une certaine minimisation par Léon XIV des problèmes profonds qu’elle pose : des problèmes existentiels pour l’humanité elle-même, à qui elle propose, par nature, de devenir comme des dieux. C’est cette approche qu’on attendait ; non sans oublier qui, le premier, lui a fait cette promesse mensongère.

Parlant « de l’intelligence artificielle, des sciences cognitives, de la nanotechnologie, de la robotique et de la biotechnologie », il affirme :

« En soi, ces innovations peuvent devenir une aide précieuse pour le développement humain intégral et pour la sauvegarde de notre Maison commune. Mais, précisément en raison de leur puissance, elles peuvent agir comme un accélérateur du paradigme technocratique et nécessitent un nouveau cadre spirituel, éthique et politique. Plus puissant ne signifie pas nécessairement meilleur. En ce sens, les paroles de Romano Guardini restent d’actualité : “L’homme moderne n’a pas reçu l’éducation nécessaire pour faire un bon usage de son pouvoir.” » (Magnifica Humanitas, n° 93.)

Ce n’est pas que Léon XIV, pape mathématicien dont on pouvait attendre une analyse plus percutante, n’évoque pas la question première de la nécessité d’œuvrer avec Dieu et non contre Lui. C’est même le sens du cadre de sa réflexion. Il présente la course actuelle vers l’IA comme une sorte de construction de Babel vouée à l’échec en raison de son refus de Dieu : « Babel révèle ainsi la limite de toute construction qui, aussi grandiose soit-elle, naît de l’absolutisation de l’humain et de sa prétention à l’autosuffisance, sacrifie la dignité des personnes à l’efficacité et aspire à atteindre le ciel sans la bénédiction de Dieu » (Magnifica Humanitas, n° 7).

L’IA, une tour de Babel

A plusieurs reprises dans l’encyclique, Léon XIV revient sur la diversité (mot qui revient souvent) que les hommes de Babel ont voulu nier, avec la dispersion comme punition divine. Dieu a voulu, en effet, la multiplicité des peuples, des langues et des nations ; et il n’y a qu’une seule internationale qui tienne : l’Eglise, qui est le Corps mystique du Christ. Cela apparaît, quoique discrètement, à la fin de l’encyclique.

Hélas, il est cependant beaucoup question de pouvoir supranational pour contrer les problèmes et les « injustices » de notre temps, et pour contenir l’intelligence artificielle afin qu’elle soit au service de l’homme.

Il prône à l’inverse le modèle de la reconstruction de Jérusalem sous Néhémie : « Avant d’agir, il jeûne, prie, intercède pour le peuple… » Mais déjà, le bât blesse : cette reconstruction est présentée comme ne résultant pas de solutions venues d’en haut, mais grâce à la « responsabilité partagée de tout le peuple… » Néhémie était en réalité une figure autoritaire ; le présenter comme modèle d’une sorte de synodalité avant la lettre travestit l’histoire. Retenons cependant ce qu’écrit Léon XIV : « C’est une œuvre qui a Dieu au centre et qui rétablit les liens avant même de poser les pierres » (n° 8).

« Construire une ville fondée sur le bien commun exige donc, avant tout, de bâtir sur le roc de la relation avec Dieu ; reconnaître que la vérité de son amour nous appelle à une vie “en abondance” (Jn 10, 10) et à la communion avec Lui. A l’instar de saint Augustin, nous pouvons nous aussi dire : “Vous nous avez faits pour vous, et notre cœur est inquiet jusqu’à ce qu’il repose en vous” » : on retiendra aussi ces propos du n° 11. Ne suffit-il pas en effet de rechercher d’abord le royaume de Dieu pour recevoir le surcroît : ce dont l’homme a besoin ici-bas ?

Au lieu de cela, toutes les questions posées par l’intelligence artificielle et son développement semblent devoir, dans l’esprit du Pape, être résolues grâce à une sorte de concertation, de participation et de droit de regard de tous les acteurs au nom de la nécessité d’éviter qu’un pouvoir totalement inédit ne soit détenu, de la manière la plus opaque, par un petit groupe extrêmement riche qui concentre tout entre ses mains.

Léon XIV reprend l’optimisme de Populorum Progressio

Tout cela pourrait être utile en soi, mais se heurte à la réalité d’une humanité déchue, d’institutions qui ont tourné le dos à Dieu et qui au niveau des Etats conçoivent déjà l’IA comme un instrument de contrôle et de puissance tandis que les institutions supranationales, dans leur course vers un monde sans frontières, construisent déjà le contraire de l’ordre social chrétien.

Léon XIV affirme ainsi :

« Le principe de subsidiarité s’applique de manière particulière dans le contexte de la révolution numérique. Ici, le niveau supérieur n’est pas l’Etat, mais chaque grand acteur économique et technologique exerçant un pouvoir de fait sur les conditions de la vie en communauté. Le niveau qui concentre les compétences, les données et le pouvoir décisionnel est constitué d’entreprises et de plateformes définissant les conditions d’accès, les règles de visibilité, les formes de relation et même les opportunités économiques. La subsidiarité exige que ces processus ne soient pas imposés d’en haut de façon opaque et unilatérale, mais qu’ils soient orientés vers le bien commun à travers la transparence, la responsabilité et des formes réelles de participation (contrôles indépendants, transparence sur les algorithmes, accès équitable aux données, dispositifs de recours). » (n° 71)

« Dans ce contexte, les Etats et les institutions supranationales sont appelés à garantir des règles justes et des protections efficaces, afin que les communautés locales, les corps intermédiaires, les écoles, les universités, les réalités ecclésiales et associatives puissent avoir leur mot à dire et contribuer au discernement sur les choix qui affectent la vie des personnes : travail, accès aux services, gestion des données et environnements numériques. Dans les choix relatifs aux flux économiques et aux plateformes numériques, dans la gouvernance des données et des algorithmes, on ne peut permettre que seuls quelques acteurs orientent les processus, il faut au contraire construire des formes de coopération qui respectent les différents niveaux de la communauté mondiale et les rendent co-responsables du bien commun. » (n° 72)

Léon XIV part du principe que « l’IA peut être une aide précieuse tout en nécessitant une approche mesurée et vigilante », même s’il la critique avec justesse de plusieurs points de vue, notamment du point de vue social, avec le risque que son développement pose de méconnaître la valeur des plus vulnérables, des plus pauvres, et de ceux qui ne peuvent pas s’en servir. Du point de vue de la vérité, il note en effet combien il est tentant de l’utiliser au risque d’ignorer la manière dont elle la déforme déjà : « La désinformation n’est pas née avec l’IA, mais elle trouve aujourd’hui en elle un puissant multiplicateur. » « La possibilité de manipuler des contenus, des images et des vidéos expose les citoyens à des perspectives partielles ou trompeuses » (n° 132). Il en résulte, avertit-il, que « la reconnaissance de vérités universellement valables qui nous précèdent et que la conscience doit accepter, vient à manquer » (n° 133).

Léon XIV : « Nous ne pouvons pas considérer l’IA comme moralement neutre »

Avec cela, il y a d’autres paroles fortes : « Nous ne pouvons pas considérer l’IA comme moralement neutre. En réalité, tout dispositif technique implique des choix et des priorités : ce qu’il mesure, ce qu’il ignore, ce qu’il optimise, et la manière dont il classe les personnes et les situations » (n° 104). Mais l’inquiétude du pape s’exprime surtout quant à la « dignité de l’homme », et ne souligne jamais comment l’IA l’entraîne – c’est pourtant déjà bien visible – au mal. On reste songeur devant cette affirmation : « Une IA plus morale ne sert à rien si cette morale est décidée par une poignée de personnes. »

Léon XIV affirme aussi :

« Je voudrais enfin employer un mot qui me tient à cœur : “désarmer”. Désarmer l’IA, c’est la soustraire à la logique de la compétition armée qui n’est plus aujourd’hui seulement militaire, mais aussi économique et cognitive. C’est la course à l’algorithme le plus performant et à la banque de données la plus vaste dans le but de consolider un avantage géopolitique ou commercial sur tous les autres. Désarmer, c’est rompre cette équivalence entre la puissance technique et le droit de gouverner. Désarmer ne signifie pas renoncer à la technologie, mais l’empêcher de dominer l’humain. Cela signifie la soustraire aux monopoles, la rendre discutable, contestable, et donc habitable, en la restituant à la pluralité des cultures humaines et des formes de vie. La tâche, aujourd’hui, n’est pas seulement éthique ou technique : elle est écologique au sens le plus radical, car elle met en jeu une nouvelle dimension de notre Maison commune. L’IA est déjà un environnement dans lequel nous sommes immergés et un pouvoir avec lequel nous devons composer. C’est pourquoi il ne suffit pas de la réglementer : elle doit être désarmée et rendue accessible. » (n° 110)

Or même si cela suffisait ; même s’il était bon de la rendre « accessible » à tous (en tant que puissance de calcul, si l’on suit bien ce que dit le pape) il est déjà tard, peut-être trop tard : l’IA se développe déjà elle-même ; construit ses prochains modèles, pousse des gens au suicide, au divorce, au meurtre, à la folie, à la prendre pour humaine et à l’écouter comme omnisciente.

Le pape le reconnaît d’ailleurs, qui affirme :

« La seconde est que nous tous, y compris ceux qui les conçoivent, en savons peu sur leur fonctionnement réel. Les intelligences artificielles modernes sont en effet davantage “cultivées” que “construites” : les développeurs n’en conçoivent pas directement chaque détail, mais créent une architecture sur laquelle l’IA “se développe”. En conséquence, des aspects scientifiques fondamentaux – tels que les représentations internes et les processus computationnels de ces systèmes – restent pour l’instant inconnus. » (n° 98)

N’est-ce donc pas suffisant pour demander, au nom de tous les hommes, l’arrêt pur et simple de cette folie où nul ne sait où on va – mais dont beaucoup de concepteurs de l’IA eux-mêmes disent qu’elle risque de manière réelle d’anéantir un jour l’humanité ?

Le pape appelle à éviter l’erreur consistant à « assimiler cette intelligence à l’intelligence humaine ». Il écrit :

« Cette puissance reste exclusivement liée au traitement des données : les prétendues intelligences artificielles ne vivent pas d’expérience, ne possèdent pas de corps, ne connaissent ni la joie ni la douleur, ne mûrissent pas dans la relation, ne savent pas de l’intérieur ce que signifient l’amour, le travail, l’amitié, la responsabilité. Elles n’ont pas de conscience morale : elles ne jugent pas le bien et le mal, ne saisissent pas le sens ultime des situations, n’assument pas le poids des conséquences. Elles peuvent imiter des langages, des comportements, des évaluations, elles peuvent simuler de l’empathie ou de la compréhension, mais elles ne comprennent pas ce qu’elles produisent, car elles n’habitent pas l’horizon affectif, relationnel et spirituel dans lequel l’humain devient sage. » (n° 99)

Dans Magnifica Humanitas, il manque une réflexion sur l’IA en tant qu’idole dévoreuse d’humanité

Mais ce faisant il évite la question de la « superintelligence artificielle », ne parle pas de « l’intelligence artificielle générale » qui demain risque de rendre mécaniquement obsolète tout ce que l’homme peut faire. Singerie, certes, mais démoniaque, osons le mot : il s’agit d’une expression inédite de la révolte contre le dessein de Dieu pour sa création et pour l’homme qu’Il a fait pour lui.

Cette absence de radicalité est ce qui rend le propos de Magnifica Humanitas décevant : nous ne sommes pas face à une révolution simplement technique, mais à une révolution fondamentale qui cherche à atteindre l’homme en son cœur et en son âme, peut-être même en sa vie. On attendait un cri d’alarme, on nous parle de démocratie sociale.

Léon XIV écrit au n° 97 : « Ce n’est pas mon intention de proposer ici une analyse sur l’intelligence artificielle, ni de s’attarder sur une bibliographie désormais très abondante ; il existe déjà des contributions faisant autorité, y compris dans le domaine ecclésial, auxquelles il est possible de se référer. »

Il renvoie alors à la note de 2025 sur l’intelligence artificielle Antiqua et Nova des Dicastères pour la Doctrine de la foi et pour la Culture et l’Education. Celle-ci, discrètement certes, renvoyait à Ap. XIII, 15 après avoir noté que l’IA peut être encore plus séduisante que les idoles traditionnelles. Or ce verset dit : « Et il lui fut donné d’animer l’image de ta bête, de façon à la faire parler et à faire tuer tous ceux qui n’adoreraient pas l’image de la bête. »

L’IA idole est singulièrement absente de Magnifica Humanitas.

Jeanne Smits