C’est une longue Note que viennent de publier conjointement les dicastères pour la Doctrine de la foi et pour la Culture et l’Education au sujet de l’intelligence artificielle : plus de 20.000 mots pour évoquer à la fois la nature et les implications de ce nouvel outil technologique au potentiel de « disruption » (comme on dit au Forum économique mondial) à la fois stupéfiant et inédit. S’agissant d’une réalité aussi révolutionnaire et qui prend une place croissante dans la vie quotidienne, il était normal que l’Eglise catholique se penchât sur la question et donne à la fois des axes de réflexion et des réponses aux interrogations philosophiques et morales posées par la fabrication d’une « intelligence » artificielle – ce sont ses concepteurs qui ont choisi de la désigner ainsi. On peut même parler de théologie dans ce contexte, puisque l’IA ouvre la porte à des dérives idolâtriques.

On sort de la lecture du document – disponible pour l’heure en italien, anglais, espagnol et allemand – avec des impressions mitigées. Passionnante quand il s’agit d’évoquer la nature de l’intelligence dont Dieu a doté l’homme, et de la relation de l’homme avec Dieu, sage dans ses nombreuses mises en garde, la Note paraît aussi bien optimiste quant aux limites qu’elle juge indispensable d’imposer à l’IA et insuffisante dans sa dénonciation du risque de voir celle-ci opérer le grand remplacement de l’homme. Quant à la potentielle manipulation de l’intelligence artificielle par des esprits mauvais, elle n’en parle pas du tout. C’est pourtant un sujet.

Nous avons évoqué ici un exemple concret d’une telle captation au service du mal.

La Note du Vatican sur l’intelligence artificielle ne va pas au bout des choses

La Note est signée par les cardinaux Victor Manuel Fernandez et José Tolentino de Mendonça, tous deux proches de la pensée du pape François et particulièrement progressistes en matière de doctrine sur les mœurs. Cela explique sans doute les très nombreuses références au pape régnant, vingt fois nommé dans le corps du texte et cité plus de cent fois dans les 211 notes : plus d’une note sur deux renvoie à ses écrits, dont une sur quatre à Laudato si’. Près de quarante notes citent Vatican II, Gaudium et Spes en particulier. Voilà pour le cadre – mais saint Thomas d’Aquin et les pères de l’Eglise sont bien présents, les fondations ne sont pas totalement oubliées.

Vu les dangers de l’IA – nous y reviendrons –, on aurait pu imaginer que l’Eglise catholique demande à tout le moins un moratoire sur cet outil potentiellement si menaçant pour l’humanité. Il faut reconnaître que cela n’aurait pas eu grand effet, mais surtout, prendre acte de ce qu’il est déjà trop tard. Les vannes sont ouvertes, on ne retiendra pas ce flot, d’autant que l’IA promet à ceux qui en sont les maîtres (ou les esclaves ?) richesse, pouvoir, domination.

Lâcher un tel fauve ne laisse pas de place pour beaucoup de solutions au niveau humain. La faiblesse de la Note des dicastères, approuvée au demeurant par le pape François, est de prêcher pour l’utilisation éthique de l’outil et d’en appeler à la conscience des hommes… déjà si gravement abîmée. La conclusion suggère que des réponses soient apportées « à tous les niveaux de la société, suivant le principe de subsidiarité ». « Les utilisateurs individuels, les familles, la société civile, les sociétés commerciales, les institutions, les gouvernements, ainsi que les organisations internationales doivent tous travailler à leur propre niveau pour assurer que l’IA soit utilisée pour le bien de tous », assure la Note. Mais elle ne pointe pas la dimension eschatologique que peut prendre ce combat : certes elle rappelle la dimension spirituelle de l’homme, mais elle ne l’invite pas à se tourner vers Dieu pour venir en aide à cette humanité qui a séparé science et conscience en se précipitant vers la ruine de l’âme.

L’IA n’est pas comme l’intelligence humaine

Pour autant, la Note contient des observations bienvenues sur l’intelligence artificielle, ainsi désignée en 1956 par l’un de ses pionniers, John McCarthy : il l’a définie comme ce « qui fait agir une machine d’une manière qu’on appellerait intelligente si un être humain agissait ainsi ». Aujourd’hui, les systèmes déjà fonctionnels spécialisés sont nombreux, depuis la traduction, le diagnostic médical et la prédiction météorologique aux programmes d’IA générative qui fabriquent à la demande textes, images, codes informatiques… Tout repose sur la capacité à analyser des données en quantités gigantesques pour identifier des motifs récurrents, « prédire » une suite ou proposer de nouvelles approches, souvent avec une telle rapidité qu’on laisse la bride au système. La Note explique :

« L’hypothèse implicite selon laquelle le terme “intelligence” peut être utilisé de la même manière pour désigner à la fois l’intelligence humaine et l’IA est sous-jacente à ce point de vue comme à beaucoup d’autres sur le sujet. Or, elle ne permet pas de saisir toute la portée du concept. Dans le cas des êtres humains, l’intelligence est une faculté qui concerne la personne dans son intégralité, alors que dans le contexte de l’IA, l’“intelligence” est comprise de manière fonctionnelle, souvent avec la présomption que les activités caractéristiques de l’esprit humain peuvent être décomposées en étapes numérisées que les machines peuvent reproduire. »

Cela ne tient pas compte de « toute l’étendue de l’expérience humaine, qui comprend l’abstraction, les émotions, la créativité et les sensibilités esthétiques, morales et religieuses ». L’IA n’a pas la capacité de « penser », insiste la Note des Dicastères : sinon en la limitant à la pensée « calculatoire ». « Si l’on dit que les machines fonctionnent grâce à la pensée logique, il faut préciser que cela se limite à la logique informatique. D’autre part, par sa nature même, la pensée humaine est un processus créatif qui échappe à la programmation et transcende les contraintes », précise une note de bas de page.

L’intelligence humaine est ordonnée à la recherche du vrai, du beau, du bien

On lit ainsi au paragraphe 14 de la Note :

« Dans la tradition classique, le concept d’intelligence est souvent compris à travers les concepts complémentaires de “raison” (ratio) et d’“intellect” (intellectus). Il ne s’agit pas de facultés distinctes mais, comme l’explique saint Thomas d’Aquin, de deux modes d’action d’une même intelligence : “Bien que l’intelligence et la raison ne soient pas des puissances différentes, elles prennent cependant leur nom d’actes différents. Car le mot d’intelligence se prend de l’intime pénétration de la vérité ; celui de raison, de la recherche discursive.” Cette description concise met en évidence les deux dimensions fondamentales et complémentaires de l’intelligence humaine. Intellectus désigne la saisie intuitive de la vérité – c’est-à-dire son appréhension avec les “yeux” de l’esprit – qui précède et fonde l’argumentation elle-même. Ratio se rapporte au raisonnement proprement dit : le processus discursif et analytique qui conduit au jugement. Ensemble, l’intellect et la raison forment les deux facettes de l’acte d’intelligere, “le fonctionnement propre de l’être humain en tant que tel”. »

D’ailleurs, qualifier la personne humaine de rationnelle ou raisonnable ne la réduit pas à une forme de pensée donnée mais affirme que « la capacité à comprendre intellectuellement informe et imprègne tous les aspects de l’activité humaine », qu’il s’agisse de connaître et de comprendre, de vouloir, aimer, choisir ou désirer, d’une manière propre à l’homme qui est corps et âme, non comme ayant deux natures mais dans son unique nature.

La Note – à la suite de Fides et Ratio et de la philosophie thomiste – qualifie l’intelligence humaine comme étant en dernière analyse de « don de Dieu pour percevoir la vérité », bien au-delà des simples préoccupations utilitaires : « Bien que la Vérité en elle-même transcende les frontières de l’intelligence humaine, elle l’attire irrésistiblement », assure la Note. Irrésistiblement ? On peut dire qu’il y a des ratés. Mais il est clair que l’IA n’est en rien ordonnée à la vérité. Il suffit de la voir à l’œuvre. Et encore moins à la charité, qui doit aussi être orientée vers la vérité, comme le rappelle la Note.

Celle-ci souligne également que « la recherche de la vérité trouve sa plus haute expression dans l’ouverture aux réalités qui transcendent le monde physique et créé ». « Au cœur de la compréhension chrétienne de l’intelligence se trouve l’intégration de la vérité dans la vie morale et spirituelle de la personne, guidant ses actions à la lumière de la bonté et de la vérité de Dieu. Selon le plan de Dieu, l’intelligence, dans son sens le plus complet, comprend également la capacité de savourer ce qui est vrai, bon et beau. Comme l’écrit le poète français du vingtième siècle Paul Claudel, “l’intelligence n’est rien sans plaisir”. De même, Dante, lorsqu’il atteint le plus haut des cieux dans le Paradis, témoigne que l’apogée de ce plaisir intellectuel se trouve dans la “lumière intellectuelle pleine d’amour, amour du vrai bien plein de joie, joie qui surpasse toute suavité”. »

L’intelligence artificielle est alimentée par des données – tout dépend du donneur…

Il s’ensuit que l’intelligence humaine est fondamentalement distincte de l’« intelligence artificielle » : « Une bonne compréhension de l’intelligence humaine ne peut donc pas être réduite à la simple acquisition de faits ou à la capacité d’accomplir des tâches spécifiques. En tant qu’expression de l’image divine dans la personne, l’intelligence humaine a la capacité d’accéder à la totalité de l’être, en contemplant l’existence dans sa plénitude, qui va au-delà de ce qui est mesurable, et en saisissant le sens de ce qui a été compris. Pour les croyants, cette capacité inclut, d’une manière particulière, la capacité de croître dans la connaissance des mystères de Dieu en utilisant la raison pour s’engager toujours plus profondément dans les vérités révélées (intellectus fidei). La véritable intelligence est façonnée par l’amour divin, qui “est répandu dans nos cœurs par l’Esprit Saint” (Rm 5,5). Il en résulte que l’intelligence humaine possède une dimension contemplative essentielle, une ouverture désintéressée au Vrai, au Bien et au Beau, au-delà de toute finalité utilitaire. »

L’IA reste pour sa part « confinée dans un cadre logique-mathématique », ne bénéficiant pas comme l’être humain d’une croissance physique et psychologique, d’expériences vécues qui l’enrichisssent.

La Note affirme dès lors :

« Par conséquent, bien que l’IA puisse simuler certains aspects du raisonnement humain et effectuer des tâches spécifiques avec une rapidité et une efficacité incroyables, ses capacités de calcul ne représentent qu’une fraction des capacités plus larges de l’esprit humain. Par exemple, l’IA ne peut actuellement pas reproduire le discernement moral ou la capacité à établir des relations authentiques. En outre, l’intelligence humaine s’inscrit dans une histoire personnelle de formation intellectuelle et morale qui façonne fondamentalement la perspective de l’individu, englobant les dimensions physiques, émotionnelles, sociales, morales et spirituelles de la vie. »

Arrêtons-nous un instant. La Note dit bien : « L’IA ne peut actuellemement pas répliquer… » Est-ce à dire qu’elle le pourrait un jour ? Il s’agirait alors toujours d’une « reproduction », d’un comportement tiré des données qui l’auraient alimentée, la Note le précise. Mais il deviendra de plus en plus difficile de faire la différence, ne serait-ce qu’en raison du vocabulaire courant. « L’IA ne devrait pas être vue comme une forme artificielle d’intelligence humaine mais comme un produit de celle-ci », assure le paragraphe 35.

L’IA et « l’ombre du mal »

La Note énumère alors une série d’applications utiles de l’IA, qui doit selon les Dicastères être utilisée comme n’importe quelle technologie développée par l’homme : pour le bien, et en tenant compte de la « responsabilité morale » de celui qui la crée ou l’utilise, la machine « n’étant pas en relation avec le vrai et le bien » comme l’est l’homme.

Les grands médias internationaux ont rapidement présenté le texte du Vatican sur l’IA en affirmant que « l’ombre du mal » est présente dans celle-ci, et en faisant immédiatement le lien avec la « désinformation ». Et pourquoi pas avec les complotistes, tant qu’on y est ! En réalité, le texte affirme au paragraphe 40 :

« Comme tout produit de la créativité humaine, l’IA peut être orientée vers des fins positives ou négatives ; lorsqu’elle est utilisée de manière à respecter la dignité humaine et à promouvoir le bien-être des individus et des communautés, elle peut contribuer positivement à la vocation humaine. Cependant, comme dans tous les domaines où les humains sont appelés à prendre des décisions, l’ombre du mal plane également. Là où la liberté humaine permet de choisir ce qui est mal, l’évaluation morale de cette technologie devra tenir compte de la manière dont elle est dirigée et utilisée. »

Les propos sur la désinformation, les deepfakes et les abus n’arrivent en réalité que bien plus loin dans la Note, à partir du paragraphe 85…

Celle-ci n’évoque pas seulement les fins, mais aussi les moyens utilisés par l’IA, en rappelant que les moyens aussi doivent être conformes au bien et du vrai. Citant le pape François, elle dit : « Les produits technologiques reflètent la vision du monde de leurs concepteurs, propriétaires, utilisateurs et régulateurs et ont le pouvoir de “façonner le monde et d’engager les consciences au niveau des valeurs”. » C’est vrai, oh combien : une brève promenade sur la dernière IA sortie sur le marché, le chatbot chinois DeepSeek l’a amplement confirmé : l’IA, c’est aussi un moyen de propagande, un outil pour répandre une pensée unique, un instrument qu’il est possible d’accorder comme un piano ou un violon pour qu’il restitue le son que l’on cherche à diffuser.

Dans une prochaine réflexion, nous nous pencherons plus précisément sur les recommandations pour l’usage de l’IA et sur les mises en garde de la Note vaticane.

Jeanne Smits