La Note de deux Dicastères romains sur l’intelligence artificielle et son rapport à l’intelligence humaine, nous l’avons vu dans la Ie partie de cette analyse, fait une nette distinction entre l’intelligence, don divin à l’être humain, et la capacité de calcul informatique et de raisonnement logique des programmes créés par l’homme pour se comporter à la manière des humains face à des demandes ou à l’analyse de données. Dans Antiqua et Nova, le Vatican, par le biais des Dicastères pour la Doctrine de la foi et pour la Culture et l’Education, rappelle avec saint Thomas d’Aquin que l’intelligence est ordonnée à la recherche du bien, du beau, du vrai à travers la connaissance du réel, y compris dans sa dimension transcendante : ne sommes-nous pas créés pour « connaître, servir et aimer Dieu » ? « L’intelligence » artificielle ne peut rien faire de tout cela, elle ne peut agir d’elle-même selon des critères moraux, elle ne peut avoir de responsabilité propre, mais seulement servir d’outil.

Cela n’empêche pas qu’elle puisse être évaluée selon sa capacité à servir de moyen, selon ses aptitudes – qui sont énormes – et selon ses limites, qui le sont aussi, mais d’un autre point de vue.

La Note du Vatican se garde de manifester une opposition radicale à l’IA

Antiqua et Nova – les mots font référence à la sagesse humaine ancienne, mais aussi nouvelle en ce qu’elle se penche sur des avancées technologiques inédites – s’attarde longuement sur ces limites. La Note ne manifeste pas une opposition radicale à l’IA, puisqu’elle la présente comme un atout possible dès lors qu’elle est utilisée sous le contrôle de l’homme et pour le bien, mais en souligne nombre d’aspects très négatifs qu’il est intéressant d’énumérer. On reconnaît dans cette approche une sorte d’a priori favorable sur « le monde » tout droit sorti de Vatican II, cité à maintes reprises : un optimisme qui ne semble pas vouloir tenir suffisamment compte de la faille qui s’est introduite dans la volonté de tout homme soumis à l’héritage du péché originel, et dont seule la grâce peut en réalité le sauver.

Cependant, la Note reconnaît que « toutes les avancées technologiques ne représentent pas toutes en elles-mêmes un progrès humain véritable », et ajoute : « L’Eglise est particulièrement opposée aux applications qui menacent le caractère sacré de la vie ou la dignité de la personne humaine. » En un mot, elles doivent « servir la personne humaine »… ce qui est en soi limité, même si la Note remarque qu’entre la machine et l’homme, seul ce dernier est un « agent moral » dont la conscience doit le conduire à « aimer et faire ce qui est bien et éviter le mal ». On remarquera simplement qu’il est dans la Note davantage question du bien social et de la relation de l’homme avec la création que de sa relation avec Dieu, et qu’elle se préoccupe, avec le pape François, des « inégalités » que l’utilisation de l’IA surajoute dans la société à travers, notamment, « les différences dans l’accès à l’influence politique et sociale ». Mais il n’est pas faux de noter que celui qui maîtrise l’intelligence artificielle – à savoir un nombre limité de sociétés extrêmement puissantes – possède par là un pouvoir gigantesque qui va jusqu’à la « manipulation des consciences ». Cela ne fait qu’exacerber une réalité qui existe déjà…

Au titre des dangers de l’IA catalogués par la Note, on trouve les « défis qu’elle pose aux relations humaines », qui ont besoin d’être « incarnées ». Dommage que les porte-parole du Vatican n’aient pas pensé à cela au moment des confinements covid, où les relations humaines étaient diabolisées, où les mourants mouraient seuls, où le contact était rompu par les distanciations sociales, les masques et les écrans interposés… Ce fut un avant-goût d’une société virtualisée : un cauchemar.

Antiqua et Nova dénonce l’anthropomorphisme de l’intelligence artificielle

Antiqua et Nova souligne également : « Etant donné que l’IA peut imiter efficacement les produits de l’intelligence humaine, la capacité de savoir si l’on interagit avec un humain ou une machine ne peut plus être considérée comme allant de soi. L’IA générative peut produire du texte, de la parole, des images et d’autres résultats avancés que l’on associe généralement aux êtres humains. Cette distinction est souvent obscurcie par le langage utilisé par les praticiens, qui tend à anthropomorphiser l’IA et donc à brouiller la frontière entre l’humain et la machine. » Et cela est encore plus grave s’agissant de l’enseignement donné aux enfants, avec le risque de voir ceux-ci « traiter les relations humaines d’une manière transactionnelle, comme on interagit avec un chatbot ». Humaniser l’IA, en somme, conduit à déshumaniser l’être humain…

L’IA n’est pas capable d’« empathie », insiste la Note, soulignant notamment son incapacité à faire autre chose que du « raisonnement analytique », à « accueillir l’altérité, à saisir même le sens des silences ».

Une mise en garde s’impose ici. Des générations d’écoliers ont été largement privés, ces dernières décennies, par le biais de pédagogies globales, de la capacité de raisonner de manière analytique, ce qui est le propre du « cerveau gauche », et on a insisté sur ces « autres » formes d’intelligence que sont l’intelligence émotionnelle, intuitive, analogique ou relationnelle, associées au « cerveau droit ». Cela donne même lieu à « l’apprentissage social et émotionnel », tout droit sorti des cartons d’occultistes New Age ou d’activistes communistes qui veulent changer le monde en ancrant les jeunes générations dans leurs émotions.

Il se trouve que l’être humain ne jouit pas d’un accès immédiat, intuitif à la vérité – le prétendre, c’est vouloir en faire « comme un dieu », alors qu’il a précisément reçu le don de pouvoir raisonner afin de rechercher la vérité et de l’atteindre dans la mesure où son intellect est en adéquation avec la réalité. Les sentiments n’y sont pour rien : l’intelligence humaine passe par l’analyse, et par l’analyse exprimée à travers le verbe (autre don divin), c’est à travers elle que l’homme accède à la connaissance qui permet d’éclairer sa volonté. Cette volonté qui lui permet d’aimer en vérité…

Empathie, intelligence émotionnelle, âme : bien cerner les limites de l’IA

Ce n’est pas d’abord l’« empathie » qui manque à l’IA (et il est déjà de ses concepteurs hauts gradés qui la voient bien, demain, acquérir une « intelligence émotionnelle », une capacité à imiter l’expression de sentiments qui permettra presque de rendre des interactions entre hommes et ordinateurs très semblables à celles des interactions entre êtres humains) : c’est une âme. Dans un monde aussi matérialiste que le nôtre, où le discours dominant fond l’humanité dans une « nature » personnifiée pour ne pas dire déifiée, cela n’a plus guère de sens, et il n’est pas impossible qu’avec le temps on ne finisse par accorder des droits personnels aux ordinateurs agents de l’IA…

Heureusement, la Note du Vatican souligne : « Si nous remplaçons les relations avec Dieu et avec les autres par des interactions avec la technologie, nous risquons de remplacer la relation authentique par une image sans vie (cf. Ps. 106:20 ; Rom. 1:22-23). Au lieu de nous retirer dans des mondes artificiels, nous sommes appelés à nous engager de manière engagée et intentionnelle dans la réalité, notamment en nous identifiant aux pauvres et aux souffrants, en consolant ceux qui sont dans la peine et en forgeant des liens de communion avec tous. »

Le texte fait écho à saint Paul : « Se vantant d’être sages, ils sont devenus fous ; et ils ont échangé la majesté du Dieu incorruptible pour des images représentant l’homme corruptible, des oiseaux, des quadrupèdes et des reptiles. »

Pour être clair, on parle ici d’idoles. Comment ne pas penser à l’avertissement du Deutéronome : « Car tous les dieux des peuples sont des démons, mais le Seigneur a fait les cieux. »

L’intelligence artificielle, une nouvelle idole

La Note mentionne également le rôle de l’IA, qui peut devenir excessif, dans le monde de la finance mais aussi du travail. L’approche, une fois de plus, est optimiste, puisque les auteurs estiment qu’elle pourra améliorer la productivité et créer de nouveaux emplois en laissant les hommes se concentrer sur des tâches plus novatrices ou créatives. Mais la Note reconnaît aussi que l’IA peut remplacer l’homme, dévaloriser son travail ou même le déshumaniser en soumettant le travail à une surveillance constante, privant du même coup le travail de sa « dimension essentielle » au sein de la « vie sociale », où il permet aux hommes de s’accomplir.

Pour ce qui est du domaine des soins, où l’IA est déjà très présente dans le cadre du diagnostic ou de la statistique, la Note met en garde contre le risque de voir le soin des malades déshumanisé par l’appel à des machines pour assurer ce service, spécialement dans la prise de décision quant aux traitements qui exigent le consentement éclairé. « Il en résulte que les décisions concernant le traitement d’un patient et le poids de la responsabilité que cela entraîne doivent toujours rester au niveau de la personne humaine et ne doivent jamais être délégués à l’IA », précise la Note – en particulier pour contrer le recours à des éléments de prise de décision fondés sur des considérations économiques.

Tout cela est bel et bien, mais on peut craindre qu’il ne s’agisse que de vœux pieux. Pourquoi s’encombrer de considérations morales – ou éthiques, comme on dit lorsqu’on veut mettre sous cloche la dimension transcendante de la morale – quand le monde est déjà sécularisé comme il l’est, et oublieux des fins dernières qu’on ne prêche plus guère, préférant la promotion d’une « fraternité universelle » qui laisse chacun croire ce qu’il veut ?

A la semaine prochaine, pour la suite et la fin de cette analyse. Mais non sans citer cette réflexion du futurologue Laurent Alexandre glanée ce jeudi sur son compte X. Réagissant au propos du député Antoine Léaument appelant à réquisitionner les biens de ceux qui fuiraient l’impôt en France (« On peut faire du made in France sans milliardaires, pas sans travailleurs »), le Dr Alexandre rétorquait : « Ce que le député Mélenchoniste ne comprend pas c’est qu’avec les Robots Hyper Intelligents qui arrivent, il va être possible de produire SANS TRAVAILLEURS… Antoine Léaument vit dans le passé ! »

Dans une certaine mesure, les Dicastères du Vatican aussi…

Jeanne Smits