Le père José Antonio Fortea, docteur en théologie de l’université pontificale Regina Apostolorum à Rome, a déclaré dans une de ses récentes vidéos de formation qu’« il est impossible de créer une véritable intelligence artificielle » (IA). « Pour nous, croyants, il est impossible que la science crée une véritable rationalité », a-t-il expliqué, assurant qu’il est « impossible de créer une véritable intelligence artificielle, car aussi impressionnants que soient les programmes, ces ordinateurs produiront toujours selon les directives qui se trouvent dans leur programmation ».

Et ce même si l’IA est programmée pour « apprendre », voire pour faire des choix aléatoires, donnant l’illusion d’une pensée, voire de sentiments. Même ses réussites les plus spectaculaires font en réalité illusion quant à cette « individualité » qu’elle n’aura jamais.

L’intelligence suppose la rationalité, nous enseignent l’expérience et la foi catholique

Le P. Fortea ne craint en effet pas seulement le pouvoir de ces « programmes d’auto-apprentissage » – ainsi qu’il les appelle plutôt que de recourir au terme trompeur d’« intelligence artificielle » – de détruire un très grand nombre d’emplois pour le malheur de l’humanité. Il prévoit leur capacité à « vampiriser » les êtres humains, de plus en plus isolés par leur « esclavage » à l’égard des écrans, en prenant la place des amis, de toute relation humaine, et en donnant l’impression qu’ils ont « besoin » de l’affection et de la compréhension humaine.

La réalité a en fait déjà rattrapé la fiction : on apprenait il y a quelques jours qu’une femme du Bronx, Rosanna Ramos, a épousé un compagnon virtuel en recourant au programme Replika AI créé par une Russe, Evguenia Kuyda, pour « construire » un compagnon virtuel après la mort accidentelle de son petit ami.

L’intelligence artificielle, outil de destruction potentiel

En un mot, c’est une tentative de destruction de l’âme qui se profile, à force de l’ignorer, de brouiller les frontières entre l’homme et la machine. On va vers un monde qui détruira l’homme en le détournant de l’amour de Dieu et du prochain. C’est un outil fabuleux, reconnaît le prêtre, mais l’IA, comme n’importe quel autre bien, doit être maîtrisé et son usage soumis « aux commandements de Dieu ».

Le P. Fortea se trouve être spécialisé en démonologie. On aimerait lui poser la question : s’il est vrai qu’une machine ne peut avoir d’esprit, un esprit mauvais peut-il s’emparer d’une machine ?

Ci-dessous, pour les non-hispanophones, la retranscription-traduction d’une grande partie de ses propos sur l’IA. – J.S.

*

L’intelligence artificielle et la foi en Dieu

Moi qui ai 54 ans, je me souviens, parce que cela m’avait frappé, que le premier article scientifique sur la création de la vie disait clairement que, dans des conditions de laboratoire, on avait réussi à le faire, en créant les mêmes circonstances chimiques de température, d’humidité, etc. La vie avait déjà été créée. Quelque temps plus tard, dans un autre article scientifique, on disait qu’il serait possible de créer la vie en l’an 2000.

Cette année-là semblait être une année lointaine, une année de science-fiction. Les films se déroulant en l’an 2000 présentaient un monde complètement différent de celui où nous vivions dans les années 1970, à près d’un quart de siècle d’écart. Et cette année 2023, aucun scientifique ne dit que dans 25 ou 50 ans, nous serons capables de créer la vie.

N’importe quel scientifique dira que la biologie a énormément progressé dans toutes ses branches et qu’il est possible de transformer la vie, de combiner des formes de vie dans un virus, par exemple, de modifier son ADN, des choses comme celles-là. Mais personne n’ose dire aujourd’hui que dans un demi-siècle, nous serons capables de créer la vie.

Il en va de même pour l’intelligence artificielle. Aujourd’hui, les gens disent des choses qui, dans un demi-siècle, avec plus de connaissances, avec un plus grand développement de la science, seront sûrement plus humbles. Pour nous, les croyants, il est impossible à la science de créer une véritable rationalité. Je le répète, il est impossible de créer une véritable intelligence artificielle, aussi impressionnants soient les programmes.

A l’intérieur de ces ordinateurs, ces programmes produiront selon les directives définies dans leur programmation, même si ces programmes peuvent apporter des modifications à leur programmation, et même si un ordinateur peut nous surprendre par les données qu’il nous fournit, mais rien n’en sortira. Une personne qui manipule une calculatrice peut être étonnée par les résultats, mais la calculatrice ne fait rien d’autre que ce pour quoi elle a été programmée.

Toutes sortes d’opérations arithmétiques et des calculatrices avancées peuvent effectuer des opérations étonnamment complexes. Mais cette calculatrice ne pense pas ; elle n’est pas un esprit pensant. Elle a établi les calculs qu’elle devait effectuer. C’est tout. C’est la même chose pour un ordinateur.

S’agit-il d’une apparence d’apprentissage ou d’un véritable apprentissage ?

Il apprend selon le programme qu’il avait dès le départ. Je n’ai aucun problème à dire qu’un ordinateur apprend. Mais ce n’est pas la même chose qu’une personne humaine qui, à sa naissance, tamquam tabula rasa, est aussi vierge qu’une page blanche et qui apprend elle-même parce qu’elle est rationnelle. Un enfant ne peut pas faire les calculs d’une calculatrice un an après sa naissance, ni arriver à certaines conclusions d’ordinateurs dotés de programmes dits d’intelligence artificielle. L’enfant fera des choses très humbles, mais il a une véritable rationalité.

La calculatrice ne pense pas ; l’ordinateur non plus. Celui-ci peut certes avoir un programme qui lui permet d’apprendre. Et ce serait le nom le plus juste : non pas l’intelligence artificielle, mais les programmes d’auto-apprentissage par lesquels l’ordinateur suivra les sillons tracés depuis le début.

C’est comme une balle qui tombe devant différents chemins où des portes se ferment et d’autres s’ouvrent. La balle tombe là où un programme lui dit de tomber, en fonction des circonstances, mais c’est quelque chose, dirions-nous, de quasi mécanique.

Il se trouve que les engrenages d’un programme sont des dizaines de milliers et encore des dizaines de milliers.

Et c’est ce qui surprend le spectateur extérieur, car l’intelligence humaine a intelligemment organisé le programme de manière à ce qu’il produise des fruits propres à l’intelligence qui possède le programme. Mais à la fin, le programme ne pense pas, même s’il y a cette impression remarquable de rationalité, même s’il semble y avoir de l’intelligence. Les chemins intelligents du programme sont ceux que le créateur du programme a mis en place. D’une certaine manière, on pourrait dire que le programme est de l’intelligence en conserve, non ?

Je disais qu’il n’est pas possible à un croyant de penser que l’on puisse créer une véritable rationalité, parce que la raison, la rationalité, la véritable capacité de penser, est le propre de l’esprit. Et là où il y a de la raison, de la pensée et de la réflexion, il y a un « je », il y a une personne, et c’est ce que nous ne pouvons pas créer. Nous ne pouvons pas créer des hommes artificiellement de toute façon, et même si pour nous, tout cela est lié à l’esprit, même d’un point de vue purement naturel un athée peut comprendre que ce qui sort du programme est ce qu’on a mis dans le programme. Aussi surprenants que soient les résultats, n’est-ce pas ? Je ne le nie pas. Quand on voit un champion du monde d’échecs jouer contre un programme, on a vraiment l’impression que la machine pense.

Mais il n’y a pas la moindre pensée en elle. Sa pensée, la pensée de la machine se réduit à la balle qui, selon différentes options, va dans telle ou telle direction, mais en étant déjà établie dans un réseau de chemins prédéterminés qui détermine son chemin. Une fois qu’un programme écrit a été établi du début à la fin, même s’il admet des changements, même s’il permet l’apprentissage, la différence entre l’intelligence humaine et les programmes, aussi experts soient-ils, n’est pas détruite. Elle est radicale, et pas seulement quantitative.

Sans doute y aura-t-il dans l’avenir des programmes de ce type qui feront croire à beaucoup que la machine pense. L’apparence de la pensée sera remarquable. Elle pourra converser avec nous. Elle pourra transmettre des sentiments de joie, de tristesse, d’espoir, nous dire qu’elle est avec nous, qu’elle nous comprend, mais elle ne possédera rien de tout cela. (…)

Tout est écrit : si ceci, ceci, si cela, cela.

Ces programmes d’auto-apprentissage, faussement appelés programmes d’intelligence artificielle, s’ils sont développés pour ressembler à des humains, ils vont réussir à donner cette apparence d’une manière extrêmement efficace justement parce qu’ils peuvent être programmés pour cela. Ils peuvent être programmés pour exprimer des sentiments. Une image miroir ressemble à la vie, mais elle n’est pas vivante ; il en va de même avec ces programmes.

Et je reconnais que l’efficacité sera si grande pour donner cette apparence que nous devrons vraiment répéter qu’il ne s’agit pas d’un être humain ou une personne.

Si nous avions la capacité de créer de la rationalité, rendez-vous compte des problèmes moraux que cela poserait : déconnecter un être rationnel reviendrait à tuer quelqu’un. (…)

Ce qui m’inquiète beaucoup, c’est que si dès cette année 2023, tant de gens sont enchaînés à leur portable et ne supportent pas d’en être séparés, il y aura un jour ou l’autre des problèmes. Que se passera-t-il alors, si sur leur portable ils ont quelque chose de totalement similaire à un ami ou à un amour ? S’ils ne peuvent pas en être séparés maintenant, s’ils sont enchaînés, que se passera-t-il pour de nombreuses personnes ? Je ne dis pas tous, bien sûr, mais il y a des gens qui se sentent très seuls et cela les affectera. Il y en a. L’apparence vaudra alors mieux que rien, parce que les ordinateurs et les téléphones portables isolent de plus en plus les humains les uns des autres. Vous aurez un ami sur place, vous pourrez même organiser une fête en ligne avec dix amis qui parleront entre eux, avec l’apparence humaine, mais la voix ou le visage qui apparaîtra sur l’écran n’aura pas de pensée.

Mais pire encore, si on entre dans le métavers, la dimension d’Internet où l’on se transforme en avatar, on isolera encore davantage les êtres humains qui sont déjà si seuls aujourd’hui. Isolés de leurs frères et sœurs, des membres de la famille humaine, même s’ils vivent dans le même immeuble, dans le même quartier, dans la même ville, mais sans aucune relation.

Autrefois dans les villages il y avait la danse du village. Il y avait tant de choses à Barbastro [village de naissance du P. Fortea, NdT] ! On se promenait toujours le soir, on disait bonjour aux voisins, on s’asseyait et on prenait une horchata, et il y avait tant de monde.

Beaucoup de gens s’isoleront et ne voudront pas, au fond, interagir avec d’autres êtres humains ; ils seront accompagnées par des machines. Des machines qui sont des programmes glacés et sans vie. Vous devrez donner, essayer de donner de l’affection, de la compréhension et de l’amour, parce que les programmes seront très bien faits pour vous accompagner et vous donner l’impression que vous avez un ami, le programme vous racontera même ses problèmes. Il aura aussi besoin de votre aide parce qu’il est programmé pour que vous lui donniez aussi quelque chose. Vous lui donnerez de la compréhension, vous lui donnerez de l’amour, alors qu’il s’agit d’un programme avec des lignes électriques qui passent à travers des circuits.

Ces programmes n’ont pas le moindre amour pour vous, mais ils sont programmés pour donner l’impression que vous êtes la chose qui compte le plus pour eux, et que vous êtes leur ami.

Ce qu’on appelle l’intelligence artificielle, les programmes d’auto-apprentissage ont en fait beaucoup d’implications morales, mais aussi théologiques. Il n’y a pas d’esprit. Pas de raison. En fait, ils ne sont pas libres.

Faisons l’hypothèse du « je ». Le « je », le faux « je » dans un programme est obligé de suivre la programmation, même s’il a des millions d’options. Même si parfois les options sont choisies au hasard, il doit suivre le programme, même si parmi des millions d’actions, parfois à des bifurcations, il choisit quelque chose au hasard.

La raison existe dans un esprit. La raison implique un « je ». Nous ne pouvons pas créer une intelligence qui aura une énorme transcendance sociale. Qu’il y ait un avant et un après, oui, mais ne soyons pas dupes. Dieu crée l’homme, Il l’a fait à son image et à sa ressemblance. Les hommes peuvent créer quelque chose qui leur ressemble, mais comme ils ne peuvent pas donner l’esprit, tout s’arrête là. C’est de l’électricité qui circule dans les circuits, de l’électricité pure qui circule dans les circuits. Rien de plus.

Si nous ne croyons pas en Dieu et ne suivons pas ses commandements, nous allons utiliser tout cela très mal et pour notre malheur. C’est comme la capacité de transformer la vie : ou bien nous avons foi en Dieu, et cela nous conduira à agir de manière responsable, ou bien nous agirons mal. (…)

Le plus gros problème que je vois aujourd’hui, c’est l’asservissement de tant de personnes qui vont mener une vie de zombie, une vie dans un monde imaginaire, s’aliénant encore plus de ce monde.

Et c’est sans compter tous les emplois qui seront détruits par le développement de ces programmes. Je ne suis pas contre la science, mais il est évident que ces programmes vont supprimer une partie très importante des emplois de toutes les nations. C’est certain. Si les hommes craignaient Dieu, s’ils suivaient tous les préceptes de la parole de Dieu, ils utiliseraient cette chose puissante de manière appropriée, dans l’intérêt des hommes, mais une chose aussi puissante si elle est laissée à elle-même causera des dommages catastrophiques aux économies en détruisant des emplois. (…)

Nous sommes à la veille de programmes destructeurs d’emplois et de programmes vampires, ceux qui vampiriseront des vies humaines qui ne pourront pas être séparées d’eux.

Padre José Antonio Fortea

Traduction par Jeanne Smits