Mgr Salvatore Cordileone, l’archevêque de San Francisco, bien connu pour son ouverture au monde de la tradition et sa volonté de soutenir le véritable art sacré, a participé la semaine dernière à une conférence à Washington sur les dangers de l’intelligence artificielle : la Pro-Human Assembly, organisée par l’association Future of Life Institute. C’est au moment où la Conférence des évêques des Etats-Unis crée un organisme dédié à la question de l’IA. Mgr Cordileone, dont le diocèse couvre une partie de la Silicon Valley, a déclaré au National Catholic Register que les récentes informations montrant que les hommes risquent d’être incapables de contrôler cette nouvelle technologie ont fait évoluer son point de vue sur l’IA

« Je pensais jusqu’à il y a à peu près une semaine que nous devions continuer, mais peut-être en ralentissant la marche, pour être sûr de mettre en place quelques garde-fous pour éviter d’atteindre le moment où nous serions incapables de la maîtriser », a-t-il affirmé : « Mais vu ce qui s’est passé cette semaine, je dois avouer que je suis encore en train de débattre avec moi-même pour savoir quelle est la bonne approche. »

Mgr Cordileone, archévêque de la Silicon Valley

Il évoquait évidemment l’affaire du piratage de Hugging Face par une version avancée de ChatGPT, celle de la démission bruyante de Jacob Coxon et les remarques de plusieurs responsables de sociétés d’IA qui, avec Dario Amodei d’Anthropic, demandaient un moratoire.

La Pro-Human Assembly accueillait des responsables politiques de bords divers, voire opposés, tels que le socialiste américain qui avait brigué la présidence des Démocrates aux USA, Bernie Sanders, et l’ancien conseiller de Trump, Steve Bannon.

Le premier a demandé que l’on considère la superintelligence artificielle comme une menace pour l’humanité, à l’instar de l’arme nucléaire. Le second appelait quant à lui de ses vœux un mouvement populaire pour empêcher la prise de contrôle de l’économie américaine par des leaders de la technologie, au moyen notamment de leur armée de lobbyistes à travers le pays.

Les risques de l’IA se concrétisent déjà

Plusieurs parents ont témoigné lors de l’événement de l’histoire de leurs enfants qui s’étaient suicidés à la suite d’interactions avec les grands modèles de langage IA.

Mgr Cordileone a dénoncé lors d’une table ronde avec des responsables religieux les effets néfastes de l’IA sur le bien de l’homme. Il a notamment souligné que les enfants ne devaient pas pouvoir entrer en communication avec des chatbots, parce que ceux-ci se substituent aux interactions humaines : « Dieu nous a créés pour la communion. Je crois qu’il faut les en écarter pendant qu’ils sont en développement, de manière à ce qu’ils puissent acquérir la capacité de former des relations humaines. »

Entre inquiétudes face à l’IA et à la domination de la Chine

En évoquant la journée avec une journaliste du National Catholic Register, il a fait part de son inquiétude devant la possibilité que les Etats-Unis ralentissent le développement de l’IA en laissant la Chine prendre l’avantage. Mais en même temps, il s’inquiète de voir les risques de l’IA devenir incontrôlables s’il n’y a pas un ralentissement général. « Idéalement, tout le monde serait au même stade et tous la confineraient de manière à ce que ces agents ne commencent pas à agir de manière autonome », a déclaré Mgr Cordileone.

Et d’ajouter que les responsables de l’IA avec qui il a pu échanger dans le cadre de son diocèse avaient tous lu Magnifica Humanitas, l’encyclique de Léon XIV sur l’intelligence artificielle, précisant que tous l’avaient « lu et apprécié » : « Je pense que le pape doit continuer d’exprimer la voix de la morale en cette matière. Le monde entier se tourne vers lui pour savoir dans quelle direction aller », a-t-il conclu.

Jeanne Smits