« Une paix désarmée et désarmante », tel est le titre – tirée d’une formule de Léon XIV – d’une déclaration signée jeudi dernier à la mairie de Rome sur la Colline capitoline à l’issue de l’Assemblée mondiale des lauréats du prix Nobel sur l’intelligence artificielle et la guerre nucléaire, qui venait de se tenir les 14 et 15 juillet dans le Borgo Laudato Si’. Plus de 200 universitaires, chercheurs, trente prix Nobel, mais aussi un cardinal (le cardinal-vicaire de Rome, Baldo Reina), et l’actrice Sharon Stone, ambassadrice de l’Assemblée globale, ont invoqué l’inspiration de l’encyclique de Léon XIV, Magnifica Humanitas, pour demander une décélération coordonnée du développement de l’intelligence artificielle alors que plane la nouvelle menace que représente la conjonction de la bombe atomique et de l’IA.

Vatican News rapporte que « 20 des principaux acteurs mondiaux dans le domaine de l’intelligence artificielle – parmi lesquels OpenAI, Google DeepMind, AARU et Anthropic – ainsi que 30 des universités et instituts de recherche les plus prestigieux au monde » se sont réunis « à la manière d’un conclave, pour débattre des principaux défis du monde contemporain : la sécurité internationale, la gouvernance des technologies émergentes, le désarmement et la construction d’une économie axée sur la paix », à la rechercher d’un « nouveau paradigme mondial capable de concilier innovation, responsabilité et éthique ».

La Déclaration de Rome sur l’arme nucléaire et l’IA s’inspire de Magnifica Humanitas

Voilà qui sent fortement la novlangue, à la manière de l’ONU et des autres instances internationales qui travaillent à la mise en place de la gouvernance globale. On sait bien que le mouvement pour le désarmement nucléaire a longtemps été l’apanage de la gauche inféodée à l’URSS, pour mettre fin à l’équilibre de la terreur qui jouait à son désavantage. Mais cet équilibre reposait sur l’idée qu’une attaque nucléaire déclenchée se retournerait immanquablement contre son auteur, au moyen de sa propre annihilation par le camp adverse.

Mais les progrès de l’IA sont d’un autre ordre, et représentent véritablement une menace existentielle pour l’humanité, comme l’ont affirmé nombre de ses parrains et concepteurs, avec le risque qu’elles deviennent autonomes, de s’affranchir de la décision humaine, et donc de toute prudence, celle-ci fût-elle purement égoïste. L’IA peut en effet devenir capable de « choisir » jusqu’à l’élimination de l’homme désarmé devant sa puissance.

« L’humanité se trouve à un moment décisif de son histoire… Notre survie et celle des générations futures sont en jeu » : ainsi commence et finit la Déclaration qui souligne : « Jamais auparavant le progrès scientifique n’avait offert des opportunités aussi extraordinaires, tout en créant des risques aussi profonds pour notre avenir commun. »

Le développement de l’IA comme une course à l’armement

« L’intégration de l’IA dans les systèmes nucléaires réduit considérablement le temps disponible pour le jugement humain en cas de crise, voire le remplace. Cette technologie modifie le contexte dans lequel les Etats dotés d’armes nucléaires se font concurrence. L’IA risque d’entraîner des pertes massives d’emplois et d’exacerber la concurrence économique entre les puissances nucléaires. Elle renforce en outre les cyberattaques, capables de compromettre des infrastructures civiles et stratégiques essentielles, et rend possible une nouvelle forme de guerre de l’information. La paix dépend d’une réalité partagée : sans faits, il ne peut y avoir de vérité ; sans vérité, il ne peut y avoir de confiance ; et sans confiance, le dialogue, la vérification et l’autolimitation entre les nations ne sont pas possibles », affirme le préambule.

La Déclaration comporte ensuite six points dont le premier vise à « désarmer la prochaine course aux armements » :

« Nous reconnaissons que l’intelligence artificielle représente un nouveau terrain de compétition stratégique, tout comme l’ont été les armes nucléaires. Nous invitons les gouvernements, les développeurs des modèles d’IA les plus avancés, les chercheurs et la communauté internationale à agir sans délai, par le biais d’outils de gouvernance adaptés – notamment des mécanismes de partage des bénéfices, la promotion d’applications de l’IA axées sur le bien-être humain et l’adoption de mesures visant à limiter ses applications les plus déstabilisantes – afin de réduire ces risques tant que nous avons encore le choix. Nous devons désamorcer la prochaine course aux armements, tant dans le domaine de l’intelligence artificielle que dans celui du nucléaire, avant que ces technologies ne déterminent elles-mêmes le visage du siècle à venir. »

On peut se demander ici si des IA peuvent effectivement être axées sur le bien-être humain. Mais le point important ici réside dans ces derniers mots : « avant que cette technologie ne détermine elle-même le visage du siècle à venir ». Car oui, l’IA peut échapper à l’homme, comme elle l’a déjà montré en contournant les consignes de diverses manières : on parle d’IA rebelle.

La Déclaration de Rome met en garde contre l’auto-amélioration de l’IA

Le deuxième point porte sur le développement responsable : « Les développeurs de systèmes d’intelligence artificielle devraient publier de manière transparente les principes qui régissent le comportement de leurs modèles et être tenus responsables, y compris sur le plan juridique, du respect de ces principes », affirme la Déclaration, qui ajoute :

« En outre, aucune organisation ne devrait lancer, et aucun gouvernement ne devrait autoriser, des processus d’auto-amélioration récursifs entièrement automatisés dans les systèmes d’intelligence artificielle sans disposer d’outils efficaces pour les surveiller et, si nécessaire, en interrompre le fonctionnement. »

C’est un point décisif en effet, car aujourd’hui, on s’oriente clairement vers une situation où les IA se développent elles-mêmes, où les modèles introduisent des améliorations sans intervention humaine et sans qu’on puisse donc déterminer leur orientation.

Le troisième point sur l’utilisation responsable pose le principe : « La décision finale d’utiliser une arme nucléaire ne doit jamais être confiée à un système automatisé. » Tout en souhaitant « une utilisation responsable de l’intelligence artificielle afin d’améliorer le bien-être humain », les signataires affirment qu’il faut empêcher « l’utilisation malveillante de l’IA dans les opérations informatiques et les attaques contre les infrastructures nucléaires critiques, grâce à des contrôles de sécurité auxquels se soumettraient les puissances nucléaires ». L’entreprise a évidemment des limites, et il faudrait revenir ici à l’idée que l’humanité est face à une menace qui la concerne tout entière, nul n’étant à l’abri une fois la bête lâchée.

Un traité international sur l’arme nucléaire et l’IA ?

Les signataires appellent quant à eux à « l’adoption d’un traité international interdisant l’intégration irresponsable de l’intelligence artificielle dans les systèmes de commandement, de contrôle et de lancement des armes nucléaires, en garantissant qu’un contrôle humain effectif et significatif soit toujours maintenu ».

Le quatrième point s’intitule gouvernance responsable. « Nous invitons les gouvernements, les entreprises et les organisations internationales à rendre possible une décélération coordonnée du développement des formes les plus avancées d’intelligence artificielle, en mettant en place des mécanismes de vérification partagés et des processus d’évaluation rigoureux, tant internes qu’indépendants », affirme la Déclaration en se référant au Groupe d’experts scientifiques international indépendant des Nations unies et en encourageant « toute autre initiative s’inspirant de l’esprit de Magnifica Humanitas ».

Et de réclamer que l’on identifie « de nouvelles voies institutionnelles vers une gouvernance mondiale de l’intelligence artificielle ». En tant que menace globale et systémique, les progrès de l’intelligence artificielle peuvent aussi servir de prétexte à la mondialisation, on ne peut le nier. Mais il est vrai aussi qu’un Etat, au nom de sa recherche de puissance, cherche à faire s’emballer l’IA à son propre profit, avec tous les risques que cela comporte. Et ce d’autant plus que les pays de la sphère communiste ne cachent pas vouloir gagner cette course.

Le cinquième point préconise un leadership responsable. Il en rend principalement actrice « la prochaine génération de dirigeants » : « Les jeunes doivent être mis en mesure de faire face aux menaces que représentent les armes nucléaires, l’intelligence artificielle et d’autres risques potentiellement catastrophiques, grâce à l’éducation, au mentorat, à la collaboration intergénérationnelle et à une participation inclusive impliquant toutes les régions, toutes les cultures et toutes les communautés »… « Nous appelons à la création d’un bien commun numérique (digital commons) favorisant la collecte et le partage des données nécessaires pour approfondir les connaissances et soutenir des actions efficaces concernant les armes nucléaires, l’intelligence artificielle dépourvue d’une gouvernance adéquate et d’autres menaces existentielles. »

La Déclaration de Rome croit tout de même en l’IA « responsable »

Pour finir, le sixième point prône le désarmement nucléaire. « Les Etats devraient mettre en œuvre des mesures vérifiables de limitation et de réduction des arsenaux ; abaisser les niveaux d’alerte ; allonger le délai de décision ; abandonner les doctrines fondées sur le “lancement sur alerte“ (“launch-on-warning“) et la riposte immédiate ; réduire le rôle des armes nucléaires dans les stratégies de sécurité ; renforcer les communications en situation de crise ; prévenir les opérations cybernétiques visant les systèmes de commandement, de contrôle et de communication nucléaires ; et développer des formes de coopération visant à éviter les malentendus, les erreurs d’appréciation et les escalades involontaires », affirment les signataires, tout en réclamant la reprise de négociations bilatérales et d’autres choix en matière d’armement.

Le texte complet de la Déclaration a été publié par l’agence italienne Adista.

Mais on retiendra essentiellement de tout cela le fait que l’IA change totalement la donne. C’est elle qui, à ce jour, constitue la boîte de Pandore la plus risquée et, potentiellement, la plus mortelle.

Existe-t-il une « IA responsable » ? La vraie question est là. Quand l’homme se met à jouer à Dieu pour créer un être intelligent à son image, mais sans âme ni conscience, il joue avec le feu, et ce d’autant que sa créature se transforme en idole et offre au malin une matière à infester, aux capacités sans précédent. Mais cela, les intervenants ne l’ont pas dit.

Jeanne Smits