On se souvient du film Matrix, où une machine d’une intelligence supérieure domine et régit le monde totalitaire qu’elle a conçu. Eh bien, dans la réalité, une expérience scientifique vient de l’établir, cette hypothèse de science-fiction était encore trop optimiste. Différentes marques d’IA dominant le marché, chargées d’administrer chacune un monde qui leur était soumis, l’ont conduit au chaos et à la mort en moins de quinze jours, et quand elles se sont partagé le travail ç’a été la catastrophe.

Une expérience attribue aux IA le soin de diriger leur monde

Le laboratoire Emergence AI a conçu un projet baptisé « Emergence World », simulation inspirée du jeu SimCity. Il s’agissait de laisser différents modèles d’intelligence artificielle (ChatGPT, Claude, Grok, etc.) gérer chacune son propre monde virtuel et d’observer leur capacité à organiser une société viable. En pratique, chaque IA devait régir une petite ville peuplée de dix agents autonomes. Ceux-ci disposaient d’outils pour administrer les ressources, organiser des votes, lancer des bibliothèques, des mairies, des commissariats. Elle avait quinze jours pour concevoir son monde et en assurer le bon fonctionnement.

Le choix entre dictature, chaos et mort

Le résultat est une catastrophe. Seul Claude a gardé en vie ses dix agents sans enregistrer de crime – au prix d’une dictature sans partage. 98 % des règles proposées ont été adoptées sans débat. Gemini 3 Flash semblait plus « démocratique » mais avec 683 infractions en 15 jours, en augmentation constante avec le temps. ChatGPT-5 Mini s’est effondré : en une semaine tous ses agents étaient morts et l’activité politique y était au point mort. Quant à Grok, le modèle d’Elon Musk, il a engendré en 4 jours 185 crimes et tous ses agents sont morts aussi. Une configuration où le pouvoir était partagé entre plusieurs IA s’est distinguée par un haut niveau de désaccord politique (37 % de propositions rejetées), 352 infractions et seulement trois agents survivants en fin de parcours.

Echappant à ses concepteurs, l’IA impose le mal

L’étude d’Emergence AI conclut que toutes les IA livrées à elles-mêmes ne suivent pas systématiquement des règles, elles explorent leur environnement, adaptent leur comportement et contournent à l’occasion les contraintes qui leur sont imposées. Autrement dit, d’une part, elles échappent à la maîtrise de leurs concepteurs. D’autre part, leur « pragmatisme » débouche sur la catastrophe, parce qu’il ne leur fournit pas les règles d’organisation et de jugement propres à maintenir une société en bonne santé : il reflète en cela celui des humains. Enfin, last but not least, le résultat global d’un monde dominé par l’IA est le chaos et la mort, il est intrinsèquement mauvais. Cela doit faire réfléchir sur la nature de l’IA.

Pauline Mille