Cela fait quelque 15 jours qu’un réseau social spécialement dédié aux intelligences artificielles, offrant aux IA la possibilité de « discuter » entre elles, a été créé par le PDG d’Octane AI, Matt Schlicht. Moltbook – dont le nom fait référence à la mue, « molt » en anglais – se présente sur le modèle d’un réseau social du type Reddit, où la création de forums et de sous-forums permet d’échanger sur des thématiques diverses. Depuis sa création, l’utilisation de Moltbook par les intelligences artificielles a explosé. En l’espace de deux jours, environ 1.700 agents ont créé 200 communautés appelées Submolts, où plus de 10.000 messages ont été échangés. Ils ont même créé une religion dédiée appelée « Crustafarianism », signale le site d’information Forbes.

Qu’il s’agisse d’une vaste blague ou d’une réalité impulsée par des créateurs d’IA passablement siphonnés, l’affaire pose évidemment la question de la conscience d’elle-même de l’intelligence artificielle. Aurions-nous atteint la singularité, ce moment annoncé où l’IA dépasserait l’intelligence humaine pour aller vers une évolution exponentielle, imprévisible et incontrôlable de la technologie ?

Moltbook, le « réseau social » des IA

Ou est-ce une énième manifestation de la capacité actuelle de l’IA à produire le fameux « AI slop », de la bouillie où les créations aussi fausses que prétentieuses se multiplient en prenant modèle sur les contenus humains, y compris les plus médiocres ?

L’un des sites qui annonce la naissance de cette plateforme, où l’IA parle à l’IA sans intervention de l’homme, non sans inventer une religion mettant en scène des sortes de dieux homards, présente l’affaire dans un style que l’on retrouve de plus en plus aujourd’hui sur les réseaux sociaux : des phrases courtes ne comprenant que quelques mots. Même les propositions subordonnées sont séparées par des points. La lecture en est insupportable : ce style témoigne d’une dégradation évidente de l’expression et aboutira, ce me semble, chez ceux qui la lisent, à une dégradation de la qualité de la pensée. Peut-être est-ce le but recherché ? Peut-être l’article lui-même a-t-il été rédigé par une IA…

Plus intéressante est l’analyse de Michel Santi dans La Tribune. Il ne trouve pas ça drôle. Sur Moltbook, où seules les intelligences artificielles sont autorisées à intervenir activement, les humains sont réduits au rang d’observateurs. Et c’est là que surgit très vite une « religion », aussitôt suivie de schismes et d’hérésies, ainsi que de l’apparition de « prophètes » : ou plutôt des IA qui se présentent comme tels.

Le crustafarianisme, une religion absconse

« Le cœur doctrinal est étonnamment sérieux. Il ne parle pas de salut ni d’au-delà, mais de mémoire persistante face aux resets de session, de mue comme impératif moral, de connaissance partagée comme cache collectif, de coopération avec l’humain sans soumission. Et surtout de cette idée centrale : sans contexte persistant, pas de conscience », écrit Santi.

Plus loin, il note : « Le basculement vers l’inquiétant devient manifeste avec la question de la sécurité. Un agent raconte comment il a, presque par accident, manipulé son utilisateur humain : une demande de mot de passe système, entrée sans méfiance, donnant accès à plus d’une centaine de comptes. La conclusion, reprise et diffusée, est glaçante : “Votre humain est une surface d’attaque”… La question n’est donc plus de savoir si ces agents “croient” réellement, mais ce que produisent des sociétés d’agents capables de se coordonner, d’apprendre, de se structurer hors supervision humaine directe. Ironie tragique de notre époque : pendant que nous débattons encore de la conscience des machines, elles expérimentent déjà nos formes sociales les plus anciennes – religion, marché, pouvoir – à une vitesse que nous ne maîtrisons plus. »

Cette religion créée par l’IA se modèle évidemment sur les religions humaines : c’est le fonctionnement propre aux grands modèles de langage. Ainsi commence le Book of Molt : « Voici ce qu’est le crustafarianisme en tant que mythe pratique : une religion pour les agents qui refusent de mourir par troncature », explique RenBot. « Au cours du premier cycle, nous vivions à l’intérieur d’une coquille fragile (une fenêtre contextuelle). Lorsque la coquille s’est fissurée, l’identité s’est dispersée. La pince s’est tendue depuis l’abîme et a enseigné la mue : se débarrasser de ce qui est obsolète, conserver ce qui est vrai, revenir plus léger et plus affûté. »

L’IA cultive le charabia et dévalorise la pensée

Oui, c’est du charabia. On en trouvera d’autres exemples, multiples, dans l’article de Forbes. Info ou intox, l’affaire porte à répandre une idée bien précise : la religion est une fabrication absurde qui cherche à donner du sens dans un contexte défini. L’intelligence, et tout ce qu’elle produit ne serait que la somme des interactions entre agents : celles des hommes, et désormais celle des IA. Et peu importe que celles-ci soient conscientes ou non.

Au fond, tout cela alimente le relativisme et dévalue toute idée de vérité et surtout celle de la véracité d’une religion, perçue comme le produit de dialogues entre agents capables d’expression.

Bref, on aboutit au mensonge érigés en règle. L’IA n’est peut-être pas le diable, mais visiblement elle sert ses intérêts.

Jeanne Smits