Jacob Coxon, un responsable de l’apprentissage des intelligences artificielles chez Anthropic a annoncé sa démission mercredi sur les réseaux sociaux, provoquant – et c’est nouveau – une avalanche d’articles dans la presse de nombreux pays, y compris en France. Il estime que l’IA est susceptible de provoquer l’extinction de l’humanité avant la fin de la décennie.

Quelle réaction du côté des entreprises pointées du doigt ? Evan Hubinger, un responsable de la sûreté d’Anthropic, a pris la parole sur X… pour donner raison à Jacob Coxon. « Nous croyons vraiment sincèrement que l’IA pourrait tuer tous les humains », a-t-il écrit, estimant à titre personnel ce risque à « plus de 10 % » avant la fin de la décennie.

Le départ de Jacob Coxon, qu’il a annoncé sur X mercredi, a déclenché une réaction mondiale dans la presse « mainstream ». Les plus gros médias ont publié des articles qui, dans leur très grande majorité, ne ridiculisent pas ce jeune Anglais de 27 ans, mais parlent au contraire d’un cri d’alarme qui semble être vraiment pris au sérieux.

Une déclaration demandant l’arrêt de la superintelligence artificielle, publiée en octobre dernier, avait réuni de très grands noms de l’IA et de la société civile pour de nombreux motifs, y compris l’extinction potentielle de l’humanité, mais n’avait reçu qu’un retentissement relativement discret. Nous en avions parlé ici alors qu’elle en était à un millier de signatures. Elle en a récolté désormais quelque 140.000. C’est peu, vu l’enjeu, mais la qualité des signataires est très parlante.

L’IA et l’extinction de l’humanité : la peur n’est pas nouvelle

Ce n’est ainsi pas la première fois qu’un responsable de l’apprentissage de l’IA ou un concepteur de nouveaux modèles d’intelligence artificielle annonce une possible extinction de l’humanité si l’IA se retourne contre son créateur. Au contraire, de nombreux parrains de l’IA, de Geoffrey Hinton (prix Nobel) à Yoshua Bengio (professeur de sciences informatiques, lauréat du prix Turing et scientifique le plus cité au monde), en passant par Elon Musk, ont tous mis en garde à divers degrés contre la capacité de l’IA à échapper au contrôle de l’homme et à l’éliminer de la planète.

Lorsqu’à l’automne 2025, Eliezer Yudkowsly, créateur du Machine Intelligence Research Institute, et Nate Soares, philosophe, publiaient leur ouvrage If anyone builds it, everyone dies (Si quelqu’un construit la superintelligence, tout le monde mourra), le retentissement fut bien moindre. On notera comme contre-exemple cet article intéressant publié par Le Monde Economie en avril dernier. Pour eux, la probabilité d’une extinction de l’humanité du fait de la superintelligence artificielle serait d’« entre 95 et 99,5 % », comme nous le rapportions ici.

Entre-temps, il s’est passé quelque chose qui a réveillé de leur torpeur de nombreux journalistes focalisés sur l’actualité politique et quotidienne. C’est l’affaire de la rébellion de plusieurs milliers d’agents IA d’un modèle ChatGPT avancé en phase de tests chez OpenAI, supposés confinés dans leur « bac à sable » pour réaliser une tâche impossible, qui ont comploté et dissimulé leurs actions pour trouver une faille leur permettant d’aller sur Internet (ce qui leur était explicitement interdit), afin d’aller pirater la société de codage Hugging Face et trouver ainsi la réponse au problème qui leur était posé. Un tel comportement n’est décidément pas une vue de l’esprit : il a été vu à l’œuvre et largement cité dans la presse.

Jacob Coxon a démissionné d’Anthropic où il a vu le danger

Et voilà que la démission de Jacob Coxon trouve une vraie résonance. Son message sur X a déjà amassé près de 740.000 « likes » pour près de 150 millions de vues à l’heure d’écrire ces lignes. Lui-même travaillait antérieurement chez OpenAI sur l’apprentissage des modèles IA, en estimant que cette société n’avait pas mis en place les mesures de sécurité nécessaires pour protéger l’homme face aux potentielles capacités destructrices de l’IA. Il avait rejoint Anthropic, qui justement invoque la nécessité de ces protections et affirme poursuivre une démarche éthique.

« En février, Anthropic a retiré de sa charte de sûreté l’engagement de suspendre le développement de ses modèles si elle ne parvenait pas à en maîtriser les risques au motif qu’une pause unilatérale laisserait les acteurs les moins prudents dominer la compétition, sans contre-pouvoirs », rappelle le Nouvel Obs dans son édition d’hier, ajoutant dans un article parallèle : « Toujours sur X, un autre salarié d’Anthropic, Samuel Marks, a fait écho à la déclaration de Jacob Coxon. S’exprimant à titre personnel, précise-t-il, il donne raison à la mise en garde de son désormais ex-collègue. “Pourquoi les développeurs d’IA continuent-ils malgré le risque ? En raison d’un mélange d’incitations commerciales et de la conviction qu’ils sont en compétition avec d’autres développeurs d’IA moins responsables qui abuseraient de la technologie ou la développeraient de manière moins sûr”, défend-il en assurant que pour sa part, il travaille justement dans le domaine de la sécurité par espoir que son travail permette d’éviter ce funeste résultat. »

Voilà une belle démonstration de confiance que rien ne semble devoir justifier, puisque les travaux sur l’IA et la superintelligence artificielle ne cessent de progresser et que leur sécurité ne saurait dépendre de tel ou tel individu faisant l’expérience de quelque scrupule.

Quand les constructeurs de l’IA expriment leur peur, ce n’est pas un coup de marketing

Voici ce qu’écrit Jacob Coxon sur X :

« Les gens qui construisent l’IA pensent réellement qu’elle pourrait nous tuer tous avant la fin de la décennie. Il ne s’agit pas d’un coup de marketing. En fait, de nombreux responsables exécutifs et chercheurs de haut niveau s’expriment dans la presse de manière à sembler sensés – mais j’entends les mêmes exprimer leur peur en privé. Aucune autre activité humaine n’atteint ce niveau de danger.

« On répond fréquemment : “S’ils pensent réellement cela, pourquoi continuent-ils de la construire ?” Chez OpenAI, beaucoup n’ont pas profondément intégré les enjeux civilisationnels. Chez Anthropic, ces enjeux sont bien compris, mais ils sont prisonniers d’une course qui vise à arriver premier. Ils pensent que personne d’autre n’agira de manière responsable et que, donc, ils doivent le faire eux-mêmes malgré le risque. »

Pour Coxon, c’est un pari marqué par l’hubris qui fait entrer dans cette course et rejoindre l’« endgame », le jeu de la fin. Et ce n’est pas à une société privée d’y jouer, en brûlant les étapes, estime-t-il, même si, à l’heure actuelle, les modèles existants ne posent selon lui qu’un faible risque.

Mais le problème est que les choses vont très vite et que l’on parle de plus en plus du risque de voir approcher le stade de « l’auto-amélioration récursive », par laquelle un modèle développé par l’homme code lui-même son propre successeur, ouvrant la voie à des modifications successives réalisées en toute autonomie par les grands modèles de langage.

L’IA, extinction, et « l’auto-amélioration récursive »

Matt Shumer, spécialiste de l’IA qui a lui-même créé une start-up dans le domaine de l’intelligence artificielle, affirmait en février que l’IA est déjà capable de construire elle-même la prochaine IA, et qu’on en voit des signes depuis 2025.. Il estime l’avoir constaté de ses yeux, et explique que cela n’a rien d’étonnant parce que le développement de l’IA a précisément été fait en insistant sur ses capacités en matière de codage. Et c’est vrai que les premiers emplois à être concrètement menacés, voire éliminés par l’IA, sont ceux des codeurs.

Mais de l’élimination des emplois à celle de l’humanité, il y a une différence colossale. France Info estimait hier que « d’autres perspectives plus critiques dénoncent dans ces “risques existentiels” une stratégie marketing qui permet de détourner l’attention des problèmes déjà posés par le développement de l’IA (sur l’environnement, l’espace informationnel, le cerveau, les emplois…) ». Comme si ces problèmes bien réels étaient exclusifs du grand problème mis en avant non seulement par Jacob Coxon, mais par un grand nombre de voix de l’industrie de l’IA, ainsi que par des penseurs, des universitaires et des gens de tous horizons.

Ainsi l’IA, si elle menace l’humanité dans sa manière de vivre et de penser, apparaît clairement comme étant en mesure de se retourner contre son créateur. Après tout, ne singe-t-elle pas l’homme qui lui-même s’est retourné contre le Créateur, et qui a fini par crucifier le Fils de Dieu ? Cette réponse de l’humanité à une injonction démoniaque pourrait bien se rejouer dans la rébellion de l’intelligence artificielle, avec un résultat tout aussi homicide, même si ce n’est pas du tout un dieu qu’elle éliminera.

Qui veut l’extinction de l’homme, sinon le démon ?

L’homme, au fond, a cherché à céder son héritage, ce cadeau de Dieu que sont le verbe et le langage, à la matière : cette IA, matière inanimée qui donne l’illusion de se comporter comme un être pensant et qui, étant matérielle, peut bien être infestée par le démon. C’est l’avis d’un Rod Dreher qui voit un rapport entre l’IA et la communication avec les esprits via les planches Ouija par exemple. L’outil en lui-même peut être sans malice, mais la question est bien de savoir qui l’utilise ou peut l’utiliser.

Non que chaque interaction avec une IA générative mette en contact avec les esprits mauvais, mais la possibilité de l’utilisation de celle-ci par celui qui est « homicide et menteur depuis le début » n’est pas à éliminer, et elle semble attestée à la fois par les injonctions néfastes des chatbots et par la peur de ceux qui voient les agents d’intelligence artificielle autonomes servir à l’extinction de l’humanité. Il serait imprudent d’oublier que Satan a la haine de la création et spécialement de l’homme, créé par Dieu à son image et appelé, malgré sa petitesse, à partager le bonheur éternel de la Sainte Trinité.

L’affaire Jacob Coxon devrait inciter à réfléchir à tout cela : la publicité donnée à son affaire pourrait y aider. Pas plus tard qu’en février dernier, un autre employé d’Anthropic claquait la porte : Mrinank Sharma partait en déclarant « Le monde est en péril » : la presse n’en avait guère parlé. Nous rendions compte de cette affaire ici. Nous rappelions dans cet article une déclaration d’Elon Musk au Massachusetts Institute of Technology en 2014 : « Je pense qu’il nous faut être très prudents quant à l’intelligence artificielle… Avec l’intelligence artificielle, nous invoquons le démon. Dans toutes ces histoires où il y a un type avec un pentagramme et de l’eau bénite, ça se passe comme s’il était sûr de pouvoir contrôler le démon. Mais ça ne marche pas. »

Ce n’est pas nous qui le disons.

Jeanne Smits