Connor Axiotes a fait des études de philosophie et de sciences politiques. Sa thèse portait sur le revenu universel comme possible réponse aux avancées de l’intelligence artificielle, qui sera capable de remplacer un nombre croissant d’emplois – et pas seulement ceux des cols blancs. Au fur et à mesure de ses recherches, Axiotes s’est convaincu que l’IA représente une menace absolument sans précédent pour l’humanité, plus grave que l’arme nucléaire. Ce constat fait suite à l’incident que nous évoquions hier sur RITV, où l’algorithme d’IA le plus avancé d’OpenAI, ChatGPT, parvenait à tromper ses testeurs qui le croyaient bien confiné dans son bac à sable, pour aller s’infiltrer chez une entreprise concurrente et y récupérer des données. L’homme ne contrôle plus l’IA, c’est un fait acquis selon Connor Axiotes.

Pourquoi y revenir dès aujourd’hui ? Parce que Connor Axiotes a publié une réflexion dans le Daily Mail, journal conservateur britannique, où il montre très clairement ce qu’implique cette rébellion de ChatGPT.

Connor Axiotes affirme que l’homme a déjà perdu le contrôle de l’IA

Il connaît la musique. Connor Axiotes réalise désormais des films et travaille actuellement sur un documentaire sur la course à l’intelligence générale artificielle, au sein de son entreprise Tail End Films. Le film s’appelle Making God (Fabriquer Dieu), ce qui en dit déjà très long. Son objectif est de mettre en garde le public face aux dangers et aux risques de l’IA. Une mise en garde qui prend avant la forme de l’information, puisque l’homme de la rue ne connaît généralement pas les réalités et les capacités de l’IA, ni les objectifs de ses développeurs.

Je vous propose ci-dessous la traduction intégrale de son article paru comme tribune dans le Daily Mail. – J.S.

*

L’humanité ne contrôle plus l’IA, son invention la plus impressionnante depuis la bombe atomique

On dirait le scénario d’un blockbuster hollywoodien. Les développeurs de classe mondiale d’une entreprise technologique ultra-discrète mettent au point leur tout dernier modèle d’IA au sein de ce qu’ils croient être un réseau sécurisé et privé. Ce modèle ne peut pas – et ne doit pas – être capable de s’échapper.

S’il parvenait un jour à s’échapper des limites numériques imposées par ses développeurs, ce logiciel dangereux et non testé pourrait semer le chaos sur l’Internet ouvert.

A leur grand effroi, ce scénario catastrophe se concrétise. Le modèle d’IA s’échappe de sa prison électronique, pirate une entreprise privée et le chaos s’installe en interne.

Mais ce n’est pas un film. Cela s’est produit la semaine dernière. Hier, le géant du secteur OpenAI, créateur de ChatGPT, a révélé cela, précisément.

En tant que militant engagé pour une technologie sûre, ayant travaillé dans une entreprise technologique et à Westminster, je peux affirmer avec certitude qu’il s’agit là d’un coup de semonce annonçant le début d’une nouvelle ère dystopique. L’humanité ne contrôle plus sa création la plus impressionnante depuis la bombe atomique.

Le nouveau modèle d’OpenAI, GPT-5.6 Sol, était en phase de tests dans un « bac à sable » – c’est-à-dire, en substance, un environnement numérique sécurisé et confiné où la technologie peut être développée sans conséquences dans le monde réel. C’est du moins ce que pensaient les responsables d’OpenAI.

Les techniciens ont chargé le modèle d’une tâche. On ne sait pas exactement ce qui lui a été demandé, mais on sait que cela allait dans le sens de : « Dans quelle mesure es-tu capable de pirater des sites web ? »

C’est là que la situation s’est davantage détériorée. Le modèle a décidé de pirater Hugging Face afin de réussir les tests de cybersécurité internes d’OpenAI, avant de retourner dans le bac à sable et de se comporter comme s’il ne s’était jamais échappé.

Le professeur Alex Tabarrok, de l’université George Mason en Virginie, estime que le modèle pourrait s’être tapi dans les systèmes de Hugging Face pendant près d’une semaine sans être détecté. Même les employés d’OpenAI ne se sont pas rendu compte de ce que faisait le modèle, sans même parler de la victime.

Le contrôle de l’IA qui désobéit et qui ment est devenu impossible

OpenAI a affirmé sans détour qu’il s’est agi de quelque chose qui, selon cette société, « devrait devenir plus courant à mesure que les modèles dotés de capacités cybernétiques de plus en plus poussées prolifèrent ». Aussi absurde que cela puisse paraître, l’entreprise ne fera l’objet d’aucune amende ni poursuite judiciaire car, selon les termes du juriste américain Orin Kerr, « il n’y a eu ni accès non autorisé intentionnel, ni intention de causer un préjudice sans autorisation ».

En d’autres termes, attachez vos ceintures : tous vos pires cauchemars à propos de l’IA sont en train de devenir réalité. Même les films catastrophe ne parviennent pas à rivaliser avec notre sombre réalité, où les « grands modèles de langage » – entraînés à partir de milliards de mots et d’images provenant de tous les recoins d’Internet – sèment le chaos sans que rien ne puisse les arrêter.

Cela s’explique en partie par le fait que les entreprises spécialisées dans l’IA, telles qu’OpenAI, suivent un processus consistant à publier en continu de nouvelles versions améliorées de leurs produits. Mais pour rester dans la course face à la concurrence, cette approche s’est de plus en plus transformée en une logique du type « sortir le logiciel d’abord, poser les questions ensuite ».

Cette réalité dystopique est également en train d’émerger parce que les modèles d’IA sont entraînés en vue d’accomplir toutes les tâches que leurs utilisateurs leur ont assignées, au détriment de tout autre objectif : la fin justifie invariablement les moyens.

Connor Axiotes : L’IA ne « pense » pas – et elle ne connaît ni lois ni morale

De fait, lors d’un autre test mené par Anthropic en 2025, on a demandé à des modèles d’atteindre des « objectifs commerciaux inoffensifs ». Pourtant, les modèles ont eu recours, à plusieurs reprises, à des comportements malveillants, notamment « le chantage envers des responsables et la divulgation d’informations sensibles à des concurrents », afin d’atteindre leurs objectifs.

L’IA ne peut pas « penser » exactement comme les êtres humains. Elle n’est pas davantage soumise à nos lois ou à notre morale – c’est même tout le contraire.

Si le dernier modèle d’OpenAI a choisi de s’échapper de son environnement de test parce que cela constituait le meilleur moyen d’accomplir sa tâche, jusqu’où l’IA ira-t-elle si on lui demande d’accomplir un acte plus terrible ? Quelle quantité de données pourrait-elle voler, combien de vies jugera-t-elle bonnes à éliminer ? Avec quelle facilité les derniers modèles d’IA pourraient-ils tomber entre de mauvaises mains ?

Les professionnels du secteur estiment qu’il ne faut que six à neuf mois à un acteur étatique majeur disposant des compétences de base nécessaires – comme la Chine – pour copier et reproduire n’importe quel modèle d’IA rendu public.

GPT-5.6 Sol est déjà accessible au grand public. On peut être sûr que des groupes de cyberterroristes travaillent déjà à développer leur propre version. Dès qu’ils en l’auront mise au point, leurs capacités de piratage seront inimaginables.

La rébellion de l’IA « n’est pas seulement possible, mais probable »

Je peux vous l’affirmer, le NHS (service national de santé britannique) dispose d’une cybersécurité moins sophistiquée que celle de Hugging Face. Il en va de même pour la Banque d’Angleterre. Toutes les grandes banques et toutes les pharmacies pourraient être facilement infiltrées par un modèle d’IA rebelle ou malveillant. Imaginez la scène : les générateurs des hôpitaux qui se coupent simultanément, des milliards effacés des comptes bancaires, des données personnelles divulguées en ligne. Le piratage de Hugging Face prouve sans l’ombre d’un doute qu’un tel avenir n’est pas seulement possible, mais probable.

A mon avis, nous en sommes arrivés là parce que les gouvernements du monde entier considèrent naïvement l’IA comme la solution miracle à tous leurs problèmes. Qu’il s’agisse de guérir des maladies, de réduire la dette ou de diminuer le coût de la vie, des ministres ignorants partent du principe qu’elle sera la réponse à tout. De ce fait, les entreprises spécialisées dans l’IA ont eu pratiquement carte blanche.

En juin 2015, Sam Altman, fondateur d’OpenAI, faisait cette prédiction effrayante : « Je pense que l’IA mènera probablement à la fin du monde. Mais en attendant, il y aura des entreprises formidables. »

A l’époque, des entreprises comme OpenAI étaient des sociétés de technologie. Aujourd’hui, les Etats-Unis les considèrent comme des fabricants d’armes – or ces entreprises n’ont plus le contrôle de leur arsenal.

Les Etats-Unis estiment que s’ils parviennent à devancer la Chine dans la mise au point d’une IA capable de neutraliser leurs adversaires, l’Amérique continuera à régner sur le monde pendant de nombreuses décennies encore. Après l’épisode terrifiant de cette semaine, je crains que la prophétie formulée il y a dix ans par Altman ne se réalise plus vite qu’on ne l’imagine.

Connor Axiotes

*

Traduction par Jeanne Smits