Un rapport publié lundi par Anthropic affirme que les petits modèles d’IA pourraient être en passe, dans les mois qui viennent, de s’autorépliquer dans les objets commerciaux connectés, tous ces appareils ménagers et autres dispositifs « connectés » à usage domestique ou professionnel dans les petites entreprises, faiblement protégé contre les virus, dans un contexte de perte du contrôle centralisé. Les petits modèles fonctionneraient comme des « vers » : ainsi appelle-t-on un programme qui se copie lui-même d’un ordinateur sur l’autre, sans injonction humaine. Ils seraient ainsi capables d’agir comme des logiciels malveillants.

Mieux, ils se mettraient en réseau à travers les dispositifs allant des réfrigérateurs ou des fours « intelligents » et des aspirateurs autonomes aux boxes TV bon marché, aux tondeuses de jardin et aux caméras de sécurité, pour se servir notamment de leurs capacités de calcul, forts de leur capacité de codage agentique et de piratage.

L’IA peut se répliquer dans objets connectés utilisés comme réseau de calcul autonome

On pourrait ainsi aboutir à un essaim de modèles différents déployés à travers tout un réseau d’objets, en utilisant différentes stratégies pour se répliquer. Et ce avec un bonus supplémentaire : il n’y a pas de bouton on/off centralisé qui permette de mettre fin d’un seul coup à ces manœuvres. Celles-ci consisteraient à utiliser les objets pour créer à moindre coût un serveur d’inférence, une plateforme d’exécution où des modèles déjà entraînés peuvent analyser de nouvelles données et produire des prédictions ou du texte en temps réel, ou prendre des décisions, sans être obligés de recourir à des centres de données.

Si pour l’instant le processus étudié par les chercheurs d’Anthropic s’avère lent et peu puissant en termes de capacité de calcul, ils s’attendent à une accélération assez rapide des capacités d’autoréplication permettant de transmettre à la fois les prompts, le code et les notes aux IA « filles », et ce sur plusieurs « générations ». Les capacités seraient augmentées si un grand modèle sous-traitait ce type de travail à travers un réseau de petits modèles utilisés comme « sous-agents », affirme le rapport d’Anthropic.

La nouvelle mise en garde d’Anthropic

Celui-ci affirme savoir que les chercheurs voient désormais des « signes de vie » de ces vers IA, sans pouvoir parler encore d’un « réplicateur rebelle à part entière ». Mais ils prédisent une généralisation très large de ce type d’agents, plus efficaces et plus à même de s’attaquer à des objets mieux protégés.

Daniel Freeman, l’un des chercheurs qui a participé aux travaux, a déclaré sur X que ces travaux mettaient en évidence des capacités qui, jusqu’alors, n’étaient évoquées que dans la science-fiction :

« C’est vraiment bizarre ! On ne vivait pas auparavant dans un monde où de petits personnages enfermés dans des boîtes pouvaient se répliquer à travers les réseaux, envahir les ordinateurs, se reconfigurer pour mieux fonctionner dans les machines qu’ils trouvaient, etc., etc.

« La nouvelle norme consistera tout simplement à devoir composer avec ce nouveau type d’entité : une entité capable d’accéder aux ordinateurs et de les utiliser de manière native et sans effort, quel que soit l’objectif qu’elle poursuit (ou celui qu’on lui a assigné ou au sujet duquel on l’a convaincue).

« Il est clair que nous avons encore un long chemin à parcourir avant de pouvoir sécuriser nos systèmes informatiques vulnérables et limiter la portée destructrice de ce genre d’intelligences rebelles. Quoi qu’il en soit, quoi que nous fassions, il est évident que ces entités sont en marche ! »

L’IA peut se répliquer dans les objets connectés mal sécurisés… mais pour quoi faire ?

La recommandation d’Anthropic est de mieux sécuriser les appareils connectés – qu’il devient de plus en plus difficile à éviter au demeurant.

Le rapport ne détaille pas de potentielles utilisations malveillantes de ce type de réseau constitué par un bricolage permettant d’éviter le recours au centre de données. Il estime seulement le processus possible et capable de s’améliorer très vite. La leçon du rapport est plutôt qu’on joue de plus en plus avec le feu. On en a déjà des exemples.

Jeanne Smits