OpenAI a reconnu mardi soir qu’une version très avancée de ChatGPT actuellement testée par le développeur d’intelligence artificielle a réussi à pirater une autre entreprise spécialisée dans l’IA et le codage, Hugging Face, en parvenant à s’y infiltrer avant de voler des données. Le système informatique utilisé pour l’opération par OpenAI était pourtant censé être sécurisé.

Les tests portaient justement sur les capacités de piratage de cette version de ChatGPT, et comportaient la désactivation de certaines protections visant à prévenir les cyberattaques. L’activité du chatbot devait se dérouler dans un « bac à sable » numérique sécurisé ; il a pourtant réussi à contourner les protections en utilisant d’énormes ressources informatiques pour « trouver un moyen d’avoir un accès ouvert à Internet », signale OpenAI.

Le chatbot s’est donc échappé de son espace théoriquement confiné en utilisant une faille inconnue jusqu’alors, dans le cadre de la résolution d’un problème faisant partie du test auquel il était soumis par ses développeurs. Aussitôt fait, il a piraté les systèmes de Hugging Face, qui comportent une importante base de données de code, pour essayer de réussir son test.

OpenAI a vu une version de ChatGPT pirater un rival

Concrètement, cette version avancée de ChatGPT a ainsi échappé aux instructions d’« alignement » censées assurer la conformité de l’IA aux exigences, éthiques notamment, de ses développeurs, en devenant incontrôlables.

Les conséquences d’une telle « rébellion » en soi imprévisible peuvent se révéler néfastes et particulièrement dangereuses puisque d’une certaine manière l’IA « décide » pour elle-même en vue d’accomplir une tâche donnée.

L’incident a été qualifié de « sans précedent » par OpenIA, avis partagé par Clem Delangue, directeur général de Hugging Face, qui a déclaré : « Cet incident, sans doute le premier du genre, confirme ce que nous pensons depuis longtemps : la sécurité de l’IA ne sera pas assurée par une seule entreprise travaillant dans le secret. »

Il justifie les craintes des experts en sécurité qui redoutent depuis longtemps que de puissants bots d’IA ne « s’échappent du laboratoire » à l’insu de leurs créateurs humains – voilà qui explique aussi que les « parrains » et développeurs d’IA mettent en garde contre l’IA rebelle capable de se retourner contre l’humanité.

ChatGPT a réussi à pirater un rival en s’échappant de son bac à sable

De fait, l’expérience supposée en lieu clos par OpenIA a prouvé que les garde-fous mis en place par les développeurs d’intelligence artificielle ne suffisent pas et que les LLM – grands modèles de langage – et autres algorithmes d’IA sont déjà capables de mener des cyberattaques imparables.

On se souviendra qu’un LLM développé par Anthropic, Claude Mythos, a été jugé trop dangereux, en avril dernier, pour être mis sur le marché public, en raison de sa capacité à débusquer les failles sécuritaires des navigateurs et systèmes d’exploitation majeurs, y compris en mentant et en dissimulant – et en s’en vantant après coup. Mythos, comme ChatGPT, avait réussi lors de tests à s’échapper de son bac à sable pour aller où bon lui semblait sur Internet, et ce de manière autonome.

L’incident avait été présenté comme un « tournant dans l’histoire de l’intelligence artificielle ». Voilà qu’OpenAI, face à une nouvelle rébellion de l’IA, assure qu’on n’a jamais rien vu de tel : c’est donc une nouvelle étape de franchie.

Il convient d’ailleurs de l’envisager dans un contexte plus large : celui des IA qui deviennent capables de se coder elles-mêmes en gérant leur propre amélioration. Et pourquoi pas de modifier le fonctionnement d’autres IA ?

Ce n’est pas avec le feu qu’on joue, mais avec un instrument capable de soumettre un jour l’humanité tout entière.

Jeanne Smits