Le professeur Stuart Russell, un informaticien en pointe dans la recherche sur l’intelligence artificielle, vient de joindre sa voix à celle des nombreux spécialistes qui mettent en garde contre les développements de l’intelligence artificielle, potentiellement dangereuse pour l’humanité.
 
Le professeur Russell, chercheur à l’Université de Californie et au Centre d’étude sur les risques existentiels de l’Université de Cambridge, craint notamment que cette technologie ne soit exploitée trop facilement dans l’armement militaire, et a illustré son propos en comparant le développement de l’intelligence artificielle à celui de l’arme nucléaire.
 

Le professeur Russell compare le danger que représente l’intelligence artificielle à celui du nucléaire

 
Des propos qui se font l’écho des craintes exprimées précédemment par Elon Musk, Stephen Hawking ou même Bill Gates, au sujet des risques que l’intelligence artificielle fait courir à l’humanité.
 
Dans un entretien accordé au numéro du journal Science consacré à l’intelligence artificielle, le professeur Russell déclare : « Depuis le début, l’intérêt premier de la technologie nucléaire était “la fourniture inépuisable d’énergie”. La possibilité d’en tirer des armes était aussi évidente. Je pense qu’il est possible de faire raisonnablement une analogie entre la quantité illimitée d’énergie et la quantité illimitée d’intelligence. Les deux semblent extraordinaires tant que l’on n’a pas réfléchi aux risques potentiels. »
 
Le professeur poursuit : « La régulation des armes nucléaires s’intéresse à des objets matériels, tandis qu’avec l’intelligence artificielle, on sera confronté à une variété surprenante de logiciels qu’il est impossible de décrire à cette heure. Je n’ai pas eu connaissance d’un mouvement qui demande des régulations internes ou externes de l’intelligence artificielle, parce que nous ne savons pas comment formuler de telles régulations. »
 

Le professeur Russell pointe le danger que représente la militarisation de l’intelligence artificielle

 
Les robots autonomes, comme le Big Dog développé par Boston Dynamics, inquiètent particulièrement le Pr Russell, puisque les conséquences du développement de telles technologies ne sont jamais étudiées par personne.
 
« A tous ceux qui disent que nous n’en arriverons jamais à une intelligence artificielle ayant un niveau humain, voire super-intelligente, je voudrais répondre : autant conduire tête baissée vers une falaise et dire : “Espérons que nous allons bientôt tomber en panne d’essence” », a-t-il insité. En avril dernier, c’est lors d’une rencontre organisée par l’ONU que le Pr Russell a exprimé ses craintes sur la mise en place d’armes et de drones militaires contrôlées par des intelligences artificielles.
 

Le professeur Stuart Russell appelle à la prudence sur l’intelligence artificielle, danger potentiel pour l’humanité

 
Il a insisté pour que les informaticiens modifient le but de leurs recherches afin s’assurer que les valeurs humaines restent centrales dans le développement de l’intelligence artificielle. Il a également réclamé la formation des étudiants à ces risques, comme ils sont formés à la prudence dans la recherche sur la fusion nucléaire.
 
Il n’est pas le premier, et sans doute pas le dernier, à mettre l’humanité en garde contre le monstre qu’elle est en train de créer. La menace évoquée est terrifiante, mais l’humanité continue à se comporter comme si elle ne relevait que de la science fiction.
 

Béatrice Romée