Mobilisation générale contre la dernière menace de la surveillance totalitaire : les robots tueurs, ces machines dotées d’intelligence artificielle capables de tuer. Une lettre ouverte dénonce ces armes, signée par 116 créateurs d’entreprises de robotique et d’intelligence artificielle (IA) issus de 26 pays : parmi eux, le célèbre Elon Musk, fondateur de SpaceX (prestataire privé spatial) et co-dirigeant de Tesla (fabricant de voitures électriques), et Mustafa Suleyman, cofondateur de DeepMind (spécialiste de l’intelligence artificielle) racheté par Google. Les robots tueurs, écrivent-ils solennellement, « entraîneront l’extension des conflits armés à une échelle inconnue jusqu’ici et à des rythmes plus rapides que ce que l’humanité peut concevoir ». Ils exigent donc l’interdiction de la recherche-développement sur ce type de machines.
 

Ces robots tueurs « peuvent constituer des armes de terreur » pour les « despotes et terroristes »

 
Cette lettre ouverte contre des outils susceptibles d’engloutir l’humanité sous sa propre folie a été rendue publique à l’issue de la conférence sur l’intelligence artificielle (IJCAI) de Melbourne qui réunissait deux mille experts. Le texte dénonce « les armes autonomes létales (qui) peuvent constituer des armes de terreur, que les despotes et les terroristes pourront utiliser contre des populations innocentes, armes susceptibles d’être piratées et détournées pour des usages pervers ». « Il ne nous reste pas beaucoup de temps pour agir », s’indignent les signataires car, « une fois la boîte de Pandore ouverte, il sera très difficile de la refermer ». Le texte exprime aussi sa déception concernant l’attitude de l’ONU. La première réunion de son comité dédié à ce sujet devait se tenir ce 21 août : elle a étrangement été reportée à novembre.
 

L’intelligence artificielle menace l’humanité : les robots tueurs sont faciles à produire et peu chers

 
Toby Walsh, professeur en intelligence artificielle à l’université de Nouvelle Galles du Sud, est l’un des initiateurs de cette lettre ouverte, de même que de celle qui fut publiée en 2015 sur le même sujet. Cette dernière, qui avait été signée par plus de mille chercheurs, demandait déjà que les Nations unies se saisissent du problème. Cette année, M. Walsh espère que la mobilisation des fondateurs des entreprises d’intelligence artificielle et de robotique « accroîtra la pression pour que se tiennent à l’ONU les discussions qui auraient dû commencer aujourd’hui (21 août, NDLR) ».
 
Ryan Gariepy, fondateur de Clearpath Robotics, figure en tête des signataires de la lettre ouverte. Il estime dans le Sydney Morning Herald que l’expression « robots tueurs » ne renvoie pas seulement aux fantasmes d’automates armés des films fantastiques : « Contrairement à d’autres développement potentiels d’IA qui relèvent encore de la science-fiction, les systèmes d’armes autonomes sont déjà en phase de développement alors qu’elles sont capables de causer des souffrances considérables à des personnes innocentes dans un contexte d’instabilité générale. Le développement de ces systèmes d’armes autonomes est déraisonnable, immoral et devrait être proscrit au niveau international. »
 

116 cerveaux de l’intelligence artificielle – dont Elon Musk – contre les robots tueurs

 
Le robot de Samsung SGR-A1, déployé le long de la frontière intercoréenne, serait d’ores et déjà techniquement capable d’ouvrir le feu de façon autonome, même si l’on n’est pas certain que cette fonction soit actuellement activée. Au Royaume-Uni, le drone Taranis, développé par BAE Systems, sera capable de transporter sur des distances intercontinentales des munitions air-air et air-sol. Il est doté d’une totale autonomie. Cet aéronef de combat, d’une taille proche de celle d’un Hawk de BAE (9,94 m d’envergure, 12,43 m de longueur), testé dès 2013, devrait être opérationnel en 2030 dans le cadre de la future force offensive aérienne de la Royal Air Force, remplaçant le Tornado GR4.
 
La Russie, les Etats-Unis et d’autres puissances développent des blindés robots qui peuvent aussi bien être commandés à distance qu’être totalement autonomes. Cela va de l’Uran-9 russe, véhicule de combat au sol sans homme à bord, aux blindés conventionnels dotés de systèmes autonomes. Aux Etats-Unis, le navire autonome Sea Hunter de Vigor Industrial a été lancé en 2016 et sera doté de capacités offensives incluant des armes anti-sous-marins. Des sous-marins autonomes de Boeing conçus à partir de la plateforme de l’Echo Voyager (16 m de long) seront destinés à un usage militaire à longue distance.
 

Les spécialistes de l’IA préviennent : « Les armes autonomes seront les kalashnikov de demain »

 
La lettre ouverte admet que « de nombreux arguments ont été présentés pour et contre les armes autonomes, certains notant que le remplacement de soldats humains par des machines présente l’avantage de réduire les pertes humaines, d’autres relevant en revanche qu’elles abaisseront de ce même fait le seuil d’engagement du conflit ». « La question clé pour l’humanité d’aujourd’hui est de savoir si elle veut entamer un course générale aux armes dotées d’IA ou si elle veut l’éviter », poursuit le texte, qui met en garde : « Si une puissance militaire majeure se lance dans le développement d’armes dotées d’intelligence artificielle, une course globale sera inévitable et la conclusion de cette trajectoire technologique est d’ores et déjà évidente : les armes autonomes seront les kalashnikov de demain ». Car, argumentent les signataires, « Contrairement aux armes nucléaires, elles n’exigent pas de matériaux difficiles d’accès » et seront de ce fait « omniprésentes car peu coûteuses à produire en grande série ». Ils concluent : « On les verra apparaître rapidement sur le marché noir et passer entre les mains de terroristes, de dictateurs avides de mieux opprimer leurs populations, de chefs de guerres obsédés par les nettoyages ethniques… Ces armes autonomes seront idéales pour assurer des assassinats, des déstabilisations de pays, des mises en esclavage de populations entières ou des meurtres sélectifs de groupes ethniques particuliers. »
 

Matthieu Lenoir