Ils ont été plus de cinquante chercheurs à s’en alarmer dans une lettre ouverte, ce jeudi. L’une des plus grandes universités sud-coréennes a fait un partenariat douteux avec une entreprise spécialisée dans la défense et l’armement, qui pourrait l’amener à développer des armes autonomes, en particulier des robots tueurs. L’intelligence artificielle qui investit le domaine de la défense et de la guerre… comment croire qu’elle ne s’y développera pas mieux et plus vite que dans nul autre domaine ? !
 

« Un partenaire très moralement douteux qui continue de violer les normes internationales »

 
Bien que l’Institut supérieur coréen des sciences et technologies (KAIST) soit très respecté, les experts en intelligence artificielle et en robotique demandent ni plus ni moins le boycott de l’institution. « Jusqu’à ce que le président du KAIST fournisse des assurances, que nous avons demandées mais non reçues, que le Centre ne développera pas d’armes autonomes dépourvues de contrôle humain significatif, nous ne visiterons pas KAIST, n’accueillerons pas de visiteurs du KAIST, ni ne contribuerons à un projet de recherche impliquant KAIST. »
 
L’ouverture, en février, d’un « Centre de recherche pour la convergence de la défense nationale et de l’intelligence artificielle » présage en effet d’un terrain miné et dangereux. Le président du KAIST avait parlé en février d’« une base solide pour le développement de la technologie de défense nationale ». Mais selon le Korean Times, à cette même date, le but est bien de développer des technologies d’IA appliquées aux armes militaires, « pour entrer dans la compétition mondiale de l’armement autonome » ; le laboratoire compte travailler sur un algorithme de commandement fondé sur l’intelligence artificielle, mais aussi un algorithme de navigation de sous-marin et d’avion, ainsi qu’un système qui servirait à « traquer des objets ».
 
Un projet miné, d’autant qu’il se fait en partenariat avec l’entreprise Hanwha Systems, l’un des plus grands fabricants d’armes de Corée du Sud, qui produit encore largement des armes à sous-munitions, interdites depuis 2008 par les traités internationaux (armes létales terribles largement utilisées par l’URSS et les États-Unis en leur temps… au Laos, on meurt encore de ces restes non explosés de la guerre du Vietnam).
 

La révolution des armes autonomes – soldats robots tueurs

 
« A l’heure où les Nations unies discutent de la façon de contenir la menace que représentent les armes autonomes pour la sécurité internationale, il est regrettable qu’une institution prestigieuse comme le KAIST cherche à accélérer la course aux armements », déclare la pétition.
 
Et à quels armements… Si elles sont développées (et elles le seront), ces armes autonomes seront une révolution, comme l’a été l’arme nucléaire. On combattra plus vite, à plus grande échelle. Des armes de terreur qui pourront être utilisées (et piratées) contre des civils. L’éthique n’y survit pas : la décision de vie et de mort n’est plus prise par l’homme. La responsabilité est tuée.
 
« Cette boîte de Pandore sera difficile à refermer si nous l’ouvrons Comme avec d’autres technologies interdites dans le passé, nous pouvons simplement décider de ne pas les développer. Nous exhortons KAIST à suivre cette voie, et à travailler plutôt sur les utilisations de l’intelligence artificielle pour améliorer la vie humaine et non pas lui nuire ».
 

Seulement l’université KAIST ? Tout le monde a des projets… pas encore très appliqués

 
Cependant la course a déjà commencé. Le professeur britannique Toby Walsh, de l’université de Nouvelle-Galles du Sud en Australie, à l’origine de la pétition, en est persuadé : « Nous pouvons voir des prototypes d’armes autonomes en développement dans plusieurs pays aujourd’hui, qu’il s’agisse des États-Unis, de la Chine, de la Russie, ou du Royaume-Uni, a-t-il assuré dans un communiqué. Nous somme prisonniers d’une course à l’armement que personne ne veut voir arriver. Les décisions de KAIST ne font que l’accélérer. »
 
Ainsi donc, tout le monde en est ? !
 
Non seulement la Russie qui veut automatiser le tiers de ses armements à horizon 2025, mais aussi les États-Unis chez qui l’agence DARPA a lancé plusieurs grands programmes de recherche et de développement d’unités de combats robotisés autonomes dédiés à la guérilla urbaine.
 
Et tout un chacun d’engager toutes ses responsabilités éthiques et morales en la matière. Le président du KAIST, aussi, a certifié qu’ils n’avaient « aucune intention de s’engager dans le développement de systèmes d’armes létales autonomes et de robots tueurs »…
 
Les engins seront sans doute prêts avant que le moindre cadre législatif n’ait vu le jour. Quant à en appliquer un éventuel…
 

Clémentine Jallais