Dans l’une des deux principales revues scientifiques, Nature, Stuart Russell, professeur de sciences informatiques à l’université de Californie, Berkeley, a mis en garde contre les programmes mis en place par l’Agence pour les projets de recherche avancés du ministère de la Défense des Etats-Unis, DARPA, visant à développer des drones capables de repérer, de suivre et de tuer des cibles humaines même quand ils ne sont pas en contact avec leurs opérateurs. Ces robots tueurs – les LAWS, Lethal autonomous weapons systems ) – qui seront peut-être un jour au service de l’armée américaine « laisseront les êtres humains absolument sans défense », selon le Pr Russell.
 
Il estime que ces recherches pourraient ne pas être conformes à la Convention de Genève, et risquent de livrer l’humanité à des machines amorales. « Les armes autonomes sélectionnent et visent des cibles sans intervention humaine : elles deviennent létales lorsqu’il y a des êtres humains parmi ces cibles », explique-t-il.
 

La technologie pour créer les robots tueurs existe, et menace de laisser les êtres humains sans défense

 
« L’IA (intelligence artificielle) qui existe déjà et les composantes robotiques peuvent fournir les plateformes physiques, la perception, le contrôle moteur, les capacités de navigation et de cartographie, de prise de décisions tactiques ainsi que de planification à long terme. Il suffit désormais de les combiner », affirme Stuart Russell.
 
Au bout de ce chemin de recherche, signale le professeur dans Nature , « malgré les limites imposées par la physique, on peut s’attendre au déploiement de ces plateformes par millions, et leur agilité et leur capacités létales laisseront les êtres humains absolument sans défense. Ce n’est pas un avenir que l’on peut souhaiter. »
 
Au même moment, la marine américaine annonce le développement du drone Cicada, qui tient dans la main et destiné à être déployé en masse.
 

La revue “Nature” prend au sérieux les mises en garde d’un scientifique contre les robots tueurs

 
Les deux projets DARPA visés par Stuart Russell ont ouvert des recherches concrètes, l’une sur un minuscule engin volant à rotor capable d’évoluer dans un environnement urbain et même à l’intérieur d’immeubles ( Fast Lightweight Autonomy ou FLA), l’autre, Collaborative Operations in Denied Environment (CODE) portant sur la construction de véhicules aériens autonomes capables de réaliser toutes les étapes d’une mission d’attaque, du repérage à la destruction, dans les situations où le brouillage de signaux mis en place par l’ennemi rend impossible la communication avec l’opérateur humain.
 
Le Pr Russell souligne que les « LAWS pourraient violer les principes fondamentaux de la dignité humaine en laissant aux machines le soin de déterminer qui doit être tué. On pourrait par exemple leur demander d’éliminer toute personne coupable de “comportement menaçant” ».
 

Anne Dolhein