Intelligence artificielle, violence absolue ? Un géant de la politique, Vladimir Poutine, et un cerveau de la technologie, Elon Musk, viennent de reconnaître que l’intelligence artificielle (AI) allait jouer un rôle capital dans le devenir des conflits humains.
 
Selon le président russe, qui s’exprimait vendredi devant des étudiants, le développement de l’AI, qui « est l’avenir, pas seulement pour la Russie mais pour toute l’humanité »,  présente « d’énormes possibilités mais aussi des menaces colossales qui sont difficiles de prévoir à ce jour ». Mais ce qui paraît certain à Vladimir Poutine, c’est que « celui qui prendra la tête dans ce domaine deviendra le maître du monde » et que, de ce fait, « il serait particulièrement redoutable que quelqu’un obtienne (en la matière) une position monopolistique ». La Russie, a-t-il promis, est prête à partager ses connaissances en ce domaine. Par ailleurs, Vladimir Poutine a estimé que les guerres du futur seront gagnées par des drones et que « lorsqu’une des parties aura vu ses drones détruits par ceux de l’autre, elle n’aura d’autre choix que de se rendre ». Poutine fait ici le gentil : celui qui réclame une coopération internationale, voire supranationale, pour régler le problème.
 

Elon Musk suit Vladimir Poutine : le risque est moins le nucléaire que l’AI

 
PDG d’entreprises de technologie plus ou moins utopiques et souvent financées par le contribuable, l’Américain Elon Musk, en réponse, a estimé que la véritable menace de conflit mondial résidait moins dans les essais nucléaires de l’autocrate nord-coréen Kim Jong-un que dans l’intelligence artificielle. Dans son dernier accès d’alarmisme le milliardaire, aux tendances souvent mégalomaniaques et aux multiples casquettes (après PayPal, SpaceX, Tesla Motors, SolarCity, Boring Co…), a publié ce tweet : « Chine, Russie et bientôt d’autres pays à forte science informatique. Compétition pour supériorité en AI au niveau national sûrement cause de IIIe Guerre mondiale. »
 
Dès juillet, Elon Musk avait déclaré devant des gouverneurs d’Etats fédérés américains qu’ils devaient être proactifs « avant qu’il ne soit trop tard » en matière de régulation de l’intelligence artificielle. La véritable AI, pas celle proposée aujourd’hui par les grandes compagnies technologiques, permettrait à la machine d’avoir conscience d’elle-même. Ce serait « un ordinateur qui ne se contenterait pas de dépasser les humains en connaissance mais pourrait aussi porter des jugements moraux issus de sa propre sensibilité », explique le magazine spécialisé SiliconANGLE, réduisant très symptomatiquement la notion de morale à celle de libre-arbitre. La technologie n’est pas exempte de présupposés philosophiques, surtout dans la Silicon Valley.
 

L’intelligence artificielle, enjeu de pouvoir et risque militaire

 
Elon Musk n’est pas le seul à mettre en garde contre les risques du développement de l’intelligence artificielle. Des chercheurs de l’université d’Oxford ont prédit que l’AI présentait plus de dangers pour la survie de l’humanité que le changement climatique – on s’en doutait – mais aussi que les astéroïdes. Christopher Bishop, directeur de laboratoire chez Microsoft et professeur d’informatique à l’Université d’Edimbourg, souscrit aux alarmes de Musk. Il estime que l’humanité fait face à un avenir qui peut ressembler à « un désert de ruines style Terminator » causé par « des machines ultra-intelligentes ». A l’opposé, le PDG de Facebook Mark Zuckerberg qualifie Elon Musk de « défaitiste » et juge que sa vision d’apocalypse relève d’une négativité « sans objet ».
 
Musk s’est toutefois expliqué plus avant. Il dit être moins inquiet de voir un dirigeant lancer une guerre, que de voir un hyperlogiciel d’intelligence artificielle décider « qu’une frappe préventive serait la garantie la plus sûre d’une victoire ». Musk dit ne pas redouter particulièrement les ambitions nucléaires de la Corée du Nord, affirmant que si ce pays lançait un missile nucléaire, cela équivaudrait pour lui « à un suicide ». Il pense qu’il n’existe aucun engrenage sur ce sujet permettant de prévoir le déclenchement d’une guerre mondiale. Non, pour Musk l’AI « est largement plus dangereuse » que la dictature de Kim Jong-un.
 

L’appel de cent sommités, dont Mustafa Suleyman (Google), pour que l’ONU bannisse les armes autonomes

 
Le mois dernier, plus de cent sommités de la technologie, parmi lesquelles Musk lui-même et Mustafa Suleyman, de Google, ont signé un appel pour que l’ONU interdise les armes létales autonomes, capables « de permettre des conflits armés d’une dimension plus importante que jamais, se développant à une vitesse plus élevée qu’aucun humain ne puisse imaginer ». Le texte poursuivait : « Ce pourrait devenir des armes de terreur, des armes que des despotes et des terroristes pourraient utiliser contre des populations innocentes, des armes susceptibles d’être piratées pour être retournées ».
 
On estime en général que les Etats-Unis sont en tête des développements de l’intelligence artificielle, les géants tels que Google ou Microsoft dépensant des sommes énormes dans la recherche-développement. Mais, la semaine dernière, un rapport publié par la banque d’affaire Goldman-Sachs a estimé que la Chine communiste pourrait rattraper les Etats-Unis dans ce domaine. « Nous pensons que la technologie de l’AI va devenir une priorité dans les projets gouvernementaux (chinois) et nous prévoyons de futures politiques et de nouveaux financements nationaux ou régionaux en sa faveur », écrit-il.
 
Pendant ce temps, les géants de la technologie poursuivent leurs recherches pour créer des automates intelligents afin de les vendre en masse aux services et entreprises qui supprimeront autant d’emplois humains. L’argent, aussi, a sa logique proprement artificielle.
 

Matthieu Lenoir