fbpx

Prise de contrôle d’internet par l’intelligence artificielle (AI) : le scénario fait frémir le Forum économique mondial

Intelligence artificielle AI internet Forum économique mondial
 
La Roche tarpéienne étant toujours proche du Capitole, l’oligarchie globaliste redoute le pire pour sa toute-puissance. L’édition 2018 du Rapport sur les risques globaux du Forum économique mondial dépeint une année en cours sombre, avec des « nationalismes conquérants », des « transferts de pouvoirs géopolitiques déstabilisants » mais aussi des risques croissants dans le domaine informatique. Il évoque l’interaction entre intelligence artificielle (AI) et internet : « Dans un monde de systèmes complexes et interconnectés, les chocs en retour, les effets de seuil et les disruptions en cascade peuvent entraîner des dysfonctionnements catastrophiques. » Un scénario dépeint une prolifération de l’AI qui étoufferait progressivement l’Internet : des algorithmes devenus fous se répandraient graduellement dans l’infrastructure internet, annexant toujours plus d’espace et d’énergie. Dans un poème écrit en 1925, The Hollow Men, T.S. Eliot disait que le monde ne finirait pas par une explosion mais dans un gémissement, montrant que le premier danger réside « moins dans les catastrophes que dans l’érosion lente et continue de ces biens communs que nous croyons garantis définitivement », écrit la diplomate américaine Joelle Jenny, chercheur à Harvard.
 

Un internet endommagé par une AI hors de contrôle affecterait gravement le monde

 
« Un internet gravement endommagé affecterait le commerce mondial et les promesses de la révolution informatique », poursuit-elle. « Il paralyserait les transferts de connaissances, accélèrerait la tendance à la balkanisation d’internet car les gouvernements érigeraient des boucliers de protection », frémit-elle. On imagine les conséquences d’une telle paralysie due à une AI hors de contrôle sur les systèmes de santé, le trafic aérien, les centrales nucléaires…
 
Comment un algorithme pourrait-il affecter l’infrastructure informatique globale ? On peut imaginer un acte délibéré d’un pouvoir instrumentalisant l’AI à des fins agressives. Mais l’intention malveillante n’est même pas indispensable car des algorithmes intelligents ne manqueront pas, un jour ou l’autre, de se développer hors de tout contrôle du fait de leur extrême complexité. Des « algorithmes universels » existent déjà pour optimiser les processus informatiques et nettoyer les systèmes. Comme l’apprentissage de la machine progresse, ils se voient attribuer une autonomie de plus en plus grande pour agir dans un plus grand nombre de domaines, par exemple optimiser les flux de données dans une chaîne de transmission. On va leur permettre de se cacher afin qu’ils puissent agir sans buter sur des antivirus ou de se répliquer, comme le virus Trojan sait déjà le faire, et d’évoluer de façon autonome dans un ensemble complexe. Inévitablement, ils modifieront leurs propres sous-programmes et ceux de leur environnement pour pouvoir réaliser leur tâche. On aura alors un système capable d’évoluer de manière auto-entretenue, doté de puissants instincts de survie.
 

Des algorithmes d’AI qui s’adapteront rapidement et dévoreront toujours plus de mémoire, selon le Forum économique mondial

 
Ainsi, nos ordinateurs et nos objets connectés seront remplis d’algorithmes d’AI qui, comme de mauvaises herbes, s’adaptent et évoluent rapidement, cherchant de nouvelles façons de s’approprier un espace vital dont nous ne pourrons pas les déloger, dévorant de plus en plus de mémoire et de bande passante. Mieux ils se seront installés, moins on pourra s’en débarrasser et plus ils commettront de ravages. Les récentes avancées dans l’apprentissage automatique permettent à des ordinateurs d’écrire des codes et ouvrent la possibilité de transferts de savoirs en mettant en réseau des milliers de machines. L’augmentation de leur autonomie n’en sera que le développement logique.
 
La réponse de notre universitaire ? Principalement technique : traiter la vulnérabilité de l’infrastructure internet et construire des protections internes à l’intelligence artificielle. Pas un mot sur la place désormais écrasante de l’informatique et de l’internet dans nos vies et dans nos sociétés et la façon d’en limiter les pouvoirs et notre dépendance à son égard. Joelle Jenny cite l’un des fondateurs de l’internet qui disait que « L’essentiel de ce que nous avons fait l’a été en réponse à des problèmes, à l’opposé d’une anticipation des problèmes ». La sécurité passait en dernier lieu, le système étant d’abord destiné à fournir toujours plus vite des produits toujours moins chers. Résultat : des lignes de codes fragiles, des programmes bourrés d’erreurs vendus sans révision sérieuse et des contrats de licences inintelligibles qui empêchent de poursuivre leurs fournisseurs.
 

Face au chaos informatique, nous dépendrons de l’intelligence artificielle

 
Mais pour traiter ce vaste chaos, « L’expertise humaine ne sera pas capable de faire face à la vitesse et à la complexité du défi », explique Joelle Jenny. Et c’est là que le bât blesse : « Nous seront de plus en plus dépendants de systèmes intelligents qui pourront prendre des décisions autonomes pour protéger et réparer nos systèmes. » Or jusqu’à quel point accepterons-nous de nous fier à l’AI ? Car plus nous nous appuierons sur cette intelligence artificielle, plus nous perdrons notre contrôle sur ses décisions. Que se passera-t-il en cas de conflit entre les décisions de l’intelligence artificielle que nous avons créée et nos propres intérêts ? Le serpent se mord la queue. Et notre universitaire-diplomate éprise d’idéologie technoscientifique de se perdre en conjectures : « Quel mix de gouvernance – douce ou dure – garantira que la technologie autonome sera dotée de boutons d’arrêt d’urgence pour la bloquer à distance si on en perd le contrôle ? »
 
Faut-il se rassurer que l’ONU ou d’autres « forums multilatéraux » entreprennent d’organiser des discussions pour interdire l’utilisation de l’AI comme arme de guerre ? La réponse réside aussi dans le comportement de chacun : fuir la dépendance à l’internet, refuser les objets connectés (qui sont aussi des objets de surveillance), résister en échangeant par la poste et le papier, en continuant d’utiliser les billets de banque, en achetant dans de vrais magasins et en refusant le tout-internet des administrations. Mais de cela Joelle Jenny se garde de parler.
 

Matthieu Lenoir