fbpx

Stephen Hawking : « L’intelligence artificielle pourrait développer sa propre volonté, en conflit avec la nôtre »

Stephen Hawking intelligence artificielle volonté conflit
 
Intervenant à l’université de Cambridge, mercredi, lors de la cérémonie d’ouverture du Leverhulme Centre for the Future of Intelligence, un centre de réflexion sur « l’avenir de l’intelligence », le physicien théoricien Stephen Hawking a mis en garde contre les dangers potentiels de l’intelligence artificielle (AI). « L’intelligence artificielle pourrait développer sa propre volonté, en conflit avec la nôtre », a-t-il déclaré sans détours. Hawking n’est pas entièrement pessimiste, mais à son sens la mise en place d’une institution académique vouée à la recherche sur ce sujet « crucial pour l’avenir de notre civilisation et de notre espèce ».
 
Il s’exprimait dans le cadre de ce centre multidisciplinaire, LCFI, créé en collaboration par les universités de Cambridge et d’Oxford Royaume-Uni, de Berkeley en Californie et l’Imperial College de Londres, en réitérant la substance des mises en garde qu’il a déjà exprimées lors d’un entretien avec la BBC il y a deux ans : « « Le développement plénier de l’intelligence artificielle pourrait signifier la fin de la race humaine. »
 

Stephen Hawking inaugure un Centre de recherche sur l’Intelligence artificielle

 
« L’avènement d’une forme d’intelligence artificielle puissante sera soit la meilleure soit la pire chose qui arrivera jamais à l’humanité. Nous ne savons pas laquelle », a-t-il déclaré devant une salle comble dans le bâtiment David Attenborough à Cambridge. « Les bénéfices potentiels en sont immenses », estime le scientifique : « Il nous est impossible de prédire ce que nous pourrions réaliser lorsque nos intelligences seront amplifiées par l’intelligence artificielle. » Il y a dans ses déclarations comme des relents d’une phrase antique : « Vous serez comme des dieux »…
 
Sur cette note dangereusement optimiste, Steven Hawking a rêvé à haute voix : « Peut-être que grâce aux outils de cette nouvelle révolution technologique, nous serons en mesure de défaire un peu les dégâts causés au monde naturel par la précédente : l’industrialisation. » L’intelligence artificielle devrait aussi servir à vaincre la maladie et la pauvreté, a-t-il déclaré.
 
Ce qui est sûr, c’est que selon lui, « chaque aspect de nos vies sera transformé », pour le bien ou pour le mal : « pour faire court, notre réussite à créer l’AI pourrait constituer le plus grand événement de l’histoire de notre civilisation ». Il pense que cet acte de création « pourrait être le dernier, à moins que nous n’apprenions à en contrôler les risques ». « A côté des bienfaits, l’AI amènera ses propres dangers, comme des armes autonomes puissantes ou des moyens nouveaux pour que le petit nombre puisse opprimer le grand nombre », souligne Hawking.
 

La « volonté » propre de l’AI risque d’être en conflit avec l’intelligence humaine

 
Pour lui, il est clair qu’« elle provoquera une grande perturbation dans notre économie ».
 
Scientifique matérialiste, il a ajouté que le développement potentiel de l’intelligence artificielle est sans limite : « Il n’y a pas de différence profonde entre ce que peut réaliser un cerveau biologique est ce qui peut l’être par un ordinateur. Il s’ensuit que les ordinateurs peuvent, en théorie, émuler l’intelligence humaine – voire la dépasser. »
 
Ses paroles d’ouverture en disent long sur son état d’esprit : « C’est un grand plaisir d’être ici aujourd’hui pour ouvrir ce nouveau centre. Nous passons beaucoup de temps à étudier l’histoire, qui, avouons-le, et surtout l’histoire de la stupidité. C’est un heureux changement que de voir étudier plutôt l’avenir de l’intelligence. » L’histoire récente montre pourtant que ces groupes de réflexion, chaires d’éthique ou hautes autorités morales ne trahissent jamais leur origine maçonnique.
 

Anne Dolhein