Le golem de la tradition judaïque est un être informe ou artificiel dépourvu de libre-arbitre supposé défendre ou assister son créateur – et la littérature et la science-fiction s’en sont emparés pour le montrer se retourner, tel le monstre de Frankenstein, contre son maître. C’est à lui que fait référence Daniel Schreiber, spécialiste de la technologie, des logiciels de sécurité et de l’informatique dans une intéressante tribune publiée par le Jerusalem Post, où il confronte la vision politique, optimiste des progrès de l’intelligence artificielle, et les prévisions – plus crédibles selon lui – des géants de la tech qui voient l’IA acquérir une intelligence surhumaine à brève échéance.

Il s’appuie sur des arguments qui méritent d’être connus. Surtout, il donne un coup de pied dans la fourmilière des prévisionnistes comme le Forum économique mondial et l’OCDE qui font mine de confondre révolution industrielle et révolution de l’IA.

On va, redoute Daniel Schreiber, vers un « chômage de masse permanent ». Elon Musk ne dit pas autre chose.

Avec l’IA, ce golem à l’intelligence surhumaine, l’homme sera obsolète

Il faudrait plutôt dire : vers l’obsolescence programmée de l’homme. Avec cette question majeure : à quoi servira alors de le « garder » ? Deviendra-t-il au mieux comme le panda, ours essentiellement décoratif qui survit aujourd’hui essentiellement grâce à l’homme, et surtout en captivité en raison de son mode de vie, de son régime et de sa large inadaptation à la lutte pour la survie façon Darwin…

Cela suppose d’ailleurs la bienveillance des autorités en laquelle Schreiber semble avoir toute confiance. A voir. L’histoire récente et ancienne est moins encourageante. Ce qui est obsolète disparaît, par définition. En considérant cela il faut bien comprendre que la disparition de l’homme est un cauchemar qui va contre la logique et les lois de la Création : cauchemar infernal, en vérité.

Les avertissements de Daniel Schreiber méritent d’être pris en compte. En ayant à l’esprit leurs limites, mais aussi le fait que l’homme est plus qu’un ensemble de muscles et d’un cerveau : il est corps et âme, fait à l’image de Dieu, fait pour Dieu. Notre espérance.

Ci-dessous, notre traduction intégrale de la tribune du Jerusalem Post. – J.S.

*

L’IA progresse vers l’intelligence surhumaine. Deviendra-t-il un golem plus fort que l’homme ?

Le temps presse. Les choix que nous faisons aujourd’hui détermineront si l’IA deviendra la plus grande réalisation de l’humanité ou, tel le golem de la tradition juive, une force qui se retournera contre son maître.

Après avoir passé 28 ans dans la Silicon Valley, au sens propre ou au figuré, je suis de plus en plus inquiet quant au potentiel de l’IA à provoquer un chômage généralisé et permanent. Je me suis donc hissé de la vallée jusqu’à la « tour d’ivoire » pour partager mes craintes avec les plus grands économistes d’Israël. Il s’avère que le point de vue de la tour est très différent de celui de la vallée. Ce qui n’est pas très rassurant.

Vu de la Silicon Valley, l’IA atteindra un niveau d’intelligence humaine d’ici à quelques années, avec pour conséquence un chômage croissant.

Leopold Aschenbrenner, ancien chercheur en super-intelligence chez OpenAI, affirme ainsi : « Nous construisons des machines capables de penser et de raisonner. D’ici à 2025/26, ces machines dépasseront de nombreux diplômés de l’enseignement supérieur. A la fin de la décennie, elles seront plus intelligentes que vous et moi ; nous aurons une super-intelligence, au sens propre du terme… Pour cela, il n’est pas nécessaire de croire à la science-fiction ; il suffit de croire aux lignes droites sur un graphique. »

Avital Balwit, directeur du personnel d’Anthropic, annonce quant à lui : « J’ai 25 ans. Ces trois prochaines années pourraient être les dernières où je travaillerai. Je me trouve à l’aube d’un développement technologique qui semble susceptible, s’il se concrétise, de mettre fin à l’emploi tel que je le connais. »

Par conséquent, des concurrents de la tech comme Sam Altman, Mark Zuckerberg et Elon Musk s’accordent sur la nécessité de se préparer à un chômage de masse permanent en instaurant un revenu de base universel.

Vue de la Tour, la situation est bien plus tranquille. Le rapport de l’OCDE sur « L’avenir du travail » conclut que « globalement, le nombre total d’emplois ne devrait pas diminuer », tandis que le Forum économique mondial prévoit « une augmentation nette de 58 millions d’emplois ». Même son de cloche du côté des groupes de réflexion et des instituts de réflexion politique israéliens.

Qui a raison ? J’espère que ce sont les économistes, mais je parierais sur les spécialistes de la technologie pour trois raisons :

1. « Le changement est la seule constante » (Héraclite)

Lors du grand krach de 1929, 90 % de la valeur des marchés boursiers s’est évaporée. Quelques jours auparavant, l’éminent économiste Irving Fisher déclarait que « les prix des actions ont atteint ce qui semble être un plateau élevé permanent ». Depuis lors, les économistes n’ont vu venir aucun krach, ce qui a amené le FMI à conclure que les économistes sont « notoirement inaptes à repérer une crise imminente » et qu’il existe « peu de preuves […] indiquant que les prévisions à des horizons de deux à cinq ans possèdent un fort contenu prédictif ».

Ajoutez la technologie au mélange, et le niveau de performance des économistes passe de « notoirement médiocre » à comique. McKinsey, par exemple, a déclaré que « les téléphones mobiles ne représenteront jamais un marché de masse », tandis que l’économiste Paul Krugman, lauréat du prix Nobel, a prédit que l’impact d’Internet ne serait « pas plus important que celui du télécopieur ». Rétrospectivement, Krugman a concédé que « la macro-économie des 30 dernières années a été dans son ensemble au mieux spectaculairement inutile et au pire carrément nocive ».

Par contraste, les technologues ont un palmarès impressionnant en matière de prédiction des étapes clefs, et ce avec des décennies d’avance. Dans les années 1980 et 1990, l’informaticien Ray Kurzweil a prédit avec précision, à quelques années près, l’arrivée de l’internet, des smartphones, de la reconnaissance vocale, des voitures autonomes et de la réalité virtuelle. En 1990, il a prédit que l’IA de niveau humain arriverait en 2029, un pronostic qui est depuis passé de grotesque à prémonitoire.

Pourquoi cette différence ? L’économie est régie par l’effet papillon, tandis que la technologie est régie par la loi de Moore, selon laquelle la puissance de calcul double tous les deux ans.

Kurzweil a grossièrement calculé la quantité de calcul nécessaire pour chaque étape qu’il envisageait, et a prédit leur réalisation au point d’intersection de ces besoins et de la progression exponentielle de la loi de Moore. Son bilan n’est pas parfait, mais aucun économiste ne lui arrive à la cheville.

2. Le garçon qui criait au loup

La deuxième raison, à mon avis, est que les arguments des économistes ne sont pas convaincants. L’une des explications qu’ils avancent pour justifier leur placidité est que, malgré l’essor de l’IA, le chômage n’a pas du tout augmenté. Pourtant, personne n’attendait de l’IA générative qu’elle fasse bouger l’aiguille macro-économique aussi rapidement ; et dans les petits secteurs phares, l’aiguille est enfoncée dans le rouge. Les sites d’offres d’emploi pour les freelances, par exemple, ont enregistré une baisse massive de la demande de rédacteurs, de développeurs web, de graphistes et d’ingénieurs.

Plus important encore, lorsqu’un signal macro-économique finira par émerger, je m’attends à ce qu’il montre que l’IA augmente l’homme au lieu de le rendre superflu – jusqu’au moment où elle se passera de lui. A titre d’analogie, considérons l’histoire de Bob, un manager médiocre. Au premier acte, Bob embauche Sam, un jeune prodige, qui améliore la qualité et la quantité des produits livrés par Bob. Le big boss est content. A l’acte 2, Sam a appris les ficelles du métier et peut voler de ses propres ailes. Par comparaison, Bob paraît cher et incompétent. Au troisième acte, Bob est licencié. Fin.

La deuxième explication à leur sang-froid est que nous avons déjà vu ce film et qu’il finit bien. Aujourd’hui, c’est le plein emploi, même si 99 % des emplois préindustriels ont disparu. Restez calmes et continuez.

Mais contrairement à la révolution industrielle, où les machines ont remplacé nos muscles et où nous avons trouvé des emplois en utilisant notre cerveau, les machines d’aujourd’hui vont surpasser notre cerveau. Quelle partie de notre être utiliserons-nous pour gagner notre vie une fois que ce sera le cas ?

En outre, la révolution industrielle a déclenché un siècle de difficultés catastrophiques, notamment le déplacement massif de travailleurs qualifiés et une ruée vers les matières premières qui a alimenté le colonialisme ainsi que des guerres qui ont coûté la vie à des dizaines de millions de personnes. Ce n’est pas un film auquel nous voulons faire assister nos enfants.

3. Deux pouces baissés

L’IA se rapproche des performances humaines dans tous les domaines intellectuels. Au rythme actuel de ses progrès, l’IA projettera bientôt sur votre écran une tête parlante qui se métamorphosera pour vous en avocat, en graphiste, en médecin, en ingénieur de logiciels, et j’en passe. Il faudrait donc partir du principe, en gros, que tout travail qui peut être effectué sur Zoom aujourd’hui pourra l’être par une IA demain. Je n’ai rencontré aucun contre-argument crédible sur ce point.

Ce qui m’amène à ma deuxième règle à vue de nez : les employeurs remplaceront les humains par l’IA chaque fois que cela leur permettra de gagner de l’argent. C’est la véritable leçon à tirer de la révolution industrielle. Je n’ai pas non plus entendu de contre-argument crédible à ce sujet.

La Silicon Valley a une vision étroite. Tout bien considéré, vous voyez pourquoi je parierais sur les prédictions de la Silicon Valley concernant ce dont l’IA sera bientôt capable. Mais je ne ferais jamais confiance à la Silicon Valley pour dire à la société comment s’adapter ou se préparer. Lorsqu’il s’agit des implications sociétales de ses technologies, la Silicon Valley est « au mieux spectaculairement inutile et au pire carrément nocive ». En effet, ces dernières années, les innovations de la Silicon Valley ont eu des conséquences non voulues dévastatrices, qu’il s’agisse de la montée en flèche des suicides chez les adolescents ou de la radicalisation de notre société.

Les géants de la tech lancent avec désinvolture des slogans tels que « revenu de base universel », comme si le RBI était une panacée pour l’ère qui s’annonce. Je suis favorable au RBI, mais ils ne semblent pas conscients des défis monumentaux que celui-ci comporte, notamment des coûts faramineux, des sources insaisissables et des effets secondaires complexes. En outre, les problèmes sociétaux engendrés par le chômage de masse ne disparaîtront pas avec un revenu universel, et encore moins avec un revenu de base. Nous avons besoin de l’engagement total de la tour d’ivoire, et de l’expertise des économistes, des politologues et des sociologues pour gérer ces questions complexes.

Dans les années à venir, l’IA atteindra probablement une intelligence surhumaine et entraînera une hausse du chômage. A ma connaissance, personne n’a expliqué de manière convaincante comment une telle IA peut coexister avec le plein emploi, et nous devons donc nous préparer en conséquence. Pourtant, ceux qui voient la tempête s’approcher sont mal équipés pour s’y préparer, tandis que ceux qui savent comment s’y préparer ne la voient pas venir.

La fable d’Esope raconte l’histoire de deux hommes, l’un aveugle, l’autre boiteux. Seuls, ils ne peuvent pas survivre, alors le boiteux grimpe sur le dos de l’aveugle et, ensemble, ils peuvent naviguer sans danger.

La morale est limpide : nous ne pouvons pas nous fier uniquement aux prédictions des économistes ou à l’optimisme de la Silicon Valley. Nous avons besoin de technologues qui comprennent le potentiel de l’IA, d’économistes qui peuvent modéliser son impact et de décideurs politiques qui peuvent mettre en œuvre des solutions.

Le temps presse. Nos choix d’aujourd’hui détermineront si l’IA deviendra la plus grande réussite de l’humanité ou, comme le golem de la tradition juive, une force qui se retournera contre son maître.

L’auteur est PDG et cofondateur de Lemonade (NYSE : LMND), et président du MOSAIC Policy Institute, dont la mission est de veiller à ce que l’intelligence artificielle profite à l’ensemble de la société israélienne.

Traduction par Jeanne Smits