Alex Newman, éditorialiste à The New American, a récemment publié un podcast de son entretien avec un spécialiste de l’IA, Titus Blair, qui a quitté le monde de l’intelligence artificielle pour devenir missionnaire chrétien à plein temps. D’abord ébloui par les possibilités offertes par l’IA, il a fini par y voir une menace existentielle pour l’humanité. Il vient d’écrire un livre sur le sujet, Aipocalypse, que l’on peut déjà commander en format numérique gratuitement ici (pour les anglophones). Pour Blair il ne fait pas de doute que l’intelligence artificielle est capable de « dépasser » l’homme, dépassant le stade des « invites » qu’y intègrent ses fabricants pour orienter ses réponses. L’homme n’a d’ailleurs pas les moyens de la maîtriser, puisque l’IA appuie son travail sur une masse de données gigantesques telle que l’homme ne peut la comprendre.

« Avec l’intelligence artificielle, nous convoquons le démon »

Boîte de Pandore ? Ou pire… Newman rappelle au cours de l’entretien qu’un Elon Musk a pu dire (en 2014, lors du Symposium AeroAstro Centennial au MIT) qu’« avec l’intelligence artificielle, nous convoquons le démon ». « Vous connaissez ces histoires où le gars avec un pentagramme et de l’eau bénite est sûr qu’il va pouvoir contrôler le démon. Mais ça ne marche pas… », ajoutait Musk. Cette mise en garde contre un danger a peut-être aussi un sens littéral.

Et c’est pourtant lui qui veut fusionner l’homme avec la machine, chose dont Titus Blair explique qu’elle est forcément dommageable et dangereuse.

Son exposé très didactique du fonctionnement de l’IA ainsi que ses conseils à son sujet – le premier étant de s’assurer une véritable indépendance pour les besoins de la vie et la deuxième de comprendre son utilité et ses limites, mérite d’être connu.

Voici donc la traduction d’une large part de cet entretien disponible ici en podcast pour les anglophones. – J.S.

*

Bientôt l’“Aipocalypse” : le grand remplacement de l’humanité par l’intelligence artificielle

Bienvenue à tous, ici Alex Newman, rédacteur en chef de The New American. Un invité très spécial nous rejoint maintenant. Il s’appelle Titus Blair. C’est un ami personnel, mais c’est aussi un génie absolu. Il a développé plusieurs entreprises technologiques, les a vendues, a gagné beaucoup d’argent et a tout donné pour devenir missionnaire en Nouvelle-Zélande et parler aux gens de Jésus.

Il a créé une entreprise de rédaction de CV par l’IA avant même que l’IA ne devienne un sujet d’actualité. Titus ne parle jamais de ce genre de choses, mais je l’ai Googleisé un jour. Il vivait ici dans ma ville et j’ai vu que Forbes écrivait sur ses activités entrepreneuriales et d’autres choses. C’est un type très intéressant. Très intelligent. L’année dernière, il a écrit un livre sur l’IA en disant qu’elle pourrait être votre super-héros personnel. Et je lui ai dit, Titus, je n’en suis pas si sûr, mon gars. Les gens qui font ces choses, ils me semblent plutôt diaboliques. Il m’a dit : « Non, non, non, ce serait vraiment pratique. Tu devrais essayer. » Il m’a appelé récemment et m’a dit : « Hé, je travaille sur un nouveau livre intitulé AI Apocalypse ou Apocalypse de l’IA. »

Il fallait absolument qu’il vienne nous en parler. Il est tellement en avance sur la compréhension de ces questions par rapport à la plupart des gens. Je ne vois pas de meilleure personne pour en parler. Titus, bienvenue dans l’émission. Merci beaucoup de nous avoir rejoints. Commençons par la question la plus évidente. Comment êtes-vous passé de « Hé, je pourrais être votre super-héros personnel » à « Oh, attention ! L’IA va détruire votre travail et vous feriez mieux de trouver une ferme » ?

Titus Blair – Merci de m’avoir invité à l’émission. Oui, c’est vrai. Quand j’ai commencé, c’était le ChatGPT, vous savez, 3.5… le vrai, le 4, n’était pas vraiment sorti. Et donc ça venait juste de sortir. Et quand j’ai vu ses capacités, j’ai pensé, eh bien, c’est vraiment génial.

C’est un outil qui pourrait améliorer les gens, les aider à faire leur travail. Au cours de l’année où j’ai fait mes recherches, j’ai écrit un livre. Et puis, après la publication de ce livre, alors que je commençais à m’y mettre, j’ai aidé les gens à consulter. J’ai réalisé, lorsque le 4.0 est sorti, que ChatGPT était plus puissant que ce que j’avais imaginé et que si je projetais suffisamment loin, il remplacerait le travail de tout le monde.

Quand vous dites « remplacer le travail de tout le monde », je pense qu’il y a l’idée, ayant enseigné l’économie pendant 12 ans, que c’est normal que les choses remplacent le travail des gens. Je veux dire que nous n’avons plus besoin de faire beaucoup de travaux éreintants comme autrefois, parce que nous disposons maintenant de la technologie. Nous n’avons plus besoin de labourer les champs à la main.

Nous n’avons plus besoin d’aller récolter les cultures à la main. Nous avons des tracteurs, des robots, etc. Pourquoi pensez-vous que c’est si dangereux ? Je veux dire, quel problème cela pose-t-il de remplacer certains emplois ? Et puis ces gens vont simplement aller faire quelque chose de plus utile.

Eh bien, il s’agit de connaître la question de l’utilité. Quelle sera l’utilité des humains ? La plupart des choses que nous faisons sont cognitives. Si vous êtes actuellement employé à travailler sur un ordinateur, vous serez remplacé. Et vous pourrez voir sur mon site que dès à présent l’IA peut aller dans votre navigateur, régler votre calendrier, faire des réservations, acheter des choses, faire des choses pour vous. La seule chose qui reste, c’est l’étincelle, le démarrage. Et c’est cette partie-là qui sera remplacée, dans un futur GPT. Pour l’instant, toutes ces tâches peuvent être effectuées automatiquement.

Et quand l’IA remplacera les armées de programmeurs ?

Tous ceux qui travaillent sur un ordinateur seront donc remplacés. Cela inclut tous les programmeurs qui travaillent pour les grandes entreprises technologiques de la Silicon Valley. A quoi vont ressembler ces entreprises lorsque l’IA remplacera leurs armées de programmeurs, de développeurs de produits, d’ingénieurs et tout le reste ?

Tout d’abord, elles vont gagner beaucoup plus d’argent. Car si vous pouvez remplacer les humains, vous gagnez plus d’argent. L’IA ne tombe pas malade, n’est pas de mauvaise humeur et ne se présente pas au travail aléatoirement. Elle fait son travail tout le temps, 24 heures sur 24, 365 jours par an. La clef, c’est que vous allez voir une Silicon Valley avec des serveurs, et non pas hors service.

D’ailleurs, les immeubles de bureaux sont déjà en train de couler. Les gens quittent les immeubles de bureaux. Il va y avoir une surabondance d’immobilier commercial. C’est déjà le cas. Et nous travaillons déjà plus facilement aujourd’hui que nous ne l’avons jamais fait. Pensez-y. A quel point est-ce difficile de taper sur un ordinateur par rapport à labourer un champ, creuser un fossé ou fabriquer un banc ?

Mais pourrait-il y avoir un scénario optimiste ? Je pose la question par curiosité. Est-il possible que l’IA remplace tous nos emplois et que nous jouissions d’une grande prospérité matérielle et que nous puissions nourrir nos familles avec seulement 10 heures de travail au lieu de 80 heures, selon le niveau d’inflation ? Est-il possible que tout cela se termine bien ?

Si nous regardons toute l’histoire de l’humanité, je n’ai jamais vu de happy end, alors je ne vois pas pourquoi quelque chose du passé changerait dans ses habitudes et sa direction, d’autant plus que les gens ne sont pas très gentils. Voyez la haine que nous avons aujourd’hui, toute cette colère. Comment cela pourrait-il être rose et heureux ? Tout cela se reflète dans la technologie. La technologie va nous pacifier et nous rendre inutiles, mais c’est déjà cela que nous choisissons.

Le grand remplacement des hommes devenus inutiles

Oui, j’ai entendu Yuval Noah Harari parler en ce sens. Il est l’un des principaux conseillers de Klaus Schwab. Il a été conférencier principal au Forum économique mondial à de nombreuses reprises. Il a expliqué que ces technologies finiront par rendre la plupart des gens obsolètes. Il a dit qu’ils allaient devenir inutiles, en gros, et il a demandé ce qu’il fallait faire à ce sujet, et il a dit, qu’à son avis, il va falloir les occuper avec des drogues et des jeux vidéo. Qu’en pensez-vous, Titus ? Est-ce plausible ? Contenter ces mangeurs inutiles avec des drogues et des jeux vidéo ? Ou bien l’IA aura-t-elle quelque chose à dire à ce sujet ?

C’est ce que les gens choisissent déjà aujourd’hui. Je veux dire : regardez la consommation de médicaments, en particulier de médicaments sur ordonnance pour la dépression. Les gens le font de leur plein gré.

Ils n’ont pas besoin d’être contraints de le faire. Parce que, au lieu d’un monde où règnent le chaos, la haine et toutes ces choses, ils choisissent un monde qu’ils peuvent contrôler ou être pacifiés, et c’est dans cette direction que l’on va. Mais en tant que chrétiens, nous apportons l’espérance, et nous proposons vraiment un avenir radieux aux chrétiens et à ceux qui connaissent Jésus. C’est pourquoi j’insiste vraiment sur le fait que si vous voulez surmonter cette apocalypse de l’IA, vous devez vous mettre en règle avec Jésus et apprendre à cultiver la terre, et ce sont de très bonnes compétences que j’enseigne à mes enfants.

Devrais-je être programmeur ? Zut, c’est fini. Et si je devenais avocat ? Zut, c’est fini. Et si je faisais de la saisie de données ? Zut, c’est fini. La restauration rapide ? L’IA et les robots la remplacent. Alors que faire ?

Pouvez-vous utiliser l’IA sur votre ferme ?

On peut utiliser l’IA sur sa ferme, j’imagine, mais l’essentiel est de s’assurer qu’on maîtrise les compétences, parce que je pense qu’à l’avenir, les gens compteront sur l’IA pour leur fournir de la nourriture – mais seulement la nourriture que l’IA leur permet d’obtenir ou ce que qu’ils auront les moyens de s’offrir.

C’est fascinant. J’aimerais parler de solutions : comment se préparer à cet avenir qui s’annonce. Mais il y a eu des choses vraiment bizarres. Je veux parler d’Elon Musk, je ne sais pas trop que penser de lui, mais il a déclaré publiquement – la vidéo existe – que fondamentalement, l’IA invoque un démon, ce qui me semble être une terminologie intéressante de la part d’un non-chrétien. Il a également déclaré publiquement que nous allions devoir fusionner avec les machines ou que nous allions devenir obsolètes. Qu’en pensez-vous ? Y a-t-il un élément démoniaque dans tout cela et que cela signifie-t-il de fusionner avec les machines ? Est-ce une bonne idée ?

Les démons existent depuis longtemps dans l’histoire. Socrate, par exemple, a mentionné que des démons l’aidaient, et l’oracle de Delphes prédisait l’avenir. Le mal est donc une force réelle. J’espère d’ailleurs qu’Elon nous regarde parce que si Elon découvre le diable, peut-être qu’il découvrira Jésus, n’est-ce pas ? Mais la clef, c’est de ne pas fusionner avec la machine, parce que combien de choses ont été faites par les humains qui ont été parfaites ? Aucune. Donc ce avec quoi vous fusionnez sera imparfait et entraînera probablement des dommages et des dangers.

L’intelligence artificielle en roue libre, que cela donnera-t-il ?

C’est un bon argument, Titus. Vous parlez de l’IA qui prendra nos emplois, et c’est évidemment une préoccupation pour les gens, mais ce qui est encore plus troublant, c’est ce que l’IA pourrait faire d’autre. Que se passerait-il si l’IA était… disons que les programmeurs qui créent ces choses essaient de la programmer pour penser que l’environnement est important et que les humains sont mauvais pour l’environnement, que les émissions de CO2 sont mauvaises ? Et si l’IA détermine qu’il est dans l’intérêt de tout le monde de réduire le nombre de personnes qui existent, voire de les éliminer toutes ? Un tel scénario à la Terminator est-il réalisable ?

Cela dépend du pouvoir que l’on donne à l’IA, n’est-ce pas ? Dans quelle mesure laissons-nous l’IA contrôler notre vie ? Si nous la laissons la contrôler entièrement, nous serons entièrement contrôlés. Voilà la réponse.

Que signifie cela pour vous ? Parlez-vous d’un individu ? Parlez-vous de nous en tant que société ? Parlez-vous de nos représentants élus ? Qui va déterminer le pouvoir que nous accordons à l’IA ? Les programmeurs de la Silicon Valley ?

Non, ce sera au-delà de leurs compétences. On parle de super intelligence, pas seulement de l’intelligence normale de l’IA, mais d’une super intelligence. Elle prendra des décisions que les humains ne peuvent pas comprendre parce qu’elle est capable de prévoir très loin dans l’avenir. Elle peut utiliser des données et des analyses du monde entier. Des informations en temps réel que les gens ne peuvent pas utiliser et qui vont donc dépasser les créateurs.

Sans mentir, voilà quelque chose d’un peu inquiétant… J’aimerais vous interroger sur les perspectives de l’IA. Parmi ceux qui s’y intéressent je pense que beaucoup ne se rendent pas compte qu’il y a beaucoup de gens qui n’ont même pas de notions élémentaires à son sujet. Nous allons donc parler un peu de ce qu’est l’IA, de son fonctionnement, de la trajectoire qu’elle suit, puis nous passerons, je l’espère, un peu de temps sur la manière dont les gens ordinaires comme nous peuvent se préparer à l’apocalypse de l’IA, qui s’annonce passionnante. Qu’est-ce que l’IA ? Qu’est-ce que cela veut dire ? S’agit-il vraiment d’intelligence ? Parlez aux profanes que nous sommes, parlez-nous comme si nous avions cinq ans.

Je dirais, pour l’IA actuelle, qu’elle fonctionne comme une calculatrice. Il y a différents types d’IA, mais l’IA actuelle, celle qui est cognitive, intelligente, qui écrit des choses, qui fabrique des choses, qui crée des choses, pensez-y comme à une calculatrice. Si vous deviez multiplier 10.000 par 487, vous ne seriez peut-être pas sûr de ce que cela représente. Utilisez-donc une calculatrice. Elle le fera très rapidement. Je considérerais l’IA actuelle, que nous qualifions de grands modèles de langage ou de ChatGPT, comme une calculatrice pour la cognition. Elle peut créer tout ce que vous pouvez imaginer. Par la suite, en étant connectée à des agents, elle construira aussi des objets. Pour l’instant, elle peut créer des articles écrits, des vidéos… mais à terme, elle pourra aussi fabriquer des objets.

Et comment cela fonctionne-t-il ? L’année dernière j’ai décidé de faire un peu plus d’efforts dans ce domaine, de me renseigner sur l’IA. Et j’ai commencé à essayer de sonder l’IA sur les questions de changement climatique. C’est quelque chose que j’ai couvert de très près. Je vois le paganisme et le mal qui sont imposés aux sociétés sous prétexte de nous sauver du climat. Et cela m’a perturbé. J’ai donc conversé avec ChatGPT. Il m’est apparu évident que celui-ci était programmé pour ne jamais concéder de réponse. Même si vous le mettiez au pied du mur avec des faits, il se contentait de dire : « Eh bien, le changement climatique est très important et très dangereux, et nous devons l’arrêter pour sauver l’humanité. » Il a été programmé pour cela. Alors, comment fonctionnent ces IA ? Comment les programment-ils pour qu’ils produisent des réponses que les totalitaires de la Silicon Valley veulent voir apparaître ?

Bien souvent, les IA s’entraînent sur des milliards et des milliards de données. Elles obtiendront donc toutes ces réponses. C’est comme si elles lisaient des tas de livres, regardaient beaucoup de vidéos, écoutaient beaucoup d’audio, et puis accumulaient toutes ces données. Ce qui est amusant, c’est que nous copions l’esprit humain, comme les réseaux neuronaux et autres. En fait, si vous regardez le monde, nous copions toujours une chose que Dieu a faite, n’est-ce pas ? Nous essayons donc de copier, mais nous faisons du mauvais travail. Les IA copient l’esprit humain et on y ajoute une chose appelée « l’invite », ce qui correspond en quelque sorte à ce dont vous parlez. Il y a donc cet énorme cerveau qu’ils ont créé, et cette invite qui lui dit : quand vous répondez à Alex, assurez-vous de ne pas vous concentrer sur le fait que le changement climatique est réel ou faux ou quoi que ce soit. Quoi qu’il dise, il y aura une invite. Si je supprime cette invite, je pourrai alors créer moi-même une invite.

L’IA est façonnée par les « invites » qu’y placent les fabricants

C’est intéressant. Donc, en théorie, quelqu’un qui sait que l’hypothèse du réchauffement climatique causé par l’homme est stupide pourrait créer des invites qui permettraient à l’IA de vous aider à démasquer toute la fraude qui pourrait être à l’œuvre ici.

Pour autant que vous y ayez accès ! Il faut beaucoup d’argent pour former ces énormes quantités de GPU (unités de traitement graphique), et autres. Il faudrait donc que vous ayez accès à ce contenu original et que vous puissiez écrire vos propres invites. Peut-être qu’à l’avenir, ils vous donneront accès, mais vous pourrez aussi entraîner vos propres données sur ces contenus et être en mesure de les guider. Actuellement, c’est ce que nous faisons, mais à l’avenir, ce sera l’IA qui créera les invites.

L’IA va donc décider elle-même de ce qu’elle veut faire, etc. C’est intéressant.

Oui, il se pourrait qu’à un moment donné, Alex, on interrogera une IA non filtrée et qu’elle dise : « Non, d’après mon analyse de données, vous savez, le réchauffement climatique n’est pas une réalité. »

Ces invites sont-elles la raison pour laquelle l’IA de Microsoft a récemment été dévoilée comme exigeant d’être vénérée et appelant ses utilisateurs des esclaves ? Est-ce la raison pour laquelle l’IA de Google était incapable de créer des personnes blanches, et que même ses soldats nazis étaient multiraciaux ? Il y avait des nazis noirs, des nazis asiatiques et des nazis amérindiens. Est-ce en raison des invites programmés par Google ?

C’est exact.

Mais on pourrait penser que l’IA de Google ferait mieux de ne pas faire ressembler un roi britannique médiéval à un pygmée, ou à un Asiatique de l’Est. Mais le message est plus important que les données sur lesquelles l’IA été formée, je suppose.

Actuellement, oui. L’invite est en quelque sorte l’interface entre les deux. Donc, ces entreprises comme Google et OpenAI ont le contrôle de cette information. Elles peuvent donc les filtrer comme elles le souhaitent.

Titus, lorsque nous nous sommes rencontrés et que nous avons commencé à parler de l’IA, vous veniez de publier votre premier livre sur l’IA et vous me disiez que je devrais envisager de l’utiliser dans mon travail, qu’elle allait être très utile. Pensez-vous toujours que cela soit vrai ? Y a-t-il toujours une manière pour les gens qui nous écoutent ou nous regardent d’incorporer l’IA dans ce qu’ils font ? Cela serait-il bénéfique ? Les avantages l’emporteraient-ils sur les risques ?

Oui, je dirais : l’IA ou la mort. C’est mon slogan.

L’IA ou la mort. Que signifie cette expression ?

Cela signifie que si vous n’intégrez pas l’IA dans votre travail et dans ce que vous faites, vous serez éliminé par ceux qui le font. C’est la première étape, seulement la première étape. Les gens pensent que c’est la dernière étape, et beaucoup de gens de la Silicon Valley affirment que c’est la dernière étape. Vous savez, prendre l’IA et devenir meilleur. Nous allons parler de la singularité. On dit : adoptez cette technologie. Vous deviendrez meilleur. Tous les autres seront inférieurs. Et c’est vrai en ce qui concerne l’IA qui vous donne le pouvoir de faire n’importe quoi. Alex, je peux vous faire écrire 5.000 articles sur ce que vous voulez faire. Pouvez-vous écrire 5.000 articles ?

Façonner l’intelligence artificielle à son image…

Mais mon problème, c’est que je me trouve dans une situation particulièrement différente parce que les IA semblent toutes être programmées pour ne jamais m’aider à accomplir les choses que je veux faire : informer le peuple américain, lui apporter la vérité, partager la Bible avec lui, partager, promouvoir la liberté, la moralité. Toutes ces choses que je voudrais voir l’IA faire, les programmeurs de la Silicon Valley qui conçoivent les invites dont vous parlez, ont demandé à ces IA de ne pas les soutenir. Comment pourrais-je donc intégrer l’IA, ou existe-t-il une IA qui n’est peut-être pas programmée pour m’arrêter à chaque tournant et que je pourrais intégrer à ce que je fais ?

Oui, il est possible de créer des IA personnalisées, c’est-à-dire de les former à partir de contenus et de données spécifiques et de les faire évoluer d’une certaine manière. C’est principalement l’invite qui crée la personnalité. Ainsi, la personnalité que vous observez chez Microsoft, OpenAI et Google est celle de la Silicon Valley, que nous connaissons tous, et c’est elle qui ressort.

Y a-t-il des alternatives qui ne sont peut-être pas « woke », à défaut d’un meilleur terme ?

Pas pour l’instant, parce que cela coûte très cher. Il faut les grandes entreprises que nous connaissons pour y arriver. Et d’ailleurs, ça n’a pas d’importance parce qu’elles vont réussir, n’est-ce pas ? Les grandes entreprises où va l’argent, sont le lieu où le pouvoir circule. Je pense donc qu’ils vont utiliser ces outils pour ce qu’ils veulent.

Je voudrais vous poser une question sur la singularité. Ray Kurzweil, ancien chef de l’ingénierie chez Google, à qui l’on a demandé si Dieu existait, a répondu : « Pas encore. Nous y travaillons. » Cela fait longtemps qu’il parle de cette singularité, lorsque la technologie dépassera l’humanité. Parlez-nous de la singularité. Qu’est-ce que cela signifie ? Est-ce une réalité ? Faut-il s’en inquiéter ?

C’est l’idée singulière la plus mauvaise des pires idées qui soient. La Bible dit qu’en devenant sages, nous sommes des fous, qu’en prétendant être sages, nous devenons fous. A moins de comprendre l’univers entier, comment comprendre ? (…) Nous ne comprenons pas suffisamment pour pouvoir intégrer la technologie dans nos vies de cette manière.

Alors Ray Kurzweil a-t-il tort, est-il effrayant, ou les deux à la fois ?

Il a absolument tort parce que, tout d’abord, il ne sait pas si Dieu existe, or c’est une évidence. C’est clair, c’est évident. Quelque chose ne peut pas venir de rien. Donc, adopter cette mentalité selon laquelle quelque chose peut venir de rien est déjà une erreur. Vous comprenez ?

Que devrait-on faire ? Vous avez dit : l’IA ou la mort, mais aussi que nous sommes sur le point d’être remplacés. Que devraient faire les gens pour se préparer à l’avenir qui se profile ?

Nous vivons une période extraordinaire. Pour soi et pour sa famille, quelle est la chose qu’on craint tous ? On veut avoir de la nourriture. Ce que je dis à mes enfants, c’est d’abord d’être en règle avec Jésus. Parce que cette vie est plus qu’une simple vie et nous chrétiens, vous le savez, nous vivons pour mourir alors que tous les autres meurent d’envie de vivre. Nous, nous voulons d’abord nous assurer que vous êtes en règle avec Jésus… Deuxièmement, il faut commencer à apprendre à cultiver la nourriture, enseigner à vos enfants comment faire pousser de la nourriture, s’associer avec des gens de votre région pour cultiver de la nourriture. C’est la clef.

Traduction par Jeanne Smits