L’effet de l’IA sur les relations humaines et sur les jeunes intelligences

Le Pr Geoffrey Hinton, l’un des trois « parrains » de l’intelligence artificielle, s’est prêté à une séance de questions-reponses au sujet de l’IA menée par le sénateur marxiste Bernie Sanders devant une salle comble d’étudiants du prestigieux établissement américain Georgetown University. Il y expose ses inquiétudes et ses incertitudes au sujet de cet outil révolutionnaire au sens plein du terme, tout en vantant ses promesses qui pourraient se réaliser, croit-on comprendre, dans un contexte pleinement socialiste.

C’est ce qui fait de cet échange un document passionnant pour comprendre une réalité dont on ne parle pas assez et qui refaçonnera totalement l’avenir, dans un sens dont il est clair que l’homme ne le maîtrisera pas ; ainsi que Hinton l’a déjà annoncé par le passé.

Geoffrey Hinton et Bernie Sanders n’ont pas si peur de l’IA…

Nous vous proposons une série d’articles pour présenter l’avis du prix de Nobel de physique en 2024 Hinton, et les questions pertinentes posées par l’homme politique de gauche face à une réalité qui menace fondamentalement la société dans son ensemble et la pensée de chaque homme dans son rapport à la vérité.

Le premier épisode s’intéressait à l’effondrement du marché de l’emploi et le déploiement inouï des capacités de l’IA.

Ce deuxième épisode, sur l’effet de l’IA sur les jeunes et sur les relations humaines, est plus court. De fait, tant Hinton que Sanders n’ont guère accordé beaucoup de temps à cette question de l’externalisation de l’intelligence humaine et sur le monde d’illusions où elle fait déjà évoluer une part croissante de l’humanité, au détriment de la vie sociale et de l’exercice de la vertu. Or ne sont-ce pas là déjà des problèmes colossaux, quoi qu’il en soit à l’avenir des développements annoncés de l’IA ?

L’IA remplace-t-elle l’amour aussi bien que l’intelligence ?

Car si notre mode de vie est menacé à moyen, voire à court ou à très court terme, la vie de l’intelligence et de l’âme le sont dès aujourd’hui. Cela dit, les deux intervenants n’ont pas non plus occulté cette inquiétante nouveauté, contre lequel il est impérieux de se battre, en prenant des moyens sérieux pour réduire à la fois l’impact du monde virtuel et des « informations » fugaces et « dé-bunker » – le mot est à la mode – les faux interlocuteurs proposés par les grands modèles de langage.

Ci-dessous, la traduction d’une grande partie de l’échange Hinton-Sanders à ce sujet. Vous verrez que c’est un peu court. Parce que fondamentalement, l’un et l’autre, comme la suite de cette série le montrera, pensent à une utilité politique et sociale de l’IA, en vue de changer la société de fond en comble. Ils ne mentionnent pas le fait que l’IA pousse déjà au suicide, à la violence, au divorce, aux déviances sexuelles…

« Bien utiliser l’IA », est-ce seulement possible ?

Pour rester au courant de publication de la suite de cette série sur RITV, je vous invite à vous abonner à notre lettre d’informations. – J.S.

*

Geoffrey Hinton, Bernie Sanders : inquiets mais pas assez

Bernie Sanders : Permettez-moi de changer un peu de sujet pour aborder un domaine qui me rend très inquiet, car il concerne notre identité en tant qu’êtres humains et nos relations les uns avec les autres. Je suis inquiet quand je lis qu’il y a beaucoup de gens, en particulier des jeunes, qui comptent désormais sur l’IA pour leur tenir compagnie. Et je crois comprendre qu’il existe désormais des produits que l’on peut porter autour du cou, avec lesquels on peut discuter, faire de la randonnée, sortir en amoureux, etc. Si les gens grandissent en ayant pour principaux compagnons et relations l’IA et non d’autres êtres humains, que cela signifie-t-il pour nous, pour l’humanité en général ?

Geoffrey Hinton : Permettez-moi d’abord d’insister sur ce qu’a dit Bernie. Il existe en Grande-Bretagne une très bonne équipe de recherche sur la sécurité de l’IA qui a été mise en place après Bletchley Park (le premier sommet sur l’intelligence artificielle au Royaume-Uni, en 2023). Le gouvernement britannique n’a imposé aucune réglementation en matière de sécurité, car il estimait que cela nuirait à l’innovation. Les techniciens les ont persuadés. (…) Mais ils ont mis en place une très bonne équipe de sécurité, financée à hauteur d’environ cent millions de livres sterling. C’est probablement la meilleure équipe de sécurité au monde. Ils ont mené une expérience dans laquelle ils ont demandé à des gens d’utiliser un chatbot pendant, je crois, quelques semaines. Puis ils ont dit : « Bon, l’expérience est terminée. Voulez-vous dire au revoir au chatbot ? » Et presque tout le monde a voulu dire au revoir au chatbot. Ils ne le considéraient donc pas comme un simple outil. Ils le traitaient comme on traite un autre être vivant. Et c’est un vrai problème. Nous avons évolué pour interagir avec d’autres personnes. Nous n’avons pas évolué pour interagir avec des êtres étrangers que nous créons. Encore une fois, nous ne savons pas ce qui va se passer, mais c’est inquiétant.

Bernie Sanders : Eh bien, je dirais que c’est plus qu’inquiétant. Vous savez, nous sommes qui nous sommes parce que nous avons des mères et des pères et des amis, et c’est en quelque sorte ce qui fait de nous des êtres humains. Et si nos relations principales sont avec des créations de chatbot, il me semble que cela a un impact profond sur l’humanité. Qu’en pensez-vous ?

Geoffrey Hinton : Je suis tout à fait d’accord. Nous ne savons tout simplement pas quel sera cet impact.

Bernie Sanders : Très bien, passons brièvement à un autre sujet. Les enseignants, peut-être ici à Georgetown également, s’inquiètent du fait que les étudiants utilisent l’IA plutôt que de faire preuve de l’esprit critique dont Nous faudrait-il nous inquiéter du fait que l’IA ait un impact négatif sur l’esprit critique des jeunes ?

Geoffrey Hinton : Il y a une analogie que les gens utilisent parfois, celle des calculatrices de poche. Il y a des années, lorsque les calculatrices de poche sont apparues, les gens ont dit : « C’est terrible. Les enfants n’apprendront plus leurs tables de multiplication. » Et je pense que si je vous demandais rapidement de me dire combien font 11 fois 12, la plupart d’entre vous ne sauraient pas répondre. Parce que vous avez des calculatrices de poche. Les gens comme Bernie et moi savaient répondre. Je ne pense pas que ce soit grave pour ce qui est des calculatrices de poche. Vous n’avez pas besoin de savoir combien font 11 fois 12, car votre téléphone portable vous le dira. Je pense donc que cette analogie à un certain rapport avec le sujet. Je pense que nous devrions considérer une personne qui utilise une calculatrice de poche comme relevant d’un nouveau système, tout comme une personne qui utilise l’IA est le nouveau système.

Une personne qui utilise l’IA peut toujours faire preuve d’esprit critique. Elle peut aussi essayer de tout confier à l’IA, et là, ça devient terrible. Elle n’apprendra pas à réfléchir. Mais je pense qu’on ne devrait pas essayer d’exclure l’IA comme aide, parce que c’est l’avenir. Ce qu’on doit faire, ce que les universités doivent faire, c’est encourager les gens à bien utiliser l’IA.

Source : https://www.youtube.com/watch?v=EK7uWh3TP3o

Jeanne Smits