Des chercheurs affirment avoir établi, pour la première fois, une relation de cause à effet entre le recours à l’intelligence artificielle dans des tâches à « raisonnement intensif » et la diminution des capacités cognitives et de la volonté de mener la tâche jusqu’à sa fin. Une équipe multidisciplinaire de scientifiques des Etats-Unis et du Royaume-Uni, dont l’article scientifique est actuellement au stade de la pré-publication, dénonce les dangers de l’utilisation intensive de l’IA qui, selon eux, peut fausser et affaiblir la réflexion et l’autonomie de ses utilisateurs.

« Nous constatons que l’assistance par l’IA améliore les performances immédiates, mais au prix d’un lourd coût cognitif », affirme l’étude. « Après seulement 10 à 15 minutes de résolution de problèmes assistée par l’IA, les personnes qui n’y avaient plus accès obtenaient de moins bons résultats et abandonnaient plus fréquemment que celles qui ne l’avaient jamais utilisée. » L’étude a été menée sur un groupe d’environ 350 Américains, dont un peu plus de la moitié se sont vu attribuer l’accès à un chatbot, les autres servant de groupe témoin. Tous se sont vu proposer une tâche élémentaire : un test de résolution d’équations de fractions.

L’utilisation de l’IA pour passer un test entraîne une baisse cognitive

D’emblée, les premiers ont cherché et donné avec succès les réponses correctes en s’aidant de l’IA. Mais à mi-chemin du test, l’accès à l’IA a été brutalement coupé. Dès cet instant, ceux qui étaient privés de leur béquille informatique se sont montrés moins capables que les autres de résoudre les équations. On a constaté également que leur volonté de persévérer face à des problèmes plus compliqués déclinait rapidement.

Une deuxième salve de tests, proposée cette fois à près de 670 participants selon le même scénario (accès de la moitié à l’IA puis « panne » subite de celle-ci), mais ayant pour thème le raisonnement mathématique, a permis de constater des résultats quasi identiques : baisse des performances, diminution de la persévérance.

Pour finir, une dernière expérience regroupant 200 autres participants a été menée. Ceux-ci ont été invités à répondre dans les mêmes conditions à une brève série de questions de compréhension écrite, avec des résultats toujours similaires à ceux des premiers tests, consécutifs à « l’externalisation » des tâches, assez simples apparemment, vers l’intelligence artificielle.

Dans un entretien avec Futurism, l’auteur principal de l’étude, Rachit Dubey, professeur adjoint à l’Université de Californie à Los Angeles, a résumé le constat : « Une fois que l’IA est retirée aux participants, ce n’est pas seulement qu’ils donnent de mauvaises réponses : ils ne sont tout simplement plus disposés à essayer sans l’IA. » Les chercheurs ont également constaté que ceux qui se contentaient de demander directement la réponse étaient plus atteints, tandis que ceux qui demandaient simplement une aide via des indices ou des éclaircissements semblaient mieux s’en sortir ensuite sans l’aide de l’IA.

L’utilisation de l’IA dans le domaine éducatif : une idée hasardeuse

Pour Rachit Dubey, ces résultats devraient inciter à la prudence face à l’intégration de l’IA dans les programmes éducatifs. Ne serait-ce que parce qu’elle dévalorise le travail acharné, la dépendance à l’IA (qui pourrait s’apparenter à une addiction) pourrait, selon lui, transformer le sentiment de confiance et d’estime de soi de ces individus qui arrivent difficilement à réfléchir aux problèmes de manière autonome. Sans compter si l’utilisation de l’IA se généralisant, les hommes ne sauront plus de quoi ils sont capables : « l’innovation et la créativité humaines en seront considérablement affaiblies », craint-il.

L’étude elle-même donne des avertissements encore plus précis. Elle signale qu’on peut penser que ce sont des tâches susceptibles d’être déléguées sans problème à des outils tels que les calculatrices, « mais du point de vue du développement, la maîtrise conceptuelle de ces compétences est un prérequis », affirment les auteurs dans leur conclusion : « Sans ces compétences, celles d’un niveau plus élevé, comme l’algèbre ou le raisonnement critique, demeurent inaccessibles. »

Ils signalent que si l’usage important de l’IA porte atteinte à la motivation et à la persévérance nécessaire à l’apprentissage sur le long terme, les effets s’accumuleront au fil des ans jusqu’à devenir difficiles à inverser au moment où ils seront visibles. Et ils font l’analogie avec « l’effet de la grenouille dans l’eau bouillante : chaque acte supplémentaire semble sans conséquence, jusqu’au moment où l’effet cumulé devient très difficile, voire trop difficile à contrer ».

Un nouvel accélérateur de la dégradation cognitive

Si les méthodes pédagogiques employées ces dernières décennies ont conduit à la formation de ce que j’ai appelé une « génération décervelée » – non pas stupide, car les jeunes ne sont pas plus bêtes que leurs aînés, mais n’ayant pas reçu les outils nécessaires à l’analyse, au raisonnement, à la lecture consciente et à la compréhension de l’arithmétique, comme l’a montré Elisabeth Nuyts dans ses nombreux ouvrages –, nous voyons ici se dessiner une situation encore plus désastreuse.

Le calcul, l’écriture, la lecture et la compréhension de ce qu’on lit sont aujourd’hui essentiels au développement intellectuel. Nous ne vivons plus dans des civilisations orales et tous ont peu ou prou besoin de maîtriser les compétences élémentaires pour développer jusqu’à leur pensée intérieure. Les voici menacées, ces compétences, de manière inédite avec l’omniprésence d’un outil informatique qui « pense », résume, raisonne, corrige et propose des solutions aux problèmes, qui peut établir des plans de travail jusque dans les plus petits détails, quand ce ne sont pas des dissertations entières, tout en proposant des ensembles de faits et de citations dont beaucoup ne se rendent même plus compte qu’ils sont souvent faux ou inventés.

On se vide et on s’atrophie, en somme, à mesure qu’on externalise son travail. On comprend bien que ce qui manque est la conscience de la manière dont on arrive à une solution ou à une production de textes. Quand on n’a plus besoin de penser, et surtout de formuler sa pensée, on ne saurait l’intégrer et encore moins l’évaluer.

C’est le terrain idéal pour la réception de la propagande et du mensonge. L’IA fait le lit de la paresse intellectuelle : la béquille aura tôt fait d’accaparer le rôle de pilote des cerveaux progressivement réduits à l’état de disques durs.

Jeanne Smits