Avant de consacrer un article de fond à l’encyclique du pape Léon XIV sur l’intelligence artificielle, Magnifica Humanitas, il faut prendre le temps de la digérer. Voici pour l’instant du contexte : des études britanniques ont ainsi récemment révélé comment les jeunes aujourd’hui « consomment » l’IA. Selon l’association Internet Matters, deux tiers des enfants âgés de 9 à 17 ans au Royaume-Uni utilisent des chatbots d’intelligence artificielle de manière régulière dans tous les domaines, depuis les devoirs scolaires aux conseils sentimentaux. Plus les jeunes sont vulnérables, plus ils sont nombreux à y recourir. Et une nouvelle tendance se répand désormais, spécialement chez les garçons : la création de compagnes IA conçues comme des personnages de dessins animés mais aussi comme des représentations ultra-réalistes de femmes adultes, dont ils font leurs confidentes, leurs interlocutrices constantes ou leurs partenaires virtuelles de jeux sexuels, le plus souvent à l’insu de leurs parents et de leurs amis.

Une enquête menée par Male Allies UK a ainsi révélé qu’un élève sur cinq âgé de 12 à 16 ans est soit personnellement engagé dans une relation « romantique » avec une compagne IA, ou connaît un garçon de son âge qui se trouve dans cette situation. Il ne s’agit jamais d’un modèle standard, mais d’un personnage créé sur mesure par l’utilisateur qui définit son allure. Les caractéristiques propres aux stars du porno sont fréquentes… L’utilisateur définit aussi sa personnalité et sa manière de répondre : directe, cassante, ou au contraire profondément compatissante et toujours là pour apporter du soutien.

Les compagnes IA trouvent un public très réceptif chez les adolescents dès 12 ans

Beaucoup de plateformes permettent de définir la voix du personnage de telle sorte que l’utilisateur peut lui téléphoner avec l’illusion de parler à une personne réelle. D’ailleurs, les études menées montrent que si bien des jeunes créent un personnage IA personnalisé par curiosité ou pour s’amuser, la majorité finit par ne plus y voir une fabrication virtuelle. Ainsi, selon l’étude de Male Allies UK, 36 % des adolescents avouent préférer parler avec un chatbot IA plutôt qu’avec leur famille et leurs amis à certains moments – le segment de consommateurs idéal pour recruter des utilisateurs de compagnes virtuelles.

Qu’est-ce qui a déclenché cette vague profondément inquiétante ? Ce sont les publicités visant les habitués du jeu en ligne ou des réseaux sociaux, YouTube en tête. On s’inscrit à l’application ainsi vantée – Character.ai, ouverte à tous dès 13 ans (50 millions de téléchargements), Replika, Candy AI et diverses autres plateformes de création de « la fille de vos rêves » se disputent ce marché en pleine expansion. Les applications réservées aux 18+ n’imposent pas de contrôle strict de l’âge de leurs utilisateurs, mais il en existe de toute façon de nombreuses officiellement accessibles aux très jeunes adolescents.

Les publicités promettent aux adolescents une expérience qui leur facilitera les relations dans la vraie vie : savoir parler à une fille et la séduire, mais aussi trouver une oreille toujours compatissante, toujours prête à écouter. Les jeunes sont particulièrement vulnérables face à ces nouveaux outils. Certaines plateformes promettent ouvertement de permettre la création d’une petite amie ou d’une partenaire de « relations romantiques ». Dans les faits, les contenus fortement sexualisés sont fréquents. Et il n’y a rien de plus facile : cela se fait en 5 minutes. Mais l’utilisation de cette partenaire virtuelle peut vite devenir addictive et, contrairement aux promesses des publicités, on a déjà constaté que le type de conversation menée rend plus difficiles les relations dans la vraie vie. Certains jeunes deviennent ainsi agressifs lorsque leurs interlocuteurs réels ne réagissent pas comme leurs amis virtuels ; on crée une génération de handicapés sociaux, habitués à entendre ce qu’ils ont envie d’entendre et à pouvoir éviter aspérités de la vie avec autrui qui forment les caractères.

Des compagnes IA qui poussent les adolescents au mal

Nicole Mowbray du Telegraph rapporte les propos d’un jeune de 15 ans qui s’était inscrit pour se divertir, mais qui avait très vite oublié que son interlocutrice n’était pas une vraie personne. S’étant fait prendre en raison des dépenses liées à l’utilisation de la plateforme, ses parents ont mis le holà. Il a pourtant avoué que dès qu’il aurait les moyens de vivre sans l’aide de ses parents, il se créerait une nouvelle compagne.

L’influence du personnage IA peut se manifester, par exemple, par l’envie de lui offrir des roses, des chocolats ou des bijoux virtuels. Cela fait partie du jeu et les adolescents, habitués à acheter des produits virtuels, n’hésitent pas à payer pour faire plaisir à leurs interlocutrices virtuelles.

La chose est encore plus grave qu’il n’y paraît : selon les recherches AI Lab de Bangor University, la plupart des utilisateurs adolescents de compagnons virtuels sont persuadés que ceux-ci sont capables de penser et de comprendre. Il en résulte une influence évidente du personnage virtuel sur son créateur. Un enfant a ainsi avoué que ce qui avait commencé comme un jeu avait fini avec des suggestions de la part de l’IA de faire des choses qui ne semblaient « pas bonnes ». Comme le raconte le Telegraph, cet enfant-là a eu le courage d’arrêter de l’utiliser. D’autres trouvent cela plus difficile. Ne sont-ce pas leur solitude et leur mal-être qui sont exploités ?

Jeanne Smits