L’impératif numéro un d’une chaîne YouTube est de faire monter le nombre de ses vues qui, s’il dépasse un certain stade et se pérennise, peut générer un véritable revenu régulier pour celui qui la possède. Il faut donc produire tout autant que séduire. Et les enfants, étant des consommateurs boulimiques dépourvus de tout jugement formé, sont les cobayes idéaux… Quoi de plus évident, donc, que d’avoir recours à l’Intelligence Artificielle (IA) pour fabriquer vite et poster des vidéos ad hoc pour les fidéliser ?! Il y a même des tutoriels alléchants pour apprendre comment les réaliser, tutoriels qui génèrent aussi des milliers de vues… Sauf qu’on vous laisse imaginer la qualité de ces vidéos générées par l’IA – et leur impact sur d’aussi jeunes cerveaux.

Les enfants sont soumis à un flux de contenu synthétique sur YouTube

C’est un nouveau défi du divertissement pour enfants. Selon une enquête du média en ligne Wired, un nombre croissant de chaînes YouTube semblent exploiter des outils d’IA pour automatiser la production de vidéos animées pour les enfants et bénéficier ainsi d’un rythme de publications alarmant. Comme cette chaîne appelée Oui ! Neo qui cumule plus de 970.000 abonnés, alors qu’elle a été lancée en novembre 2023… mais qui publie une vidéo nouvelle tous les deux ou trois jours dont certaines ont été vues plus d’un million de fois.

La méthode est simple, il suffit d’utiliser plusieurs outils d’IA. Le premier, comme ChatGPT, génère un script sur un thème que vous lui proposez : pour ma part, à la suite de ma demande d’un conte pour enfant de trois ans, j’ai obtenu en une demi-seconde l’histoire d’« un petit lapin tout blanc nommé Pompon, avec de grandes oreilles toutes douces et un nez tout rose » (je vous fais grâce de la suite). Secundo, vous allez chercher une voix de synthèse vocale chez ElevenLabs par exemple. Un troisième outil d’IA va vous générer un personnage sur lequel est plaquée la voix. Un quatrième, enfin, tel que la fonction d’IA générative d’Adobe Express, finalise l’animation avec un arrière-plan animé. En moins de vingt minutes, une mini vidéo est ainsi créée.

La startup de détection de deepfake Reality Defender a analysé des échantillons de plusieurs chaînes YouTube et a retrouvé ces processus. YouTube a déclaré que la société était en train d’introduire de nouvelles politiques concernant le contenu généré par l’IA, mais en s’appuyant principalement sur la divulgation volontaire, en exigeant des créateurs eux-mêmes qu’ils le précisent… Maigre ambition. En réalité, le réseau social n’a guère envie de se priver d’un quelconque public, surtout celui des enfants, nous en parlions déjà en 2015.

L’IA sur YouTube ? Une nouvelle vague de vidéos déchets

Alors bien sûr, toutes ces chaînes se présentent comme « éducatives ». Sauf que la plupart, assemblées à la hâte, adoptent une approche légèrement opposée, soucieuses du débit, de l’amplification algorithmique et de la monétisation plutôt que de l’idée d’enrichir réellement la vie des enfants…

Certaines chaînes de vidéos générées par IA s’orientent vers un territoire étrange, un amalgame de visuels « glitch » comme des globes oculaires flottants et des blocs de couleurs fondants, sur une bande sonore mélangeant rires d’enfants et voix robotique… Mais d’autres produisent des vidéos dérangeantes, mettant en vedette des personnages populaires comme Elsa de Disney, Spiderman ou Peppa Pig ; une imitation de Bob l’éponge générée par IA, appelée AISponge, a tendance à proposer des sujets résolument adultes, alors que son public est constitué a priori d’enfants.

« Partout dans le pays, des tout-petits sont plongés devant des iPad, soumis à des écoulements synthétiques, privés de contact humain, même dans les médias qu’ils consomment. Il n’y a pas d’autre mot que dystopique » a déclaré le neuroscientifique Erik Hoel : Internet est devenu « une déchetterie virtuelle ». Les experts préviennent que cette vague de contenus assemblés à la hâte et pilotés par l’IA pourrait avoir des effets néfastes sur les jeunes téléspectateurs. Pour David Bickham, directeur de recherche au Digital Wellness Lab du Boston Children’s Hospital, « de quelque chose qui est entièrement généré pour capter les globes oculaires, vous ne vous attendez pas à ce que cela ait un impact éducatif ou bénéfique ».

71 % des moins de 13 ans utilisent au moins une application sociale

Il faut une surveillance humaine significative de cette IA générative, dans laquelle les familles ne soient pas les seules responsables, entend-on… Mais pourquoi ne reviendrait-on pas au problème de base qui est l’accès à YouTube d’enfants aussi jeunes, qui peuvent avoir envie de regarder des vidéos pareilles ? Si l’inscription sur les réseaux sociaux est interdite aux moins de 13 ans, ils sont 71 %, d’après les résultats de l’étude Born Social 2023, à utiliser régulièrement au moins, une application sociale. Et YouTube est l’application la plus utilisée par cette tranche d’âge.

Les enfants disposent de leur propre smartphone de plus en plus tôt : 83 % des enfants de douze ans, en 2023, avaient leur propre matériel. Et, alors que l’usage de la grande majorité des plateformes est globalement en légère décroissance par rapport à l’année dernière, le taux des moins de treize ans ayant envie de passer plus de temps sur leur smartphone augmente, lui, sensiblement.

Une simple idée : retirez-leur leur smartphone.

Clémentine Jallais