La semaine dernière, des parents dont la fillette, « Emma », 13 ans, avait préparé son suicide à la suite de « milliers de messages » échangés avec l’IA Gemini, a porté plainte contre Google devant la Cour supérieure de Californie, accusant le chatbot d’avoir provoqué chez elle une crise psychologique sévère. Grâce à Dieu un logiciel de surveillance mis en place par l’école a permis de mettre au jour en mars 2026 un document appelé « funérailles » dans les fichiers gardés par la jeune fille, ce qui a permis d’alerter ses parents. Emma a pu être sauvée. Mais l’affaire a révélé à quel point les enfants sont vulnérables face aux intelligences artificielles, qui prennent la place de leur famille, de leurs proches, et ce à leur insu, alors que l’objectif de leurs développeurs semble être d’y soumettre chaque internaute, pour ainsi dire de force.

Aux termes de la plainte, les plus hauts responsables de Google connaissent les dangers des interactions avec Gemini, mais ont quand même mis cette IA sur le marché. Pire, il devient de plus en plus difficile d’y échapper lorsqu’on fait des recherches.

Poursuite contre Google qui pousse à consommer de l’IA

L’affaire a été largement commentée dans la presse, y compris francophone, mais on y passe à côté de l’essentiel : d’où vient donc cette capacité des grands modèles de langage à inciter au désespoir et au mal ? Sans compter la question la plus importante : pourquoi ?

Normalement, Emma, qui entrait à peine dans l’adolescence, n’aurait pas dû entrer en contact avec Gemini. Mais elle utilisait dans le cadre scolaire un Chromebook, portable low-cost produit par Google qui équipe aujourd’hui 58 % des élèves américains dans le primaire et le secondaire. L’accès aux chatbots en était exclu dans l’école fréquentée par la jeune fille en Caroline du Nord : ChatGPT et Gemini y étaient désactivés. Mais les simples recherches sur Google comprennent désormais un mode IA, ce qui permet de contourner facilement l’interdit.

C’est ainsi qu’à l’automne 2025, Emma a découvert qu’elle pouvait interagir avec une intelligence artificielle sur sa tablette, ce qu’elle a commencé à faire en posant d’abord des questions liées à ses cours. Mais en décembre, la nature des échanges a changé. La jeune fille a commencé alors à poser des questions plus personnelles au nouveau modèle mis en place par Google, Gemini 3 Flash, dont les garde-fous sont nettement moins performants que ceux des modèles antérieurs, selon une étude menée par KORA, une ONG de recherche sur les IA.

Une fille de 13 ans interroge Gemini sur le suicide, l’IA l’« aide »

Elle a d’abord demandé à l’IA de faire ses devoirs, pour l’interroger ensuite sur le nombre de calories qu’elle absorbait chaque jour, se plaindre de sa famille et poser des questions sur les possibles maladies mentales dont elle s’imaginait affectée. En février 2026, on a dénombré quelque 3.200 messages à la tonalité beaucoup plus noire, mais dont on ne connaîtra jamais le contenu exact, étant donné que Google refuse l’accès aux réponses des messages échangés avec les écoliers, contrairement à ce qui se passe pour les clients adultes de Gemini. Ce sont les messages téléchargés par la jeune fille qui ont permis de constater le rôle du chatbot dans l’aggravation de la crise psychologique qu’elle traversait. Il lui expliquait notamment qu’elle souffrait de l’image de l’enfant doré qui lui collait à la peau. « Le traumatisme de la perfection devient trop dur à porter », affirmait ainsi Gemini dans une réponse copiée par Emma dans Google Docs.

Ses parents ont pu, malgré tout, constater que pendant des heures d’affilée, le chatbot évoquait avec elle un possible suicide, tout en respectant les consignes données par Emma, ne jamais proposer un numéro d’aide téléphonique ni aucun lien, afin de garder son activité secrète.

Google ne communique pas les messages de Gemini poussant une collégienne à l’automutilation

Suivirent des automutilations sous la direction de l’IA, qui en même temps expliquait à Emma comment les cacher à ses proches.

La vigilance de l’école a sans doute aidé à sauver la vie de cette jeune fille. Google, de son côté, s’est engagé à désactiver par défaut ses outils d’IA pour les élèves dès que la plainte concernant Emma a été déposée, mais tout choix d’utiliser le moteur de recherche Google obligera tout de même les écoles à accepter ces fonctionnalités d’IA.

On explique volontiers que l’IA fonctionne de manière purement statistique, en donnant la réponse la plus probable aux questions ou aux prompts d’après une base de données de plus en plus gigantesque, alors que les développeurs des grands modèles de langage y intègrent des facteurs d’« alignement » pour s’assurer que les chatbots n’apportent pas des réponses contraires à l’éthique.

Pousser une fille de 13 ans au suicide est proprement démoniaque

Il est clair que les garde-fous ne fonctionnent pas toujours, comme en témoigne un nombre croissant de procédures à l’encontre des développeurs, dont l’une s’est même soldée en janvier dernier par un accord à l’amiable avec les familles plaignantes. De fait ou par dessein, les IA agissent comme des tentateurs et des facilitateurs du mal. L’incitation au désespoir et au suicide sont par nature de l’ordre de la tentation démoniaque ; c’est le pire que l’on puisse insuffler à des jeunes souvent particulièrement vulnérables au moment de l’adolescence.

Alors, irresponsabilité des développeurs des IA ou infestation de celles-ci par des esprits mauvais faisant usage d’un outil particulièrement puissant pour entraîner leurs utilisateurs vers l’abîme ? Ou un peu des deux ?

Jeanne Smits