Cela devait arriver. Il y avait déjà des vendeuses, des influenceuses, des petites amies virtuelles toutes mieux les unes que les autres, des avatars aux petits soins de leur public toute la journée, il y aura maintenant le député virtuel sans défaut, Steve – enfin, pas tout à fait : Steve Endacott existe bien. Il est candidat travailliste aux législatives au Royaume-Uni le 4 juillet et, s’il est élu, il a promis de siéger en chair et en os au parlement britannique. Mais il utilise l’intelligence artificielle pour faire campagne et conquérir ses électeurs, écouter jour et nuit leurs questions et doléances, que l’intelligence artificielle synthétise en permanence, et, pour montrer son respect sans faille de la démocratie, il suivra à la lettre ce qu’elle lui recommandera. Tout cela est transparent et déborde de bonne volonté apparente, mais, au bout du compte, si les Steve Endacott se multiplient, c’est tout simplement l’intelligence artificielle qui gouvernera le monde. Le mouvement est en marche. A fond les manettes.

L’intelligence artificielle va conquérir les cœurs

Bien sûr, tout à l’idée de conquérir les cœurs, Steve Endacott jure que sa candidature n’a que des bons côtés et des avantages. Il a remarqué comme tout le monde que la participation baisse parce que le peuple a le sentiment que les élus ne l’écoutent pas, ils sont déconnectés de la réalité. Avec l’intelligence artificielle, ça va changer ! Elle est connectée sept jours sur sept, à l’écoute H 24. Et elle n’est jamais fatiguée, jamais en colère, jamais déprimée, elle n’est sujette ni à la corruption ni aux scandales sexuels, elle peut tenir dix mille conversations en même temps sans se doper, elle a répondu à 200.000 sollicitations la première semaine, elle a tout noté sans rien oublier, elle dessine son programme politique au fur et à mesure en fonction des soucis et desiderata des électeurs, c’est un referendum non-stop. Un modèle de démocratie directe. Steve est enthousiaste : « Nous utilisons l’IA pour impliquer plus de gens dans les décisions, explique-t-il. Ce n’est pas l’IA qui prend le contrôle du parlement ou du gouvernement, c’est le contraire. C’est se servir du pouvoir de l’IA, pour m’aider en tant que député à rester en contact, tous les jours, avec plus de collaborateurs. » Son slogan : « Une politique pour le peuple, élaborée par le peuple », l’intelligente artificielle étant présentée comme un simple moyen de synthèse.

Pas de mandat impératif en démocratie

C’est d’ailleurs comme cela que la conçoit la Commission d’éthique britannique. Elle a exigé que Steve Endacott, l’être humain élu, suive à la lettre les choix politiques que lui dictera l’intelligence artificielle s’il est élu. Cela soulèvera des difficultés pratiques de surveillance et une question juridique de principe, les députés, selon la loi, n’ayant pas de mandat impératif (« tout mandat impératif » est nul, dit en France l’article 27 de la Constitution) : cela veut dire que le député élu se détermine librement, il n’est pas le porte-parole de ses électeurs, le représentant d’intérêts locaux ou catégoriels mais celui du pays. Autrement dit, il n’exprime pas l’opinion de ses électeurs, il fait ses choix en fonction de l’intérêt général tel qu’il le perçoit : ce ne sera pas le cas de l’intelligence artificielle dans le cas de Steve, car elle n’aura pas fait la synthèse des volontés de tous les Britanniques, mais seulement de ceux des électeurs de la circonscription de M. Endacott qui auront bien voulu lui parler. La Commission d’éthique a donc « exigé » quelque chose de contraire aux règles fondamentales de la démocratie.

Plus encore que la démocratie, c’est l’âme qui est menacée

Et une première objection saute aux yeux : si l’intelligence artificielle écoute les électeurs, ne peut-elle prendre le contre-pied des convictions du député qui l’actionne, et voter, par exemple, pour des lois limitant l’immigration de façon draconienne ? Mais la vraie question n’est pas politique, elle est éthique, philosophique, religieuse. Pourquoi l’intelligence artificielle est-elle ici souhaitée ? Parce qu’elle est censée supprimer la faiblesse humaine et l’erreur humaine. Et il est vrai que l’homme peut se tromper, il en a le droit et l’exerce souvent. Mais supprimer mécaniquement l’erreur humaine revient à supprimer le libre-arbitre. D’autre part, on fait aussi la chasse à ce que certains nomment le hasard, et qu’un chrétien nomme Providence. Enfin, on le fait au nom des « vérités » purement « humaines » dont on a nourri l’intelligence artificielle, autrement dit, on soumet le parlement, le gouvernement des hommes, la démocratie, aux croyances et idéologies du moment. Cela, dans le meilleur des cas. C’est-à-dire à condition qu’il n’existe nul biais volontaire, nulle prise de pouvoir par quelque chose ou quelqu’un. Le cas contraire pourrait déboucher sur la catastrophe.

L’intelligence artificielle, machine à conquérir le monde

Un film de science-fiction réalisé par Joseph Sargent en 1970 en donne une idée. Il a pour titre Le cerveau d’acier (en américain, Colossus: The Forbin Project). Au temps de la guerre froide, un scientifique américain, Forbin, construit une intelligence artificielle, Colossus, pour mettre l’arme nucléaire à l’abri de l’erreur humaine. A peine en service Colossus détecte une intelligence artificielle semblable en URSS, Guardian. Elles échangent des messages, d’abord compréhensibles pour les scientifiques des deux bords, puis peu à peu incontrôlables, et, quelques bombes plus tard, décident de fusionner pour gouverner le monde en lui épargnant les erreurs humaines que sont les guerres, la famine, la maladie et, déjà, la surpopulation (le changement climatique manque). La morale de la fable est claire. On peut objecter qu’il n’existe aujourd’hui aucune intelligence artificielle indépendante de l’homme, que tout est maîtrisé. Mais deux questions se posent : jusqu’à quand ? Et par qui ? Questions angoissantes, déjà dépassées peut-être, tant le mouvement qui pousse à l’Intelligence artificielle est universel, en Russie, Chine, Inde, Europe, Amérique, et encore moins facile à maîtriser que celui des armements. Le pape François avait raison de parler de « rapidación » : il va de plus en plus vite, et l’on se prend à craindre qu’il ne le retienne plus.

Pauline Mille