L’Union européenne teste un programme informatique « détecteur de mensonges » impliquant des logiciels d’intelligence artificielle (AI) pour le contrôle de ses frontières aux aéroports : « iBorderCtrl ». Ses concepteurs présentent ce système comme apte à reconnaître si une personne est sincère quand elle lui répond, et à signaler celles qui ne le sont pas. Une fois qu’un individu est identifié comme « menteur », des agents humains sont mobilisés pour confirmer ou non ses réponses. Mais pour Tristan Greene, spécialiste de ces questions d’intelligence artificielle pour thenextweb.com, cette innovation de l’UE « constitue soit une douce berceuse, soit le début d’un avenir apocalyptique menant tout droit au cauchemar orwellien ». Car derrière le détecteur de mensonges se cache un système de collectes de données à visée totalitaire.
 
Si l’on estime qu’il suffit de demander à chacun « s’il est un terroriste » et qu’ainsi on va faire de l’UE un espace « plus sûr pour chacun », alors on est prêt à accepter ce détecteur de mensonges piloté par l’intelligence artificielle. « Or tout cela est faux », tranche Tristan Greene, même si cette opinion « est une erreur banale ». Comme tous les détecteurs de mensonges, ce système basé sur l’AI est fondé sur des hypothèses invérifiables, accompagnées de ce que les autorités considèrent comme une marge d’erreur admissible. Un détecteur de mensonges classique, par exemple, est supposé avoir un taux de certitude situé entre 75 et 90 %. En fait, il ne détecte pas le mensonge mais les signaux subtils qui l’accompagnent.
 

Le détecteur de mensonges iBorderCtrl cible les indicateurs biométriques… mais va plus loin

 
Il en va de même pour l’intelligence artificielle. L’AI ne détecte pas le mensonge, qui est relatif à la conscience que l’homme en a, conscience que la machine n’a pas. L’intelligence artificielle détecte des indicateurs biométriques associés au mensonge, avec un taux de réussite d’environ 76 %. Les trois-quarts. Mais le nouveau système va plus loin, bien plus loin qu’un simple harcèlement des étrangers dans les aéroports. Car ce détecteur de mensonges basé sur l’AI n’est que la partie émergée de l’iceberg. Avec lui, la détection s’accompagne d’un vol organisé de données concernant le voyageur contrôlé. D’ailleurs, le projet européen n’est pas dénommé « détecteur de mensonge » mais « iBorderCtrl ». Car la détection du mensonge n’est qu’une petite partie de son objet.
 
Premier élément composant « iBorderCtrl », l’ADDS, pour « Automatic Deception Detection System », qui traque les comportements non-verbaux de la ruse. Les concepteurs de cet ADDS remplissent leur argumentaire d’éléments sur ce « non-verbal ». C’est l’arbre qui cache la forêt car on n’avait pas besoin de ce « bond en avant » que constitue l’AI pour cela. En fait, l’ADDS est un détail de l’histoire, l’élément dont on vous rebat les oreilles pour vous faire oublier le reste. Car « iBorderCtrl » est un système de collecte froide et systématique de données, et c’est ce en quoi il est effrayant.
 

iBorderCtrl enregistre le visage, la voix, collecte les données des réseaux sociaux

 
Tout le reste d’« iBorderCtrl » se rapproche en effet du « profilage de personnalité » que Cambridge Analytica utilise pour obliger les gens à céder leurs données personnelles. Qu’aurait-on à perdre devant un détecteur de mensonges si l’on n’a rien à cacher ? « La réponse est que vous avez beaucoup de choses à cacher, que vous mentiez ou non », répond Tristan Greene. Or que fait le nouveau système européen ? Voici une liste, qui risque de vous refroidir.
 
« iBorderCtrl » enregistre la forme du visage en enregistrant vidéo et une photographie. Il va chercher dans tous vos profils sur les médias sociaux. Il analyse votre signature et vos documents d’identité. Il stocke votre empreinte vocale. Et il évalue votre « risque » en se basant sur vos données agrégées. Il recherche enfin les « personnes dissimulées », terme désignant des individus recherchés dans d’autres contextes que celui de l’aéroport concerné.
 

Grâce à l’AI, iBorderCtrl est un système de surveillance total

 
« iBorderCtrl » est donc une gigantesque banque de données et un système de surveillance total qui se révèle bien plus puissant que le système installé par Donald Trump – le cauchemar des européistes « libéraux » – à la frontière Etats-Unis-Mexique. Notons qu’iBorderCtrl a refusé de répondre aux questions posées par thenextweb.com.
 
La quantité d’informations que l’UE va pouvoir récolter par ce système hypocritement présenté comme un simple détecteur de mensonge, et qui iront de l’identité sexuelle aux convictions politiques et religieuses grâce aux collectes sur les réseaux sociaux, va permettre à ses fonctionnaires de cibler les personnes avec une précision de laser. L’Union européenne, devenue prison des peuples, est en passe d’emprisonner ses citoyens dans les filets de son contrôle total.
 
Matthieu Lenoir