En révélant l’existence de son système de reconnaissance faciale de dernière génération en 2014, le FBI annonçait que celui-ci comprenait 51 millions de photos, une affirmation aujourd’hui contredite par le GAO (Bureau de la responsabilité du gouvernement, l’organe d’audit du Congrès des Etats-Unis chargé du contrôle des comptes publics). Celui-ci constate que le système en question comporte 411 millions de photos, dont seulement 30 millions sont des clichés d’identification criminelle. Huit fois plus importante que le FBI n’a voulu l’avouer, la base de données assure un « fichage » de 90 % d’innocents.
 
Ces clichés de personnes sans lien avec une affaire pénale proviennent « du service des visas et passeports du Département d’Etat, de la banque de données biométriques du Département de la Défense, et des informations provenant de l’immatriculation des véhicules d’au moins seize Etats », selon Jennifer Lynch d’Electronic Frontier Foundation, une ONG internationale dont le but est la défense de la liberté d’expression sur internet.
 

Le système de reconnaissance faciale du FBI n’est pas infaillible

 
Le GAO considère le système du FBI inadapté, soulignant que son taux d’erreur n’a pas encore été correctement évalué, que la fiabilité des banques de données provenant des agences partenaires d’Etat et fédérales n’a pas encore été vérifiée et que les algorithmes de reconnaissance faciale ne sont pas considérés comme infaillibles.
 
Il considère également que le FBI n’a pas suffisamment informé les Américains des questions relatives à la protection de la sphère privée soulevées par l’existence de ce nouveau système. En outre le FBI, souligne le GAO, n’a accordé que trente jours pour la consultation publique prévue dans le cadre de sa demande de dérogation à la loi sur la vie privée alors qu’il cherchait à mettre en place un système de reconnaissance faciale.
 
Lynch lui accorde un « bon point », cependant : le FBI a décidé d’exclure les photos de source « civile » de la recherche algorithmique de base, ce qui signifie qu’elles ne sont introduites dans une procédure de recherche que lorsque celle-ci vise des personnes ayant déjà été arrêtées pour un délit.
 

90 % d’innocents victimes du fichage

 
Le rapport du GAO comprend un long développement sur ses échanges avec le Département de la Justice : ceux-ci ont abouti à la prise en compte de la moitié seulement des recommandations du GAO. Ainsi, le Département de la Justice défend le niveau de fiabilité du système de reconnaissance faciale du FBI, là où le GAO pointe ses failles, notamment le risque de ratisser des pans de population trop larges pour pouvoir amener à des identifications efficaces permettant de procéder à une arrestation.
 
Enfin, lorsque le GAO a fait remarquer que les diverses agences contribuant au stockage d’information pouvaient avoir une fiabilité inférieure à celle du FBI, le Département de la Justice lui a rétorqué qu’il y a « un intérêt à chercher dans toute base de données extérieure, quel qu’en soit le niveau de fiabilité », ce qui ne satisfait guère le GAO et probablement pas non plus les citoyens qui se préoccupent de leur « intégrité » électronique.
 

De la reconnaissance faciale au « délit de sale gueule »

 
Pour Ars Technica, les erreurs de reconnaissance faciale peuvent non seulement aboutir à un harcèlement de personnes considérées à tort comme suspectes, mais également détourner du temps et de l’énergie vers de fausses pistes. Le système du FBI ciblerait aussi exagérément les personnes de type afro-américain et s’est traduit par un échec flagrant lors de l’attentat du marathon de Boston, commis par deux Tchétchènes.
 

Patrick Neuville