Vue d’une certaine manière, l’IA est un esprit, elle n’a ni visage, ni voix, ni corps, ni nom, et pourtant beaucoup de gens, pas seulement aux USA, la voient « blanche ». C’est ce qui transparaît d’une récente étude publiée dans le Journal of Personality and Social Psychology. Et cela se traduit dans certains cas par une plus grande confiance pour les recommandations qu’elle (l’IA) émet. En outre, aux Etats-Unis, des IA dont on révèle qu’elles ont entraînées à partir de données issues d’adultes noirs et latinos se sont vu confier des tâches intellectuellement moins exigeantes que les mêmes entraînées à partir de données issues de personnes blanches. Cela indique une racisation de l’IA par les humains, qui projetteraient sur elle des stéréotypes sociaux qui leur sont familiers.
La racisation de l’IA, effet de l’anthropomorphisme
Pour les auteurs de l’étude, la racisation est le processus psychologique consistant à attribuer une identité raciale et les stéréotypes culturels qui y sont associés à une entité, une pratique ou un concept qui ne possède, par nature, aucune base biologique liée à la race. Ils se sont demandé si les chatbots ou les moteurs de recommandation, l’IA en somme, pouvaient être l’objet d’un tel processus, et la réponse est oui. C’est un effet de la tendance humaine à l’anthropomorphisme : dès lors qu’un individu considère un programme informatique interactif comme un partenaire social, son cerveau applique automatiquement les mêmes raccourcis mentaux que ceux qu’il utilise pour catégoriser les êtres humains, il le classe selon le genre, l’âge ou l’origine ethnique. On a découvert ainsi qu’aux Etats-Unis la couleur du végétarisme est blanche, et que cela réduit chez les adultes noirs le sentiment d’appartenance à la communauté végétarienne.
Des protocoles complexes garantissent le sérieux de l’étude
Les auteurs de l’étude, Gamez-Djokic et Waytz, ont monté un vaste protocole d’expériences, avec cinq études principales et huit études complémentaires. Pour donner une idée de la méthode, retenons la première. A un groupe numéroté 1a de 459 adultes américains blancs, noirs, asiatiques et latinos, on a demandé d’indiquer, à partir d’une liste prédéfinie de catégories raciales, le groupe racial ou ethnique qu’ils associaient à six items : l’intelligence artificielle (IA), un algorithme d’apprentissage automatique, un robot, un ordinateur, un agent conversationnel (chatbot) et un véhicule autonome. Puis on a posé la même question à un groupe analogue de 465 adultes, 1b, avec une réponse libre. Le groupe 1a a choisi la catégorie « blanche » pour les six items à 72 %. Et 75 % du groupe 1b leur ont attribué spontanément une couleur, et parmi ces 75 %, 71 % ont choisi la couleur « blanche ». Une étude complémentaire – incluant l’option explicite « aucune race » – a révélé que, lorsque les participants choisissaient une catégorie raciale, ils privilégiaient toujours celle de « Blanc ».
De Boston à Tokyo et Bombay, l’IA paraît blanche !
On va abréger car l’étude est vaste et fouillée, mais les résultats convergent tous, quel que soit le protocole de questions et quel que soit l’échantillon. Une étude n° 2 menée à Chicago a montré que l’IA était associée à la race blanche même quand rien ne posait la question de la race. « Ce qui m’a le plus surprise, c’est le peu d’informations dont les gens ont besoin pour raciser l’IA », explique Gamez-Djokic. Afin de déterminer si cette tendance constituait un phénomène strictement américain, l’étude 3 a porté sur des adultes anglophones vivant en Inde (147 participants) et au Japon (113 participants), de plus petits échantillons, donc. Au Japon, 82 % des participants ont classé l’IA dans la catégorie « Blanche », en Inde, 67 %.
Pourquoi l’IA est racisée blanche ? Des pistes
Pour Gamez-Djokic, « l’association entre l’IA et la “blancheur” était très marquée ; ce qui me semble particulièrement frappant, c’est la constance avec laquelle ce schéma est apparu, indépendamment des méthodes employées ou des contextes culturels ». Gamez-Djokic et Waytz avancent deux explications principales au fait que des systèmes d’IA abstraits puissent être spécifiquement perçus comme « blancs ». D’abord, dans les cultures occidentales, la « blancheur » fait souvent selon eux office d’identité par défaut, implicite, et se trouve associée à un statut social élevé, à une compétence technique et à l’intelligence : les stéréotypes liés à l’intelligence s’étendent aux technologies dites « intelligentes ». En somme la racisation de l’IA reflète les préjugés des sociétés. Deuxièmement, les auteurs postulent que les individus se forment leur opinion en considérant l’écosystème global entourant l’IA : ils imaginent les concepteurs du logiciel, ses utilisateurs, et ils les « voient » de couleur blanche. Voilà de quoi faire gamberger Mélenchon : l’IA aussi est racisée, et elle est blanche !











