Quatre-vingt pour cent des dirigeants d’entreprises conviennent que dans les deux ans l’Intelligence artificielle (AI) travaillera aux côtés des humains comme assistant, collaborateur ou conseil. Emma Kendrew, responsable de l’AI chez Accenture, conseil en management, relève qu’il ne s’agit pas de science-fiction : « Déjà, Spotify fournit des listes de vidéo personnalisées par l’AI ; à San-Francisco, Stitch Fix propose les tenues vestimentaires des clients grâce à l’AI ; des outils d’AI assistent les décisions de remboursement de la société d’assurance chinoise Ant. Mais ce Graal de l’automatisation mentale et du scientisme totalitaire paraît créer autant de problème à résoudre qu’il prétend en résoudre.
 

Les dépenses des grandes entreprises en AI croissent de 54 % par an

 
Les prévisions d’IDC, analyste des marchés, indiquent que les dépenses en AI des multinationales auront crû à un rythme annuel de 54 % entre 2015 et 2020. « De quoi modifier notre façon de travailler et de vivre, la façon que nous avons de communiquer, la façon d’échanger entre entreprises et entre personnes et même la façon dont sont constituées nos structures de commandement », poursuit Emma Kendrew. Elle ajoute cette remarque, sommet d’anthropomorphisme : « Si l’AI doit prendre un rôle primordial dans nos vies, elle doit se comporter comme un membre responsable et actif de la société. »
 
« Plus conviviaux et plus efficaces que jamais », s’extasie Emma Kendrew, les « réseaux neuronaux profonds » donnent à l’AI la capacité d’apprendre et d’exécuter une tâche, et de résoudre des problèmes sans avoir besoin d’instructions préalables. « L’AI peut être vraiment instruite et peut couvrir un répertoire quasiment illimité », s’enflamme notre admiratrice. Qui se garde d’évoquer les économies que pourront réaliser les entreprises sur leurs charges sociales par remplacement des humains salariés par des machines, ni les bénéfices gigantesques promis aux concepteurs et constructeurs de machines dotées d’intelligence artificielle. Le monde techno-marchand est une perpétuelle course à l’appropriation de la valeur.
 

Pour faire accepter l’AI, « lui faire comprendre le bien et le mal »

 
Tout au plus notre responsable chez Accenture, qui semble avoir cédé sa plume à un robot pour rédiger son panégyrique, demande que les logiciels d’intelligence artificielle dotés de la faculté d’apprentissage puissent « promouvoir et comprendre le bien et le mal », puissent « se comporter de manière responsable » et « transmettre le savoir de façon impartiale ». Vaste programme, d’autant qu’il faudra s’entendre sur ce qui est bien et ce qui est mal. « Quand nous disons que l’AI doit être digne de confiance, nous disons en fait que l’entreprise qui la crée ou l’emploie doit être digne de confiance », ajoute Emma Kendrew. Et, emportée par la mégalomanie techniciste, leurre d’un homme-dieu recréant l’homme, Mme Kendrew nous promet qu’au sommet de son évolution, l’intelligence artificielle « deviendra son propre enseignant », comme l’AlphaGo Zera de DeepMind a pu s’auto-enseigner le jeu de Go sans connaître auparavant aucune de ses règles, parvenant en quelques jours à battre l’un de ses prédécesseur dans l’AI à cent jeux à zéro.
 
Faire jouer les machines au jeu de Go ensemble paraît éblouissant mais on oublie de dire ce que feront les humains pendant ce temps. Le diagnostic prédictif automatique est séduisant, mais fait l’impasse sur la relation humaine fondamentale entre le patient et son médecin. Qu’importe, il va falloir s’y faire.
 

L’intelligence artificielle doit « se soumettre aux exigences de clarté » malgré les contre-exemples de Google ou Facebook

 
« Il est important que les employés et les clients comprennent les principes généraux présidant aux décisions prises en fonction de l’AI, particulièrement quand les enjeux sont importants ou que ces décisions ont des répercussions sur la santé, la fortune ou les accès aux produits et services », énumère Mme Kendrew, qui veut « ouvrir la boîte noire ». « Les compagnies doivent entraîner leur AI à fournir des explications claires, à garantir leur transparence avec droit de question et droit de réponse afin que la décision soit juste et fiable », édicte-t-elle, alors qu’aujourd’hui Google ou Facebook sont des caricatures d’arbitraire et d’opacité. Et d’ajouter une liste d’obligations incluant la solidité des données de base utilisées par l’AI, faute de quoi les conséquences seront exponentiellement désastreuses.
 
Mme Kendrew nous sert aussi les garanties légales, telles celles du Règlement général de protection des données (GDPR) de l’Union européenne, pavé juridique qui sera appliqué en mai 2018, qui est censé garantir un « droit à l’explication » face aux décisions prises par l’AI, un droit à l’oubli et qui responsabilise l’organisme utilisateur. Le gouvernement allemand a exigé que les voitures autonomes, face à un accident inévitable, préfèrent les dommages matériels aux dommages corporels.
 

Un logiciel d’AI a pris un homme pour une femme car il se tenait près d’un cuisinière

 
Mais la question de l’effet exponentiel d’une erreur de programmation ou d’interprétation de données demeure. L’AI reste dépourvue de ce qui fait l’essence de l’action humaine : le bon sens. Ainsi quand des chercheurs de l’Université de Virginie ont soumis une série de photos à un programme d’AI afin qu’il identifie les sujets, le logiciel a exagéré les éléments de genre au point qu’il a identifié comme femme un homme qui se tenait près d’une cuisinière.
 
Faute d’intégrer tous ces éléments à leurs logiciels d’AI, les entreprises devront faire face à une législation toujours plus abondante afin de les encadrer ce qui, déplore Mme Kendrew, « limiterait alors leur potentiel à résoudre nos problèmes ». Mais quelle machine peut résoudre les « problèmes » de l’humanité ? A force, Mme Kendrew semble donner raison à Philippe Muray, qui estimait que « la dimension fondamentale de la science est la paranoïa ». Ce qui est contre l’entendement.
 

Matthieu Lenoir