La start-up d’intelligence artificielle de Google, DeepMind, vient d’annoncer la mise en œuvre d’un projet commun avec le National Health Service britannique. La « sécu » du Royaume-Uni a donné son accord pour communiquer les scans oculaires d’un million de patients de la NHS à DeepMind afin de permettre le dépistage précoce de la cécité. Tout cela est évidemment « pour leur bien », puisque la société d’intelligence artificielle estime pouvoir, grâce à ses algorithmes, détecter les signes de dégénérescence maculaire et de problèmes oculaires naissants liés au diabète.
 
Qui pourrait s’en plaindre ? Google veille en quelque sorte, alors que les Britanniques vivent dans la peur suscitée par de nouvelles prédictions statistiques assurant que la perte de la vision affectera deux fois plus de personnes en 2050 aujourd’hui au Royaume-Uni.
 

Le NHS transmet les scans oculaires d’un million de patients à “Deep Mind”

 
Mais le programme ne vise pas à avertir des patients des problèmes visuels qu’ils pourront personnellement rencontrer. Ce sont en fait des images oculaires accompagnées des diagnostics posés par les médecins et des données concernant l’âge et les affections éventuelles des patients qui seront analysées pour tenter de repérer des signes très précoces des risques de cécité liée au diabète et à la dégénérescence maculaire.
 
Il s’agit donc tout simplement d’un programme de recherche, certes au bénéfice possible de patients futurs, mais qui a été mis en place sans la moindre consultation des patients et sans demander leur autorisation pour ce partage de leurs données personnelles.
 
L’hôpital des yeux de Londres, Moorfields Eye Hospital, a annoncé la mise en œuvre du programme de recherche avec DeepMind en assurant que toutes les données personnelles seraient enlevées des fichiers de scan, tandis que l’un des fondateurs de la start-up, Mustafa Suleyman, a assuré que sa société sera soumise à des « examens très rigoureux » pour assurer le respect de la vie privée. Elle s’est engagée à n’utiliser les données qu’en vue de la recherche elle-même – et à les vendre seulement si Moorfields y consent. La porte est déjà ouverte.
 

La start-up d’intelligence artificielle de Google s’intéresse aux malades

 
Suleyman a également affirmé que « dès le départ », il a été décidé « qu’à aucun moment les données des patients ne seront mises en lien ou associées avec des comptes, produits ou services Google ».
 
On se demande jusqu’où peut aller un tel engagement lorsqu’on sait que l’image du fond de l’œil, à l’instar de l’empreinte digitale, permet d’identifier un individu.
 
DeepMind et le NHS se sont déjà trouvés au cœur d’un scandale il y a deux mois lorsque les services de santé britanniques lui ont fourni des dossiers médicaux d’1,6 million de patients en vue de créer un système d’alerte visant au dépistage futur des personnes présentant des risques d’affections rénales. Les données permettant d’identifier les patients avaient été cryptées et Google s’était engagé à ne pas les utiliser à des fins commerciales. Là encore tout s’était passé à l’insu des patients dont les données les plus sensibles avaient été partagées sans leur consentement.
 
Ce précédent accord entre DeepMind et le Royal Free London NHS Foundation Trust avait été révélé par The New Scientist en avril dernier. On avait alors découvert que la société d’intelligence artificielle avait obtenu le transfert de données très étendues : entrée à l’hôpital, date et dossier de sortie, précisions sur les accidents et les urgences, la pathologie, la radiologie et la réanimation, mais aussi histoire médicale. Ainsi les dossiers transmis comportait-t-il des données très sensibles : séropositivité, antécédents dépressifs, avortement éventuel. La transmission de données a donné lieu à une plainte et à des demandes d’anonymisation et de cryptage. Cela n’a pas empêché la mise en place du nouveau projet – la seule différence étant que cette fois, Google a pris les devants sur le plan de la communication.
 

Les Britanniques scandalisés par le partage des informations médicales par le NHS

 
Mais les récents scandales relatifs aux données bancaires, fiscales et autres informations sensibles, tout comme les capacités des pirates ou le zèle des héros de la « transparence » comme Wikileaks montrent les limites de telles protections.
 
Quelle que soit l’utilité des données statistiques récupérées en vue de mieux diagnostiquer des maladies, elles peuvent être également du plus haut intérêt pour les assureurs, les employeurs, les services de santé étatisés, voire pour la surveillance.
 
Par ailleurs, DeepMind fait partie des entreprises de pointe dans la recherche sur l’intelligence artificielle. Elle a déjà créé un réseau neuronal artificiel capable de jouer aux jeux vidéo de la même manière que les êtres humains, et un ordinateur « sachant » mimer la mémoire courte humaine. C’est un ordinateur DeepMind qui a réussi l’exploit de battre un joueur en chair et en os au jeu stratégique de go. L’objectif de la société est de « résoudre l’intelligence », non seulement pour obtenir des applications informatiques mais pour « comprendre » le cerveau humain.
 

Anne Dolhein