C’est une vidéo interne de 2016 de la société Google qui a fuité dans The Verge. Elle a été réalisée par Nick Foster, responsable de la conception à X (anciennement Google X) et co-fondateur du Near-Future Laboratory (« laboratoire du futur proche »), afin de nourrir la réflexion au sein de la compagnie californienne. Comparant les données d’un utilisateur à son génome, Nick Foster explique comment la combinaison de l’intelligence artificielle et de l’accès à de multiples sources de données, à commencer par celles recueillies par les smartphones, peut permettre d’influencer le comportement d’une personne mais aussi de la société toute entière. Pour Foster, l’étude de l’épigénétique (étude des mécanismes modifiant les gènes de manière transmissible), des mécanismes héréditaires et des mimétismes et leur utilisation dans le domaine des données utilisateurs n’en est qu’à ses débuts mais va permettre d’améliorer le sort « de cette génération, des générations futures et de l’ensemble de l’espèce ». Il apparaît donc que l’on nourrit chez Google des rêves d’ingénierie sociale orchestrée depuis la Silicon Valley !
 

Avec l’accumulation des données collectées sur les utilisateurs, Google acquiert la capacité d’influencer les comportements

 
Parmi les exemples avancés dans la vidéo, des applications de smartphone accompagnant l’utilisateur dans la poursuite d’un but et lui proposant des actions concrètes qui « refléteraient les valeurs de Google en tant qu’organisation », comme la proposition d’un mode de transport plus écolo quand on cherche un chauffeur Uber ou la suggestion d’une épicerie particulière avec des produits locaux. Par l’interaction entre l’utilisateur et son téléphone, les données seront accumulées dans un « grand livre » qui permettra au système informatique de faire des suggestions de plus en plus ciblées. Certaines pourront même viser à compléter les données manquantes. Ainsi, si le poids de l’utilisateur est inconnu de la machine, il sera possible de lui proposer l’achat d’un pèse-personne dont le design sera d’emblée choisi sur la base des achats passés de cet utilisateur. Et avec le développement des technologies d’impression en 3D, pourquoi ne pas imaginer que l’on entende un jour, en rentrant chez nous, une voix nous dire : « Bienvenue à la maison, je t’ai justement fabriqué un pèse-personne. » ?
 
Le système imaginé par l’ingénieur de Google chercherait ainsi à combler les lacunes en matière d’informations sur l’utilisateur et à affiner progressivement son modèle comportemental. La mise en commun des modèles individuels permettra ensuite de mieux prévoir « non seulement votre comportement ou le mien, mais celui de toute l’espèce humaine ». Foster parle de séquençage des données sur les comportements humains comme l’on a séquencé le génome humain, ceci afin de faire des prévisions toujours plus précises sur les décisions prises par chacun. « À mesure que les cycles de collecte et de comparaison s’étendront », continue Foster, « il pourrait être possible de développer une compréhension à l’échelle de l’espèce de problèmes complexes comme la dépression, la santé et la pauvreté ».
 

L’ingénierie sociale grâce aux nouvelles technologies de collecte des données et d’intelligence artificielle, une vision partagée par la Silicon Valley et la Chine communiste

 
Un porte-parole de X contacté par The Verge a expliqué qu’il s’agissait uniquement d’une réflexion destinée à « provoquer une discussion et un débat » et que cette réflexion « n’est pas liée à des produits présents ou futurs ». Néanmoins, fait remarquer The Verge, cette réflexion va dans le sens de l’évolution récente de Google qui cherche à en savoir toujours plus sur ses utilisateurs pour leur faire des suggestions en fonction de leurs déplacements et de leurs habitudes.
 
En outre, ce que ne dit pas The Verge, cette vision exposée en Interne chez Google des possibilités données par la combinaison du Big Data et de l’intelligence artificielle ressemble fort à la vision des communistes chinois pour donner un nouveau souffle au communisme. Et cela rend cette réflexion encore plus inquiétante.
 

Olivier Bault