Un pas de plus, inquiétant, vers l’autonomisation de la machine par l’intelligence artificielle. Une équipe de Google Brain, menée par les chercheurs Martin Abadi et David G. Andersen, est parvenue à faire élaborer un message cryptographié par une machine, Alice, à le faire décrypter par une autre, Bob, sans qu’une troisième, Eve, ne parvienne à le déchiffrer après l’avoir intercepté. Alice et Bob bien sûr partageaient une clé de décryptage secrète. Particularité de ce montage : aucune intervention humaine n’a été nécessaire. L’élaboration de l’algorithme de cryptage a été réalisée en toute autonomie par les machines.
 
Les deux cerveaux artificiels sont donc parvenus à apprendre à communiquer sans qu’aucune compréhension extérieure ne soit possible. Certes la méthode a nécessité du temps pour réussir. Certains échanges se sont révélés de véritables flops. Mais les deux machines ont poursuivi leur apprentissage, jusqu’à ce que Bob et Alice parviennent à maîtriser complètement leurs algorithmes. A partir de ce moment-là, la capacité d’Eve à « craquer » la cryptographie a cessé.
 

Sous la houlette de Google, les machines inventent leur algorithme de cryptographie

 
Les chercheurs expliquent que Bob et Alice ont déployé une capacité étonnante à partager leurs informations cryptées et que certaines de leurs solutions se sont révélées singulièrement surprenantes et inattendues. Les deux machines ont utilisé des calculs tout à fait inhabituels, que l’on ne rencontre pas dans les systèmes de cryptage imaginés par des hommes.
 
Il est important de souligner que ces cerveaux artificiels n’ont pas reçu de consigne humaine concernant la méthode de chiffrement ou la technique de cryptage à utiliser. On leur a simplement imposé une « fonction de perte », qui mesure l’écart entre le résultat attendu et celui obtenu. Dans le cas d’Eve, l’interceptrice, la fonction de perte était la différence, mesurée en bits corrects et incorrects, entre le texte de l’envoi originel d’Alice et son interprétation. Pour Alice et Bob, la fonction de perte était un peu plus complexe : si l’interprétation de Bob (toujours mesurée en bits) était trop éloignée du texte originel expédié, il était en échec ; pour Alice, si l’interprétation d’Eve était meilleure qu’une interprétation aléatoire, il était également échec
 

Un cryptage qui fait communiquer l’intelligence artificielle en dehors de l’homme

 
Abadi et Anders en concluent que ce type de réseau neuronal peut parfaitement apprendre à protéger ses communications dès lors qu’on enjoint à Alice, l’émetteur, de donner la priorité absolue au secret de l’échange. Ils se félicitent ainsi que le secret puisse être obtenu sans que l’intervenant humain ne prescrive tel ou tel algorithme de cryptage. Là est l’essentiel de l’autonomisation de la machine face à l’homme. Espoir ou effroi ?
 
Mais il y a plus à venir. L’expérience ne se limitera pas à un simple encodage-décodage de données. Les chercheurs expliquent que leur tâche désormais est de parvenir à dissimuler des données dans d’autres systèmes d’échanges : stéganographie et clé publique. A la question de savoir si Eve, la machine interceptrice, pourrait dans cette configuration se poser en adversaire de bon niveau, les chercheurs ont répondu : « Il paraît peu probable qu’un réseau neuronal atteigne le niveau d’un décrypteur imparable. Pour autant, il pourrait être efficace pour valoriser des métadonnées et analyser des flux importants de trafic numérique. »
 
Quant à l’homme, dans tout cela, il est implicitement prié de s’occuper de ses affaires.
 

Jérôme Noël