L’agence de presse britannique Reuters note que, dans le monde entier, les autorités de régulation bancaire s’appliquent à maîtriser les risques liés à l’IA. Les agents IA étant de plus en plus utilisés par les banques, et au regard du développement débridé des IA, ces autorités de régulation s’interrogent sur les limites imposées aux systèmes d’IA, les contrôles de leurs actions et décisions, les mesures de protection visant à empêcher les IA d’outrepasser leurs compétences, le maintien d’humains pour les décisions clefs…

Il s’agit aussi de savoir si les banques seraient à même de désactiver les systèmes autonomes en cas de problème, et notamment si elles sont capables d’arrêter et de redémarrer rapidement les systèmes, et de manière contrôlée.

Il apparaît toutefois que d’importantes lacunes subsistent dans certaines banques. Sukand Ramachandran, directeur général et associé senior au Boston Consulting Group, souligne qu’« une attaque grave pourrait empêcher certains clients d’accéder à leurs comptes et perturber les paiements à l’échelle de l’économie dans son ensemble ».