Quand on parle des dangers de l’intelligence artificielle, on les impute généralement au fait qu’elle réussit trop bien, elle menace donc d’évincer l’homme, d’abord de ses emplois, puis du reste de la société. Mais elle présente aussi des dangers parce qu’elle échoue. En chirurgie par exemple. On attendait diagnostic infaillible et précision au cordeau de l’opération, c’est l’inverse qui arrive selon une dépêche de l’agence Reuters : depuis que les logiciels d’apprentissage automatique se multiplient à l’hôpital, le nombre d’erreurs et d’accidents chirurgicaux flambe. L’agence américaine du médicament (FDA) est désormais submergée par les signalements. Et le média belge 7sur7 dresse un tableau apocalyptique du système de navigation TruDi : conçu en 2018 pour guider les chirurgiens lors d’opérations délicates des sinus ou du crâne, il a été « dopé » à l’IA en 2021, et depuis c’est la cata ! Avant, il n’avait fait l’objet que de sept signalements mineurs en trois ans. Depuis l’intégration de l’algorithme d’apprentissage automatique, la FDA a reçu une centaine de rapports d’incidents entre 2021 et 2025. Et pas de la broutille. Au moins dix personnes ont été blessées à cause d’informations erronées sur la position des instruments chirurgicaux à l’intérieur de leur tête. Un patient a eu la base du crâne perforée. Un autre a vu du liquide cérébrospinal s’écouler par le nez. Deux patients ont même subi un AVC après qu’une artère majeure a été accidentellement lésée ! La chose est bien sûr portée en justice, au Texas notamment.