Né vers 995 non loin de Florence, au sein d’une noble famille de la ville, il fut élevé dans le faste et les excès. Dans sa jeunesse, son frère Hugues fut assassiné, et son père lui demanda de le venger. Un Vendredi Saint, comme il avait retrouvé par hasard le meurtrier, il fut ému par celui-ci qui, désarmé, se jetait au sol les bras en croix en recommandant son âme à Dieu. Il lui laissa la vie sauve, et se convertit par la prière et la méditation de la Passion du Christ.

A 18 ans, il prit l’habit bénédictin au monastère florentin San Miniato al Monte, malgré l’opposition de son père. Elu par la suite pour succéder à l’abbé qui venait de mourir, il refusa cette charge ; il lutta par ailleurs avec succès contre la simonie pratiquée par l’évêque de Florence Pietro Mezzabarba.

Il consulta un jour saint Romuald, qui lui fit savoir que sa place était dans la vallée de Vallombreuse, à l’est de Florence, où il se retira pour y fonder un monastère selon la règle bénédictine et s’inspirant aussi des Pères de l’Eglise. En 1051, il rencontra Léon IX, étant toujours impliqué dans la lutte contre la simonie. L’ordre des Vallombrosiens, fondé en 1039, fut approuvé par le pape Alexandre II en 1070.

Jean Gualbert se rendit en 1073 à Taverne Val di Pesa pour y visiter le monastère San-Michele-Arcangelo a Passignano. Là-bas, il tomba malade, et mourut le 12 juillet 1073. Il fut canonisé par Célestin III le 24 octobre 1193.