Né à Matera, dans le sud de l’Italie, vers 1070, dans une famille noble, il s’installa à Tarente où il demanda l’hospitalité aux moines basiliens de l’île San Pietro ; il y travailla comme berger pendant plusieurs années. Il vécut ensuite en Calabre puis en Sicile, pratiquant invariablement la pénitence et l’austérité, avant de s’installer à Ginosa, dans les Pouilles, où il fonda un monastère.

Très vite, il fut remarqué pour ses qualités de prédicateur et son intégrité, mais sa grande popularité excita des jalousies. A la suite de diverses accusations calomnieuses, il fut emprisonné, mais parvint à se libérer. Il rencontra alors saint Guillaume de Verceil à Bagnoli. Il décida ensuite de se rendre en Terre Sainte.

Cependant, sur sa route, Jean s’arrêta d’abord à Bari où il prêcha pendant quelques années, puis, vers 1130, à Pulsano, sur le mont Gargano, où il fonda une petite communauté bénédictine, qui compta bientôt 60 moines. Un deuxième monastère fut ensuite ouvert à Foggia où Jean mourut le 20 juin 1139. Alexandre III le canonisa en 1177.