Né en Syrie, vers 579, il reçut une solide éducation dans sa jeunesse, avant de devenir moine dès l’âge de 16 ans au mont Sinaï. Il s’y mit sous la direction d’un moine vénérable, Martyrios. Après la mort de celui-ci, quelques années plus tard, il se retira comme ermite à Tholas, au pied du Sinaï ; il y demeura jusqu’en 639, vénéré pour ses vertus et recherché pour la sagesse de ses enseignements.

En 639, après avoir visité les monastères d’Egypte, il fut désigné par les moines du monastère Sainte Catherine du Sinaï comme supérieur (higoumène), charge qu’il accepta malgré ses réticences à quitter sa retraite. C’est à cette époque qu’il rédigea ses principaux traités : L’Echelle des vertus (d’où vint son surnom, climax signifiant échelle en grec) et La Lettre au pasteur.

L’Echelle des vertus (ou L’Echelle sainte), traité destiné aux moines et à ceux qui aspirent à la perfection, décrit en 30 échelons, rappelant les 30 ans de la vie cachée de Jésus, les étapes de la vie spirituelle, la montée vers Dieu.

Peu de temps après, Jean renonça à sa charge pour retrouver sa vie d’ermite. Il mourut au mont Sinaï, vers 649.