Il naquit en 439 à Mutalasque, non loin de Césarée de Cappadoce ; très jeune, vers l’âge de huit ans, il entra au monastère de Flaviana. Quelques années plus tard, il obtint de son supérieur l’autorisation de partir en pèlerinage à Jérusalem. En Terre sainte, il devint disciple du moine Théoctiste et, à la mort de ce dernier, il se fit ermite.

Rejoint par de nombreux disciples, il vécut pendant plusieurs années entre la solitude du désert et la communauté. Plus tard, il se retira dans une grotte où il vécut comme anachorète brouteur, c’est-à-dire qu’il se nourrissait exclusivement de plantes et de racines crues, pendant plusieurs années.

Après cinq ans de cette vie, il fut convaincu par son évêque de reprendre la vie communautaire et de s’entourer de disciples. Il fonda ainsi le monastère de Mar Saba, la Grande Laure, où les moines vivaient dispersés et en ermites durant la semaine et se réunissaient les dimanches et jours de fête pour célébrer les offices.

Sabas fut aussi employé par l’évêque de Jérusalem pour lutter contre les hérésies qui se répandaient en Orient. Ainsi, il fut par exemple envoyé auprès de l’empereur Anastase en 512, pour tenter de lui faire abandonner le monophysisme. Il mourut dans sa laure à un âge avancé, le 5 décembre 532.