Il naquit à Chidame, près d’Edesse, vers l’an 300, dans une famille riche. Pour ne pas déplaire à ses parents, il consentit à l’âge de 20 ans à un mariage, mais avant même que celui-ci fût célébré, il se retira dans une caverne, résolu d’y vivre comme ermite. Ses parents, l’ayant retrouvé après plusieurs jours de recherche, furent tant émus qu’ils consentirent à le laisser suivre sa vocation. Il fit alors murer sa cellule, n’y laissant qu’une fenêtre pour recevoir de la nourriture.

Quelques années plus tard, quand moururent ses parents, sans quitter sa retraite, il fit vendre ses biens afin que les bénéfices en soient distribués aux pauvres. Devenu fort célèbre pour ses vertus, il fut ordonné prêtre, malgré sa réticence initiale, par l’évêque d’Edesse, et envoyé pour évangéliser une bourgade païenne.

Abraham bâtit une église et détruisit les idoles païennes. Après quelques temps durant lesquels il fut maltraité par les habitants, ceux-ci finirent par se convertir. Ayant pleinement accompli la mission qui lui avait été confiée, il se retira à nouveau dans son ermitage, où il demeura encore de nombreuses années. C’est là qu’il mourut, vers l’an 376.