D’une famille originaire d’Antioche, il naquit à Trébizonde, sur la côte nord-est de la Turquie actuelle vers l’an 920. Il fut baptisé du nom d’Abramios. Orphelin très jeune, il fut recueilli et éduqué par une parente fortunée. Il partit ensuite poursuivre ses études à Constantinople, où il devint professeur.
Après avoir rencontré l’higoumène Michel Maleïnos, il décida d’entrer dans son monastère, sur le mont Kyminas, en Bithynie ; c’est alors qu’il prit le nom religieux d’Athanase. Il se lia aussi d’amitié avec le futur empereur Nicéphore II Phocas, neveu de l’higoumène. Quelques temps plus tard, en 958, il se retira dans un ermitage sur le mont Athos.
A la demande de l’empereur, il entama la construction de la Grande Laure sur le mont Athos, qui fut inaugurée en 963. Après la mort de Nicéphore II, ses ennemis le contraignirent à s’exiler à Chypre. Après l’avènement de l’empereur Jean Ier Tzimiskès, en 969, il put retourner à la Grande Laure dont il devint higoumène.
Athanase participa encore à la construction de plusieurs monastères, n’hésitant pas à effectuer de nombreux travaux manuels. C’est ainsi qu’il mourut, emporté par une chute de pierres alors qu’il travaillait à l’édification de la coupole d’une église sur le mont Athos, vers l’an 1003.