Il naquit à Naziance, en Cappadoce, vers 329 ; son père, Grégoire l’Ancien, était évêque de la ville. Au cours de ses études à Césarée de Cappadoce, il rencontra saint Basile le Grand, alors étudiant comme lui. Il voyagea ensuite pour ses études au Proche-Orient et à Athènes. Lors d’une traversée en Méditerranée, alors qu’une tempête s’était abattue sur son bateau et qu’il craignait d’y laisser sa vie, il fit la promesse de consacrer celle-ci à Dieu s’il survivait.

Arrivé à Athènes en 350, il y fit de solides études de rhétorique et de théologie. De retour en Cappadoce en 358 avec Basile, il eut d’abord le projet de mener une vie anachorétique, ce à quoi il dut finalement renoncer. Orienté vers la prêtrise par son père, ce qu’il refusa au départ ne s’en estimant pas digne, il s’opposa en 362 à l’empereur Julien qui interdisait aux chrétiens d’enseigner les matières profanes.

Nommé par Basile évêque de Sasimes en 372, il ne put prendre possession de son siège, empêché en cela par un évêque arien. Il se retira alors dans le désert, mais dut rentrer à Naziance sur injonction de son père. A la mort de ce dernier, en 374, il mena pendant quatre ans une vie cénobitique.

Vers 378-379, il se rendit à Constantinople pour participer à un concile, et se mit à la tête d’un petit groupe de chrétiens fidèles aux enseignements du Concile de Nicée I, la ville étant alors dominée par l’arianisme. C’est à la même période qu’il apprit le décès de Basile, le 1er janvier 379. Accusé d’hérésie, il fut exclu par les ariens de la Divine Liturgie qu’il célébrait pour Pâques en 379. Après la condamnation de l’arianisme par l’empereur Théodose Ier le Grand en 380, l’influence de Grégoire alla grandissant, et il fut nommé évêque de Constantinople en novembre de la même année. Beaucoup de ses sermons de l’époque ont été conservés.

Lors du concile de Constantinople I en 381, qu’il présidait, il se heurta à des opposants qui lui reprochaient de ne pas avoir été nommé évêque légitimement, puisqu’il était déjà évêque d’un autre lieu. Ne parvenant pas à influencer suffisamment les débats pour inscrire de façon formelle la divinité du Saint-Esprit dans le Credo, il démissionna de sa charge.

Retourné à Naziance, Grégoire mit à profit cette retraite pour écrire un grand nombre de textes spirituels. C’est dans cette ville qu’il mourut, le 25 janvier 390, laissant à la postérité un grand nombre d’écrits d’une grande importance théologique. Il fut proclamé Docteur de l’Eglise par saint Pie V en 1568.