Fils de Léopold II de Babenberg, margrave (comte de la marche) d’Autriche à partir de 1075, il naquit à Melk, en Autriche, le 29 septembre 1073. En 1095, à la mort de son père, il lui succéda à la tête du margraviat d’Autriche. En 1104, il épousa la comtesse Adélaïde de Perg, qui mourut l’année suivante, puis, en 1106, il se maria en secondes noces avec Agnès de Franconie, deuxième fille de l’empereur Henri IV et veuve du duc Frédéric Ier de Souabe.

S’étant vu proposer la couronne impériale en 1125 à la mort de son beau-frère Henri V, il refusa ce titre, préférant s’occuper de l’administration de l’Autriche. Il y fonda notamment plusieurs monastères, en particulier celui de Klosteneuburg en 1108, dans un lieu où il avait retrouvé le voile de sa femme après une apparition de la Vierge Marie. Il permit l’expansion de l’ordre cistercien.

Leopold favorisa aussi le développement de nombreuses villes. Il gouverna toujours avec une grande charité, ouvrant les portes de son palais aux plus miséreux. Il mourut le 15 novembre 1136, des suites d’un accident de chasse. Il fut canonisé par le pape Innocent VIII le 6 janvier 1485. En 1663, il fut choisi comme saint patron de l’Autriche.