Né à Cologne en 935 dans une famille de haute noblesse, il reçut une solide éducation, spirituelle et intellectuelle. Remarquablement pieux, il fut ordonné prêtre, et, après quelques années comme chanoine de la cathédrale de Cologne, il fut nommé évêque de Toul en 963 ; d’une grande humilité, il refusa dans un premier temps cette charge, avant d’être contrait de l’accepter.

Dans son diocèse, il établit diverses écoles religieuses dans lesquels il fit venir des enseignants de toute l’Europe chrétienne, notamment des moines irlandais et des Grecs. Bâtisseur, il fit construire la cathédrale de Toul, qu’il consacra en 981. Il développa et raviva le culte des saints, fonda des abbayes, se déplaçant inlassablement dans les diverses paroisses à sa charge pour y raviver la foi ; il s’assura aussi que les clercs fussent bien formés pour ne pas sombrer dans les nombreuses hérésies qui menaçaient la foi.

Prédicateur infatigable, Gérard lutta aussi pour maintenir l’indépendance de l’Eglise contre les ingérences du pouvoir séculier. Il ne put cependant empêcher la dispersion des biens de son diocèse entre les mains des différents princes qui cherchaient à accroître leurs possessions. Affaibli et malade, ayant totalement épuisé son corps par son zèle charitable, il mourut à Toul le 23 avril 994. Il fut canonisé par saint Léon IX le 21 octobre 1050.