Fils d’un évêque, il naquit à Marseille ou à Narbonne dans la deuxième moitié du IVe siècle. Il se rendit à Rome où il devint un rhéteur réputé. Mais il aspirait par-dessus tout à une vie contemplative et, sur les conseils de saint Jérôme, entra à l’abbaye de Lérins. Là, il se lia d’amitié avec le futur évêque de Marseille Venerius.

Ordonné prêtre vers 427, il fut rapidement nommé évêque de Narbonne. A ce titre, il participa en 431 au Concile d’Ephèse I, qui condamna le nestorianisme et proclama le dogme de Marie Theotokos (« mère de Dieu »). Il tenta de lutter contre l’arianisme que répandaient les Goths, mais ne put empêcher la nomination à Narbonne d’un évêque arien dissident.

Rustique fit reconstruire l’église dédié à saint Genès d’Arles, détruite par un incendie en 441. Il participa à plusieurs synodes d’évêques en Gaule pour statuer sur diverses questions et eut une relation épistolaire avec le pape saint Léon le Grand relative à la discipline ecclésiastique. Il accueillit des catholiques venus d’Afrique du Nord qui avaient fui les persécutions des Vandales. Il mourut à Narbonne vers 462.