D’ascendance royale mérovingienne, il naquit à Worms, au sud de Francfort, vers l’an 650. Etant entré dans les ordres, il fut nommé évêque de Worms avant 697, date à laquelle il commença d’évangéliser la Bavière. Il en baptisa le souverain, le duc Théodon II, qui l’épaula considérablement dans sa mission.

Ainsi, le duc lui offrit les ruines de la cité romaine de Juvavum, qu’il rebâtit et où il construisit une grande église ainsi qu’un monastère bénédictin : la ville qui naquit ainsi est celle de Salzbourg. Il fut l’apôtre de l’Autriche, terre qu’il évangélisa très largement.

L’évêque et les moines qu’il avait installés développèrent aussi les mines de sel dans son diocèse. C’est d’ailleurs le mot Salz (« sel » en allemand) qui donna son nom à la ville de Salzbourg. Rupert mourut le 27 mars 718, soit à Salzbourg même, soit à l’occasion d’un voyage à Worms.