Né vers 477, probablement à Frosinone, dans le Latium, il était le fils légitime du pape saint Hormisdas : il naquit quelques temps avant que ce dernier n’entrât dans les ordres. Sous-diacre lors de son élection au pontificat, il fut consacré évêque le 8 juin 536 et directement élevé sur le trône de Pierre.

Le 9 décembre 536, les Byzantins envahirent Rome, menés par le général Bélisaire, ce à quoi Silvère décida de ne pas s’opposer pour éviter un bain de sang. Rome fut alors assiégée par le roi ostrogoth Vitigès, et affamée.

Le pape, malgré qu’il eût ouvert les portes de Rome aux Byzantins, refusa de favoriser l’hérésie monophysites, comme le lui demandait l’impératrice Théodora, femme de Justinien. De ce fait, il refusa de rétablir sur son siège l’ancien évêque de Constantinople, Anthime, que son prédécesseur saint Agapit Ier avait déposé pour hérésie.

Il fut donc emprisonné et déposé par Bélisaire, qui lui fit revêtir l’habit de moine et l’exila sur l’île désolée de Palmarola, au large des côtes italiennes, entre Rome et Naples, et nomma à sa place Vigile, le contraignant à l’abdication. Vigile ne fut toutefois pleinement reconnu qu’après la mort de son prédécesseur.

Silvère mourut de faim, probablement le 2 décembre 537, sur l’île de Palmarola. L’exemplarité de sa vie fit qu’il fut très rapidement vénéré comme saint par les fidèles, culte que l’Eglise approuva officiellement par la suite.